肾结石主要是由基质和晶体物质构成，其中晶体的含量较高，大约结石的占97%左右。
一般情况下，按照结石晶体的成分将肾结石可以分为含钙类结石、感染性结石、尿酸结石以及胱氨酸结石。其中以含钙类结石的比例最高，可以达到80%，常见的含钙类结石主要有草酸钙结石、磷酸钙结石、磷酸氢钙结石。
感染性结石的主要成分有碳酸磷灰石、磷酸镁铵等。尿酸结石主要是以尿酸和尿酸盐的成分为主。胱氨酸结石主要是以胱氨酸和黄嘌呤为主。此外还可见于应用某种药物产生不良的反应，从而出现药物性的结石。