慢性肾小球肾炎的鉴别诊断需要与慢性肾盂肾炎相鉴别。慢性肾盂肾炎的临床表现可类似于慢性肾小球肾炎，晚期可有较大量的尿蛋白和高血压，与慢性肾炎很难鉴别。但慢性肾盂肾炎多见于女性，有泌尿器感染病史，如出现尿频、尿急、尿痛、腰痛等症状。并且慢性肾盂肾炎尿液检查可见尿红细胞增多明显，甚至有白细胞管型。尿细菌培养阳性有助于慢性肾盂肾炎的诊断。而慢性肾小球肾炎以尿中反复出现蛋白、红细胞为主。
此外，静脉肾盂造影如果发现肾盂有瘢痕变形，呈杵状扩张，或肾影两侧不对称，放射性核素肾图检查，双侧肾功能损害差别较大，均提示慢性肾盂肾炎。此外，慢性肾小球肾炎还需要与结缔组织疾病肾损害相鉴别。系统性红斑狼疮、结节性多动脉炎等疾病中常伴有肾脏损害，其临床表现多与慢性肾小球肾炎相似。但此类疾病大多同时伴有全身或其他系统的症状，如发热、皮疹、关节痛、肝脾肿大等，化验检查可以发现特征性的指标异常。会出现血清补体水平的明显下降。
此外，还需要与高血压肾损害相鉴别。原发性高血压性肾损害和肾性高血压临床上很难区别，应详细询问病史。患者多有高血压家族史，先有较长期的高血压，其后再出现肾损害，远曲小管功能损伤多较肾小球功能损伤早，尿改变轻微，常有高血压的其他靶器官的损害并发症。如果患者为青壮年，血尿、蛋白尿先发现，而后出现的高血压，则支持肾性高血压。