一药性的不同。六味地黄丸以滋阴补肾为主，配方上比较温和；而知柏地黄丸则重用了清火的药物，兼有清热滋阴的作用。
二成分的不同。六味地黄丸的主要成分是熟地黄、山茱萸、牡丹皮、山药、茯苓、泽泻，辅料是黄酒；知柏地黄丸的主要成分是知母、黄柏、熟地黄、山药、山茱萸、牡丹皮、茯苓、泽泻，辅料为蜂蜜。
三功效上的不同。六味地黄丸主治滋阴补肾，用于肾阴亏损、头晕耳鸣、腰膝酸软、骨蒸潮热、盗汗、遗精；知柏地黄丸主治清热滋阴，用于潮热、盗汗、口干、咽痛、耳鸣遗精、小便短赤。