组成肾脏结构和功能的基本单位是肾小球及其相连接的肾小管。
肾小球是滤过血液形成原尿的主要结构，在排泄代谢废物、维持体内水电解质及酸碱平衡、稳定机体内环境诸多方面起着非常重要的作用。肾小管主要包括近端肾小管、髓袢及远端肾小管，肾小管上皮细胞具有强大的吸收功能，肾小球滤过原尿的99%都可被肾小管回吸收。远端肾小管的主要功能是回吸收原尿中的水、钾、钠、氯、钙、重碳酸盐、磷酸盐、葡萄糖及氨基酸等物质。
髓袢是连接于近端小管直部和远端小管直部的细直管部分，其主要功能是对水的重吸收，在尿液浓缩中具有重要作用。远端小管的主要功能是对钾、钠、氯化物的代谢及酸碱平衡的调节具有重要作用。
肾脏还具有内分泌功能，能分泌包括肾素、前列腺素、促红细胞生成素、激肽释放酶、激肽系统等多种激素。