八宝山公墓陵园分为墓区和骨灰堂两大部分，墓区有三个。墓地或骨灰的安放格局遵循生前的政治级别而定。第一墓区，位于整个公墓北向顶端，主要安葬已故党和国家领导人以及副部级以上干部、民主党派领导人士。因此，一墓区是公墓中政治级别最高的地方。第二墓区，进入大门后的两侧是第二与第三墓区，他们占据了公墓最显著的位置，是在一墓区形成后扩建而成的，这两块墓区主要以级别较低的县团级干部为主。

第一墓区的第一位主人，也是八宝山公墓陵园建成后所入葬的第一位，就是素有“中国人民骆驼”之称的任弼时同志。他是新中国成立后去世的第一位国家领导人，他的墓占地三百多平方米，在公墓中面积最大，被称为“八宝山第一墓”。之后，任中华人民共和国中央人民政府第一任副主席的民主人士张澜去世，葬于其墓之西。1955年，纪念原中共领袖瞿秋白同志逝世20周年时，将其墓迁到八宝山，置于任弼时墓之东。在此基础之上，第一墓区逐渐形成。此后，第一墓区不断扩大，位置排列自然形成，并形成了一定的规律。以任弼时墓为基准，平行两侧为政治局常委级别人物，包括彭真、姚依林、陈云、李先念。再往下第二级台阶，有一些四副两高（国家副主席、全国人大副委员长、国务院副总理、全国政协副主席与最高人民法院院长、最高人民检察院检察长）人物和部队高级将领。在自然形成的过程当中，形成了第一墓区东侧主要是党的领导干部，西侧则多为民主人士的独特布局。

在第二墓区和第三墓区，主要埋葬的是级别较低的县团级干部，安葬的多是逝世于20世纪五六十年代的革命人士，除此之外，还有科学、教育和文化界的著名人士。位于西侧的第二墓区有林徽因、徐悲鸿、闻一多、史沫特莱等人的墓地。第二、三墓区并没有根据逝世者身份来进行专门的顺序安排，而是根据去世时间的先后顺序，进行依次建墓。第二、三墓区的墓庄重朴素、形式统一，每块占地一平米左右，墓盖以水泥制成，墓碑为汉白玉石雕刻，这里的墓下安葬几乎都为未经火化的遗体。

从上文可以看出，八宝山的墓穴用地，是根据干部的高低级别划分来确定的，安葬者需按照第一、二、三墓区的不同级别顺序及面积大小来使用，不得挑选和扩大。至于墓盖、石碑、月台的尺寸，均针对不同级别的干部做了详细的规定。前来办丧者，一律凭上级单位所开具的介绍信（须注明死者生前级别、担任职务）来确定入葬者将安葬在哪个墓区，这方面是没有丝毫通融的，也就是不搞特殊化，一律跟着规矩走。