一九二四年一月二十四日列宁逝世,苏联政府迅速建造了第一座木结构陵墓(建筑师阿列克谢·维克多罗维奇·休谢夫负责项目设计),并于一月二十七日葬礼当天落成.这座陵墓形如金字塔,有三级台阶,使用到一九二四年春季.
一九二四年春,休谢夫又设计了扩建方案,在两侧增建了看台.最初提出的石棺图纸被认为太复杂,技术上难以实现,于是苏联建筑师康斯坦丁·斯潘杰诺维奇·梅利尼科夫(Константин Степанович Мельников )花一个月时间重新搞了八个方案,其中之一被选中批准,紧接着在最短的时间内由设计者本人督造完成,一直在陵墓内使用到二战结束.
现在的混凝土结构陵墓是一九二九至一九三零年休谢夫及其团队基于第二座陵墓的简化版本设计的,使用了砖墙和花岗岩表面,并用大理石、拉长石和斑岩镶嵌装饰.其内建有门厅和悼念大厅,著名画家、建筑师伊格纳季·伊格纳季耶维奇·尼温斯基(Игнатий Игнатьевич Нивинский )负责装修工作,面积一百平方米.一九三零年,新建的看台(建筑师伊西多尔·阿伦诺维奇·法兰西)出现在陵墓两侧,克里姆林宫红场墓园(Некрополь у Кремлёвской стены)也宣告落成.
一九四五年,列宁墓建成了中央看台.同年,休谢夫和雕刻家鲍里斯·伊万诺维奇·雅科夫列夫(Борис Иванович Яковлев)共同设计的新石棺取代了梅利尼科夫的旧石棺.一九五三年至一九六一年间,因为陵墓内停放了斯大林遗体,所以被称为"列宁和斯大林墓".

一九五三年陵墓入口安装的花岗岩石板上"列宁"一词被改写为"列宁和斯大林",直到人们在乌克兰日托米尔州找到了一整块罕见的六十吨重巨型拉长石.有传言称:被抹掉的"列宁"旧字样会在极寒天气从白霜下隐约显现出来.一九五八年,石板上的铭文又被改为"列宁"居上"斯大林"居下.一九六一年,写有列宁名字的旧石板被放回其本来位置,同时决定为斯大林举行葬礼,准备将两位领袖的石棺移入筹建中的先贤祠,但后者终未建成.