1949年10月新中国成立时，并没有立即普选产生人民代表大会，这是由于当时普选的条件还不具备，主要是军事行动还没有完全结束，土地改革还没有彻底完成，各界人民群众还没有充分组织起来。
　　在1954年9月15日第一届全国人大一次会议召开前，中国人民政治协商会议的全体会议执行全国人民代表大会的职权。在地方设有各界人民代表会议。这种人民代表会议的组织形式在第三次国内革命战争时期就存在。新中国成立初在地方建立的这种各界人民代表会议组织形式与人民代表大会相比，其特点在于：1、出席会议的代表是由各界人民协商产生的，其中一部分是由人民政府邀请的。周恩来说过，凡是通过普选方式产生出来的会，我们叫大会，凡是通过协商方式产生的会，我们叫做会议。大会和会议名称的区别就在这里。2、各界人民代表会议是人民民主统一战线的组织形式，它是人民政府联系群众和传达政策的协议机关和咨询机构，还不是政权机关，只有（经批准）在它代行了人民代表大会职权时，才成为过渡性的权力机关，这是各界人民代表会议与人民代表大会性质上的不同。
　　人民代表大会制度是由1949年9月21日至9月30日召开的中国人民政治协商会议第一届全体会议于9月29日通过的《中国人民政治协商会议共同纲领》确定的。
　　1953年1月13日中央人民政府委员会第二十次会议通过了《关于召开全国人民代表大会及地方各级人民代表大会的决议》，认为召开由人民用普选方法产生的人民代表大会的条件已经成熟。
　　1953年2月11日，中央人民政府委员会第二十二次会议通过了选举法。4月3日，中央选举委员会发出了关于基层选举工作的指示。从1953年下半年，开始了我国历史上第一次规模空前的普选（1953年6月30日人口普查的结果是，全国有601，912，371人。登记选民323，809，684人，参加投票2．78亿人，占登记选民总数的85．88％）。
　　1954年6月完成了普选。6月至8月中旬由下至上县、市、省逐级全部召开了人民代表大会会议。1954年9月15日一届全国人大一次会议召开，标志着人民代表大会制度在全国范围内建立起来。这次会议制定的宪法和其他相关法律对人民代表大会制度作出了系统的规定。
　　1954年9月20日一届全国人大一次会议通过的宪法规定，全国人大设常委会，没有规定地方人大设常委会。1954年制定宪法的时候，宪法草案交由全民讨论。在讨论时有人提出，地方各级人民代表大会也应该和全国人大一样设立常委会。但当时认为，全国人民代表大会工作繁重，当然不是地方各级人民代表大会所能够相比的。全国人民代表大会行使国家立法权，地方各级人民代表大会没有这方面的职权。而且越是下级的人民代表大会，因为地区越小，就越容易召集会议。所以地方各级人民代表大会不需要在人民委员会以外另设常务机关。地方各级人民委员会是地方各级人民代表大会的执行机关，同时也行使人民代表大会常务机关的职权。如果另外设立人民代表大会的常务机关，反而会使机构重叠，造成不便。
　　由于县级以上地方人大不设常委会，经过一段时间实践后，发现这种地方政权体制存在一些问题不好解决。主要是：
　　（1）地方人大在实践中没有做到每年召开两次或四次会议。由于当时人大会议的议题本来就具有年度性质，许多议题一经规划、决定和批准后，很难在6个月或3个月时间内找到明显反映全面结果的段落作为议程，提到人大会议上讨论、决定。多数省的行政区域幅员辽阔，代表参加会议旅途较远，费时较长。很多人大代表是下一级党委、政府的负责人，有些是各行各业的工作骨干，如果开会次数多了，会给工作和生产造成一定影响。在实践中，省、直辖市人大每年召开两次会议的规定没有执行下去。为了承认这种现实，全国人大常委会专门作出决定，明确提出省、直辖市的人大可以每年召开一次会议。
　　（2）在代表大会闭会期间，人民委员会行使权力机关常设机关和执行机关的双重职能。既任免自己的组成人员，还任免法院的工作人员。1955年11月8日，一届全国人大常委会通过有关决定，把闭会期间省长、自治区主席、市长、州长、县长、区长、乡长、镇长和地方各级人民法院院长缺额补充的权力交给了地方人民委员会。人民委员会任免自己的组成人员，造成权力机关与行政机关不分，自己监督自己。人民委员会任免法院的工作人员，不利于国家权力机关对司法机关进行监督，体制上也是一个缺陷。人民委员会承担的工作过多，也不便于组织精干的地方政府机关，甚至会影响地方政府本身的工作。
　　（3）在代表大会闭会期间，地方人大有些日常工作不是人民委员会能承担得了的，比如主持本级人民代表大会代表的选举，召集本级人大会议，保持同人大代表的经常联系，发挥代表的作用，等等，都需要地方人大单设一个机关来处理。
　　为了解决地方政权体制的这个问题，1957年上半年，全国人大常委会对如何进一步健全人民代表大会制度问题进行了专题研究。全国人大常委会副委员长兼秘书长彭真提出，现在，省、市、自治区和县人大没有常设机关，在大会闭幕之后，没有一个对政府工作进行经常监督的机关。这种“议行合一”的制度，在今天就不完全适宜了。因此，在县级以上地方人大有考虑设立常委会的必要。根据中央指示，全国人大常委会党组经过反复研究，在1957年5月8日提出了关于健全人民代表大会制度的方案，其中包括县级以上地方各级人大设立常委会，赋予省级人大及其常委会制定地方性法规的权力等，将原来由人民委员会行使的一部分职权划归给同级人大常委会，并向中央写了报告，还拟出了修改宪法的方案和关于县级以上地方各级人大设立常委会的决议草稿，准备提请即将召开的一届全国人大四次会议审议。随后发生的反右斗争扩大化，使地方人大设立常委会的方案搁置下来。
　　1965年，全国人大常委会根据实际需要，又一次提出了县级以上地方各级人民代表大会设立常委会的问题。当时的考虑是，一方面，随着社会主义革命和建设事业的发展，新的工农业生产高潮正在形成，我国地方政权机关的任务十分繁重，有必要迅速提拔一批年轻力壮的干部到政府工作。另一方面，县级以上地方各级人民代表大会一年只召开一两次会议，难以发挥权力机关的作用。设立常委会，可以在人大闭会期间，开展经常性工作，对本地区一些重大问题及时讨论并作出决定，特别是加强对政府工作的监督。这时，对县级以上地方人大设立常委会的问题，已经取得了一致意见。有两个省提出了设立人大常委会的方案，报请中央批准。但不久发生了“文化大革命”，县级以上地方人大设立常委会的方案又搁置下来了。
　　1978年底，召开了十一届三中全会，系统总结了历史经验特别是“文化大革命”的沉痛教训，果断地作出了把全党全国工作的重点转移到经济建设上来的战略决策，提出了加强社会主义民主法制建设的重大历史任务。适应这一要求，县级以上地方人大设立常委会的问题再一次被提了出来。1979年2月，全国人大常委会法制委员会在征求对地方组织法修订稿意见时，许多地方提出，省、自治区、直辖市、设区的市、自治州、不设区的市、县和市辖区的人大应当建立常设机关。有的同志还建议把当时的革命委员会改为地方人民政府。
　　根据这些意见，1979年5月17日，法制委员会主任彭真同志专门向中央写了报告。报告中说，关于这个问题，现在有三个方案：(一)用立法手续把革命委员会体制固定下来。这样做，不赞成的人可能很多。(二)取消革命委员会，恢复人民委员会。这样做，在名义上虽然取消了革命委员会，但对于扩大人民民主、健全社会主义法制不一定能有多大实质性的帮助和改进。(三)县以上地方各级人民代表大会设立常务委员会，并恢复人民委员会（包括省长、市长、县长等职称），这个方案可能比较好些。中央领导同志审阅了这个报告，邓小平同志当即批示：“我赞成第三方案”。
　　在五届全国人大常委会第八次会议上，法制委员会提请审议的地方组织法草案中明确规定县级以上地方各级人大设立常委会。
　　在这次全国人大常委会会议上，大家一致同意县级以上地方人大设立常委会的地方组织法草案和《第五届全国人大常委会关于在县级以上地方的各级人民代表大会设立常委会，取消地方各级革命委员会，设立地方各级人民政府，将县、自治县人大代表改由选民直接选举，将各级人民检察院的关系由监督改为领导的议案》（即后来的《关于修正中华人民共和国宪法若干规定的议案》），提请五届全国人大二次会议审议。
　　五届全国人大二次会议于1979年6月18日至7月1日召开，7月1日表决通过了《关于修正中华人民共和国宪法若干规定的决议》和7部法律。这次会议通过的修宪决议和地方组织法明确规定，县级以上地方各级人大设立常委会。
　　1979年9月13日五届全国人大常委会十一次会议通过了《关于省、自治区、直辖市可以在1979年设立人民代表大会常务委员会和将革命委员会改为人民政府的决议》。
　　1979年下半年地方人大常委会陆续设立以后，由于它是新生事物，如何开展工作需要研究。1980年4月18日，全国人大常委会召开了省、自治区、直辖市人大常委会负责人第一次座谈会。在这次座谈会上，彭真委员长发表了《关于地方人大常委会的工作》的重要讲话。讲话指出，过去地方人大一开过代表大会就没有事情了，这次规定县级以上地方人大设立常委会，在大会闭会期间，人民通过人大常委会和人民政府来管理国家。他还讲了地方人大常委会的任务、职权。在这里，彭真第一次把地方人大及其常委会的主要职权划分为立法权、重大事项决定权、人事任免权、监督权。他还讲了各级人大常委会之间如何联系，彭真说，根据法律规定，各级人大常委会直接对本级人大负责并向它报告工作，上一级人大常委会与下一级人大常委会要加强联系，但是，它们之间没有领导关系。彭真还讲了坚持党的领导和发挥国家权力机关作用的问题，讲了地方人大常委会的机构、编制问题，他说，人大常委会是权力机关，也是工作机关，不是“养老院”，不是“清谈清谈”、“建议建议”，而要依法行使权力，进行工作。
　　在1981年3月7日召开的省级人大常委会负责人座谈会上，彭真同志作了讲话，主要讲了三个问题：全国人大和省级人大常委会的关系问题，党的领导问题，民主集中制问题。
　　中共中央印发文件批转了彭真同志的这两个讲话，中央在通知中指出：一、县以上地方各级党委要把加强对地方人大常委会的领导作为自己的一项重要任务，定期研究人大常委会的工作，凡是按照法律规定，应当提交人大常委会审议的事项，都要提交人大常委会讨论。党委研究人大常委会的工作时，可以通知人大常委会负责实际工作的党员领导干部列席会议。二、各级党委要根据人大常委会工作开展的需要，本着精干节约、逐步充实的原则，及时解决人大常委会办事机构的设置、人员编制和经费问题；对人大常委会的办公地址和办公用房，也要根据工作需要，适当安排。
　　在这之后，彭真同志又在省级人大常委会负责人座谈会上多次发表讲话，这对刚刚成立的地方人大常委会正确履行职责、开展好工作，起到了重要的指导作用。