解放战争时期，由于中国革命形势的迅速发展，中国共产党所领导的武装力量建立统一的纪律和统一的指挥，已经成为一个迫切的任务了。1947年10月，毛泽东亲自写了《中国人民解放军总部关于重新颁布三大纪律八项注意的训令》，指出“本军三大纪律八项注意，实行多年，其内容各地各军略有出入。现在统一规定，重行颁布。望即以此为准，深入教育，严格执行。至于其他应当注意事项，各地各军最高首长，可根据具体情况，规定若干项目，以命令施行之。”训令对三大纪律八项注意的内容作了统一的规定。三大纪律是：一、一切行动听指挥；二、不拿群众一针一线；三、一切缴获要归公。八项注意是：一、说话和气；二、买卖公平；三、借东西要还；四、损坏东西要赔；五、不打人骂人；六、不损坏庄稼；七、不调戏妇女；八、不虐待俘虏。这些纪律，曾经是红军以及后来的八路军、新四军、人民解放军政治工作的重要内容，对于人民军队的建设，对于正确处理军队内部关系、团结人民群众和确立人民军队对待俘虏的正确政策，都起了重大的作用。时至今日，三大纪律八项注意仍然是中国人民解放军人人必须牢记的首要纪律。它对于人民军队保持高度的集中统一，保持同人民群众的血肉联系以及推进人民军队建设极其重要和必要。

建国后，在相当长的时间里，党与人民群众保持了在革命战争时期的那种亲密关系。广大党政干部真心为人民群众办好事、办事实，赢得了人民群众的衷心拥护。但1957年后，随着党内“左”倾思想的发展，干部队伍中脱离实际、脱离群众的倾向开始出现。在为期三年的大跃进中，由于指导思想的严重“左”倾，党员干部队伍中的“共产风”、“浮夸风”、“强迫命令风”、“生产瞎指挥风”和“生活特殊化风”等“五风”盛行，严重损害了人民群众的根本利益，导致党群关系、干群关系的严重紧张。对此，毛泽东要胡乔木仿照部队的“三大纪律八项注意”，制定一个适用于党政干部的“三大纪律八项注意”。时任中共中央书记处候补书记的胡乔木于1961年1月8日，就拟订党政干部“三大纪律八项注意”问题给毛泽东写了报告。报告说，关于全国党政干部适用的“三大纪律八项注意”，研究了各省的一些类似的规定和宪法、刑法草案、党章等，并与许多同志交换了意见，现拟了一个稿子送上，请看可否印发中央工作会议讨论一下。

胡乔木所拟稿中的“三大纪律”是：一、有事同群众商量，永远同群众共甘苦；二、重要问题事前请示，事后报告；三、自己有错误要检讨纠正，别人作坏事要批评揭发。“八项注意”是：一、保护人民安全，打人要法办，打死人要抵命；二、保护人民自由，随便罚人抓人关人搜查要法办；三、保护人民财产，侵占损害人民财产要赔偿；四、保护公共财产，贪污盗窃假公济私要赔偿；五、用人要经过组织，不许任用私人；六、对人要讲公道，不许陷害好人包庇坏人；七、对上级要讲实话，不许假报成绩隐瞒缺点；八、对下级要讲民主，不许压制批评压制上告。胡乔木这个稿子中的规定有的有很强的针对性，但用语不那么简洁明快。