1950年毛泽东因未收到罗瑞卿报告发火，罗瑞卿回应报告其实早已交给了周总理
1949年7月6日拂晓，北平西山的山风尚带着夜凉，周恩来批改完一叠电报，抬头听到门外传来脚步声，“罗政委请见。”秘书的通报话音刚落，身穿旧军装的罗瑞卿已走进院门。两人寒暄未多，周恩来把话锋很自然地引到新政权的棘手难题——保卫秩序。“南下的仗固然要打，可城里更缺得是会打又懂政治的人。”这句话意味深长。罗瑞卿本想继续随大军南进，听罢沉默良久，只答了声“是”。
当天夜里，罗瑞卿来到香山双清别墅。灯下，毛泽东示意他坐在藤椅旁，语气比白日的周恩来更加直截了当：“公安也是战场，枪口朝外，心要向人民。”毛告知，中央已决定以华北局社会部与中央社会部人员为班底，组建公安部，罗任部长，杨清奇为副。如此安排，是要把战场经验迅速移植到治安领域，击碎残余特务与匪患的最后幻想。

8月14日，公安部在东交民巷一栋旧公馆挂牌办公。9月，第一次部务会议召开，罗瑞卿抛出四个急务：解散反动组织、扫剿盗匪流氓、禁烟禁毒、关闭妓院。随后，全国多地同步行动，特务骨干三千余名交代出组织线索，盗匪五千余人被围捕，毒枭与大烟馆被连根拔除，城市夜里终于亮起连片灯火。治安好转的背后，是军队式指挥链条的迅速落地，也是中央对效率的迫切追求。
朝鲜战争在1950年6月爆发，外部战火让国内安全骤然紧张。10月中旬，罗瑞卿到李克农家里商量情报汇总事宜，席间得知毛泽东因未收到公安部月报而发了火。原来，报表先送到国务院，又因事务繁杂延迟呈阅。罗瑞卿立即进中南海，当面请示。毛停下手中文件，只问一句：“今后能不能直接给我？”自此，公安部逐日呈递要情，中央得以把各省动向装进同一张图表里，这条直达通道也成为日后决策的重要支点。

1951年5月，毛泽东在勤政殿会见罗瑞卿和几位地方公安负责人，既肯定镇反的成效，也点出苗头问题：有的地方捕杀过急。“可捕可不捕的不捕，可杀可不杀的不杀”，毛一字一句，要求捕人、处决的权限收回到省级，必须经党委审核并报中央。随后的文件把“党委领导、群众动员、统一计划、统一指挥”写进工作守则，公安办案开始附带法律程序与批示链，过激倾向得到明显收敛。
同年8月，合肥戏院发生警员闹场、强占座位事件，观众无辜受辱。报告摆到罗瑞卿桌上，他批示“限期严办”，并在部长会议上痛陈：“旧警察留下的臭毛病，一次不治，就要烂遍全身。”很快，各地整风自查。罗亲赴现场督导，责成安徽公安厅公开检讨，涉事人员撤职查办。为堵住制度漏洞，罗与杨清奇参照部队条令，制定《公安人员八大纪律、十项注意》，从着装、言行到办案程序逐条细化，印制小册人手一份，按月考核。

条文之外，他更看重细节。1952年冬，罗在重庆曾家岩派出所过夜，发现门口竖着“非本所人员不得入内”的木牌。第二天天未亮，他就让勤务兵把牌摘下，对值班民警说：“你们挡住的，可能就是来求助的老百姓。”一块小木牌，透出的是机关与群众的距离感，这种现场教育往往比长篇指示更能入心。
公安队伍要强，还得靠人。罗力主在北平先建公安干部学校，后扩展到华东、华中、西南，课程以政治理论、法律知识、侦察技能并重，同时把解放军的队列、体能、射击搬进操场。1956年，北京公安学院成立，他提出“职业化、专门化”八字方针，力图让警察告别杂牌、走向正规。

与此同时，他对警卫工作一丝不苟。毛泽东赴武汉视察，江上风急浪高，罗亲自勘查江心水道，增加护卫船，只为确保万无一失。周恩来夜出民居调研，他提前在暗处布岗，又嘱咐卫士“一律便装，别惊扰街坊”。警卫要守，又不能挡住领袖与人民的血脉联系，这种分寸感，源于他多年战地经验，也影响了后来警卫规程的制订。
1959年，罗瑞卿调回军队，谢富治接任公共安全部部长，汪东兴担任常务副。经过十年整顿与建设，公安系统从零起步到拥有成型组织、纪律和学校，已经能在各省独立应对危害国家安全的大案要案。罗离任时，办公楼里悬挂的八大纪律牌依旧整齐，他挥手嘱咐新班子：“制度在，队伍就不会散。”不少老同志回想那几年，仍记得他在走廊里疾步而过的身影——军帽压得低低，却始终抬着眼，留神每一处细节，这或许正是新中国治安秩序在风雨中站稳脚跟的重要原因。