1953年6月，曾经统治上海滩的“三大亨”之一黄金荣在上海家中安静地离世。这一消息传出后，引发了众多人的不解。黄金荣曾是上海的毒瘤，依靠贩卖鸦片和经营帮派，使无数人家破人亡，青帮的势力更是让人闻风丧胆。在许多人看来，上海解放之日就该是黄金荣的末日，因此，青帮另一大佬杜月笙选择了逃往香港，而蒋介石则劝黄金荣离开上海，“为了安全着想，去香港或台湾才是明智之举。”然而，黄金荣最终还是决定留在上海。之后，得知陈毅对待黄金荣的方式，蒋介石忍不住感慨道：“我们确实不如陈毅。”

1949年，国民党的败局已成定局，蒋介石对共产党能否成功管理上海持怀疑态度。他公开宣称，共产党或许能够攻下上海，但想要真正治理这座城市却是不可能的。“或许几个月后，共产党就会不得不撤出上海。”蒋介石的话语中虽然带有讽刺，但也道出了上海局势的复杂。黑帮横行、走私盛行，还有西方势力的介入，使得上海成为一块难啃的硬骨头。

陈毅意识到了治理上海的挑战性。在解放上海之前，他向中央请求暂缓进攻，以便在丹阳进行军事和政治训练。他强调，进攻上海时不使用重炮，士兵不得随意闯入民宅，即使是伤员，也要送回后方医院。他指出，只有严格的军纪才能赢得上海市民的信任和支持。毛主席对陈毅的提议非常认同，指示上海“绝对不能乱”。1949年5月底，解放军成功解放上海。市民们看到解放军士兵睡在大街上的场景，深受感动，这一幕被西方记者拍摄下来，引发了国际社会的关注。

陈毅明白，打下上海是一回事，治理好上海是另一回事。他认为，团结一切可以团结的力量，是维护上海稳定的关键。在旧上海，黑帮势力庞大，青帮作为黑帮的领头羊，其成员数以万计，影响深远。要稳定上海，首先要解决黑帮问题，而黄金荣作为青帮的大佬，自然成为关键人物。在上海解放之前，共产党就已经注意到黄金荣的重要性。黄金荣在上海的影响力巨大，他的支持对于共产党稳定局势至关重要。为此，党组织通过章士钊的夫人传话给黄金荣，只要他支持共产党，不再做损害人民的事情，过去的罪行将不被追究。这个承诺让黄金荣最终决定留在上海。

上海解放后，陈毅兑现了承诺，不追究黄金荣过去的罪行。黄金荣也表现得相当配合，不仅交出了帮会成员名单，还约束手下不再为非作歹。面对民众要求清算黄金荣的呼声，陈毅没有草率行事，而是再次接见黄金荣，重申不追究过去的原则。但为了回应民众的情绪，他要求黄金荣写一份悔过书，以示对上海人民的交代。1951年5月7日，黄金荣在报纸上公开了他的悔过书，表示从今往后绝不做对不起党和人民的事，还呼吁青帮成员重新做人，并主动向政府自首。为了缓和市民的愤怒，陈毅还安排八十多岁的黄金荣上街扫地，这一举动迅速传遍上海，令民众震惊，也大大降低了对黄金荣的敌意。

蒋介石在台湾得知此事后，对儿子蒋经国感慨道：“陈毅处理黄金荣的方式确实高明，让人不得不佩服。”蒋经国也深表赞同：“陈毅此举，不仅展现了共产党的公正无私，也有效震慑了潜在的不法分子，确实是高明的策略。”

除了处理黑帮问题，陈毅在其他方面的努力也不可忽视。他积极团结上海的民族企业，推动工商业复苏。上海解放初期，工厂开工率不足一半，工商业界对共产党的到来持观望态度。陈毅主动与荣毅仁等大企业家会谈，表示共产党会全力支持工商业的恢复，并成立“劳资协商委员会”，促进劳资双方合作，为上海经济的快速复苏奠定了基础。

娼妓问题是另一个影响上海稳定的因素。虽然政府关闭了妓院，但很多妓女转入地下活动。陈毅指示相关部门采取行动，收容了4000多名暗娼，并为她们提供免费体检和治疗。同时，政府还为这些妇女提供职业培训，帮助她们找到新的就业机会。短短两年，娼妓问题得以解决，甚至被印度媒体称为“东方的奇迹”。