621年，李世民下令处死单雄信。刑场上，徐茂公猛然抽刀，割下一块大腿肉，喂给单雄信。单雄信说："当初贾家楼46人结义，如今只有你一人来送我。" 武德四年春，洛阳城破后，李世民身披玄甲，居高临下地望着被押解而来的单雄信。 徐茂公踉跄着从人群中冲出，朝李世民重重叩首："殿下！单二哥虽曾与我军为敌，然其勇武过人，若能收为己用，他日定能为大唐披荆斩棘。" 李世民冷笑着说："披荆斩棘？徐卿可知，他三易其主时，可曾念过半分忠义？翟让待他如手足，李密杀翟让，他跪地乞活；王世充败李密，他又立刻改换门庭。如此反复之人，留之何用？难道还要养虎为患？" 徐茂公额角渗出冷汗，喉结艰难滚动。他想起贾家楼结义那日，单雄信将酒碗重重砸在青石上，豪迈笑道："23号我等歃血为盟，他日谁若背义，便如此碗。" 史书记载单雄信死后，徐茂公不仅收养其子，还将女儿嫁入单家。洛阳城外二十里埋着单雄信首级的小土坡，后来被百姓称作"将军冢"，常有游侠儿洒酒祭奠。李世民晚年曾对尉迟恭感慨："若当年留用单通，玄武门之变怕是要多折三成兵马。" 《旧唐书》里徐茂公传记载，他每年清明必往刑场旧址洒扫，直到贞观十二年病重难行。单家后人直到唐僖宗年间仍在朝为官，家谱里始终把徐世勣列为恩公。洛阳古玩市场近年出土的唐代铜镜，背面铭文刻着"义薄云天"四字，经考证正是徐茂公府上旧物。 瓦岗寨旧部程咬金听说单雄信死讯，连夜带人劫了七车军粮投奔突厥。这事让李世民对降将更不放心，后来整编部队时把降兵都打散了分到各营。单雄信那把七十斤重的金钉枣阳槊，现存于洛阳博物馆兵器厅，槊杆上深浅不一的刀痕正好二十三道。
