1975年，蒋介石得知黄维被特赦的消息后，立刻邀请他前往台湾，不仅补发了他被俘27年的中将军饷，还恢复了他的名誉，蒋介石万没想到，黄维竟直接拒绝了他。 1975年3月19日，最高人民法院宣布特赦全部在押战争罪犯，黄维作为最后一批中的重要人物获得释放。这次特赦共涉及293人，他代表全体人员撰写感谢信，并在3月23日招待宴会上宣读。释放后不久，台湾方面得知消息，通过渠道向黄维传递邀请信息。邀请中明确提出补发他从1948年12月被俘起共27年的中将军饷，按照台湾军队当时标准，这笔款项包括军阶补贴，数目十分庞大。同时还提出恢复他过去的身份和荣誉。 黄维收到相关信息后，直接拒绝了这个邀请。他没有接受补发的军饷，也没有选择前往台湾。这个决定在当时引起各方注意，因为黄维曾担任国民党第十二兵团司令官，许多人认为他可能接受安排。但他坚持留在大陆，没有改变态度。台湾方面的邀请发生在特赦释放后的短时间内，内容聚焦于经济补偿和身份恢复，却未能促使他改变选择。 整个过程显示出黄维在面对邀请时的明确立场。他拒绝后继续在北京的安置生活中，没有进一步回应类似提议。这件事成为当时两岸关系中的一个具体事例，体现了个人决定与历史背景的结合。黄维的回应没有留下暧昧空间，而是以直接方式结束了这段接触。 黄维拒绝邀请后，选择留在北京与家人团聚。1975年4月，他被安排到全国政协文史资料研究委员会担任专员，从事审查国民党时期历史资料的工作。他撰写多篇回忆文章，包括关于青年军的回忆、第十二兵团被歼纪要、一寸山河一寸血的淞沪战争以及纪念万家岭战役五十周年等内容。这些文章为历史研究提供了具体资料。 1978年黄维当选第五届全国政协常务委员，随后连任第六届和第七届。他还担任黄埔军校同学会理事和全国政协祖国统一联谊委员会委员，参与促进两岸交流的相关事务。他多次关注家乡江西的建设情况，并几次返回探亲，记录当地发展变化。1980年代，他随团考察南方地区，沿途观察并提交相关提案。 1989年3月20日，黄维因心脏病在北京去世，终年85岁。他的晚年工作集中在文史资料整理和两岸交流促进上，直至去世前仍保持相关活动安排。家人处理后事后，将他安葬在北京。他的经历成为那一代国民党高级将领在时代转变中的一个实例。