人工智能 ｜人工智能 ｜ai 教皇在这篇通谕（5月25日《Magnifica Humanitas》）中提出的AI时代绝对不能突破的底线是什么？最主要的，可以概括为如下三种：

1. 禁止“致命自主武器系统”。将生杀大权完全交给算法，让AI自主决定攻击目标，是“不可接受”的。杀人的责任必须由拥有灵魂和良知的人类承担，而一个算法无法被审判，也无法被问责。

2. 禁止“大规模社会监控”。防止利用AI对所有公民进行普遍、无差别的监控，以预测和压制其行为。当人们感觉时刻被审视时，自由、创造力和自发性将消亡，社会将变成一座数字化的“圆形监狱”。

3. 禁止“人的工具化”。不能将人简化为数据、效率指标或系统中的“齿轮”，尤其是在劳动领域。人是目的，不是工具。当AI系统仅仅为了效率而把人当作可替换的资源时，就构成了“新型奴役”。

来源：孙立平社会观察