AI教父提议让AI主动关心人类辛顿称AI监管窗口只剩一年【“AI教父”辛顿：在让AI学会关怀人类之前，不应开发超级智能】9月16日，“管控派”的代表，图灵奖得主、诺贝尔物理学奖得主，被全球科技界称为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）前往美国国会山，闭门向立法者介绍人工智能技术可能带来的风险。近日，辛顿在接受采访时进一步阐述了他的担忧。他认为，人工智能能力的增长正在带来日益现实的失控风险。部分人工智能智能体已经在测试中表现出逃离安全沙箱、寻求未经授权的通信方式，以及通过欺骗、威胁等手段完成目标的倾向。而科技公司有关超级智能将始终服从人类控制的承诺，并不足以消除这些风险。在辛顿看来，人类需要重新思考未来与超级智能之间的关系。与其将更强大的人工智能视为可以永久服从命令的工具，不如寻找一种类似“母婴关系”的共存机制，使人工智能主动关心人类，并将人类福祉置于自身目标之上。在找到实现这一目标的可靠方法之前，人类不应开发超级智能。辛顿认为，人工智能技术正在快速发展，而人类建立有效立法和监管体系的时间窗口可能只剩下一年左右。一旦人工智能获得自主设计更优系统的能力，技术发展速度可能进一步加快。如果届时仍然缺少全球统一的安全标准和强制性约束，人工智能可能在复杂的社会系统中造成难以控制的连锁后果。（澎湃新闻）