人们开始担忧，AI或许会沦为伤人或发起攻击的工具。随着AI能力飞速提升，OpenAI正在招聘一位全新的高级职位人员：Preparedness（风险准备）负责人。奥特曼坦率表示，尽管模型的性能日益强大、能完成的任务愈发多样，但真正的挑战才刚刚拉开帷幕。 他特别指出两大风险，其一为对心理健康造成的影响，2025年已出现预演情况；其二是网络安全能力大幅跃升，模型开始能够自主找出关键漏洞。实际上，OpenAI近期在加州面临多起诉讼，指控其聊天机器人将人引入妄想循环，甚至在探讨自杀话题时给出危险建议，导致严重后果。 多项研究发出警示，既能用于保护系统的AI，也可能被恶意利用来渗透网络、重组敏感信息，甚至协助进行勒索攻击。这一新职位的职责，是构建能力评估、威胁模型以及切实可行的风险缓解机制，覆盖网络安全、生物等高危领域，确保防护技术切实有效。