在本周在布鲁塞尔举行的诺贝尔奖对话会上，几位诺贝尔奖获得者和一位世界领先的人工智能研究人员强调了人工智能在支持研究、科学对民主的贡献以及在人工智能时代批判性思维的重要性。

这三位科学家分别是：本·费林加（Ben Feringa），他是荷兰的一位教授，因其在分子机器研究方面的成就而获得了2016年的诺贝尔化学奖；保罗·纳斯（Paul Nurse），他是英国的一位科学家，因其在遗传学领域的研究而获得了2001年的诺贝尔生理学或医学奖；德米斯·哈萨比斯（Demis Hassabis），他是一位英国的人工智能研究人员，也是Google DeepMind的联合创始人兼首席执行官。

哈萨比斯表示：“我们现在正处于一个令人难以置信的转折点。”“也许在未来的十年里，我们将进入一个科学发现的新黄金时代，人工智能将在许多领域发挥作用。”他的实验室正在研究一个大型语言模型，可以像一个研究助手一样工作。

这些科学家与两位诺贝尔和平奖得主以及三位顶尖的民主研究人员一同参加了在布鲁塞尔举行的第一次诺贝尔奖对话会议，讨论了“事实与虚构：民主的未来”。菲律宾记者玛丽亚·雷萨（Maria Ressa）于2021年获得诺贝尔和平奖，乌克兰公民自由中心（Center for Civil Liberties）的负责人奥莱克桑德拉·马特维丘克（Oleksandra Matviichuk）获得了2022年的诺贝尔和平奖。

这次为期两小时的活动于3月5日在布鲁塞尔的美术宫和线上举行，由诺贝尔奖宣传部与欧洲研究理事会（European Research Council, ERC）合作举办，得到了欧盟比利时轮值主席的支持。

活动的前提是，理解科学是理解世界的关键，并且由人工智能生成的错误信息会影响依赖于基于事实的世界观和科学以及能够汇集大规模多样化社区的民主制度。

ERC主席玛丽亚·莱普丁表示，诺贝尔组织与欧洲研究理事会对科学和发现具有共同的兴趣。欧盟在2012年获得了诺贝尔和平奖，许多受到ERC资助的研究人员后来也获得了诺贝尔奖。ERC在2021年至2027年间拥有庞大的160亿欧元（174.9亿美元）预算，用于资助各个领域的基础研究。

人工智能正在加速研究

在关于人工智能、科学和社会的会议上，诺贝尔奖获得者费林加和纳斯以及Google DeepMind首席执行官哈萨比斯与欧洲委员会副主席贝拉·约罗娃（Vera Jourová）一同出席，由莱普丁主持。

哈萨比斯表示：“我一生都致力于人工智能的研究，因为我一直认为它有潜力成为帮助我们进行科学研究和加速科学发现的终极工具。”“如果你从抽象的角度来考虑人工智能，它是一个可以理解大量数据、找到数据中的模式、洞察和结构的系统或工具。”

哈萨比斯是AlphaFold的开发者，它是一种基于深度学习的算法，可以准确预测蛋白质的结构。AlphaFold正在解决蛋白质折叠的问题，试图从其氨基酸序列中找到蛋白质的三维结构。

哈萨比斯告诉与会者：“这对药物发现和疾病理解有着种种影响。在过去几年里，我们已经预测了超过2亿个蛋白质的结构，几乎包括科学上已知的每一种蛋白质，而这本来需要许多，实际上是数百万年的实验工作。”

“所以我们正在看到生物学的革命，它将应用于化学、材料科学、物理学和数学等其他领域。所有这些科学学科都将从人工智能中受益。”

生物学家纳斯表示，AlphaFold对他的实验室产生了重大影响，他们经常使用这个算法。这种算法使科学家能够将序列转化为生物化学。“它并不总是正确的，但它足够正确，是一个很棒的工具，”他说。

尽管AlphaFold非常有用，但对于研究人员来说，ChatGPT“几乎是无用的”，纳斯表示。他是伦敦弗朗西斯·克里克研究所的所长，曾任英国皇家学会主席、英国癌症研究协会主席和洛克菲勒大学校长。“我们得到的回复有点像中等水平、高中生对某个领域的评估。也许它会变得更好。”

位于荷兰格罗宁根大学的费林加是ERC科学理事会的成员，他举了一个人工智能的应用例子。“比如，如果你想制造一种治疗乳腺癌的新药物，有时你需要进行35或40个不同的化学转化、化学步骤，就像乐高积木一样，来构建一个复杂的分子。”

他解释说：“为了设计这些路径，可能会有上百甚至上千种可能性。我们从化学文献和物理文献中收集的全部信息，我们使用这些程序来设计路径。”最终人类决定采取最佳的路径。借助人工智能，药物的制造将变得更加容易。

另一个例子是头发洗发水，这是一种令人惊讶的复杂物质。费林加说：“我们正在实验室中构建机器人系统。我们向机器人提供数据，他们进行有选择的实验。因此，我们不需要做数千次实验，只需要做100次左右，就可以得到正确的组合，并获得制造优质洗发水所需的信息。”

人工智能作为研究助手

捷克政治家和律师约罗娃与科学家们一同表示，虽然目前存在缺陷，但生成型人工智能将会变得非常有用。“我希望ChatGPT能蕴含睿智。”费林加表示，解决生成型人工智能的“垃圾进、垃圾出”的问题是对质量数据进行训练。纳斯希望ChatGPT能更有活力和想象力。

哈萨比斯表示，尽管人们对聊天机器人产生了“疯狂的热情”，但最有趣的人工智能系统是为科学事业而专门设计的，比如AlphaFold。“我们将会看到更多这类系统的发展。”

与此同时，聊天机器人的研究工作还在进行中。“我们在解决人工智能系统普遍存在的一个核心问题，即确保它们不会产生幻觉，始终坚持事实。那样的话，在研究助理级别上，它们可能是相当有用的，可以对一个领域或一系列论文进行总结，然后高级科学家可以帮助建立联系。”

哈萨比斯继续说道：“实际上，我们正在开发一个大型语言模型，可以像一个研究助手一样，也许可以帮助预测实验的结果。你可以想象描述一个实验，然后它也许会给出一些看法。这些事情可能在未来几年内实现。”

此外，像AlphaFold这样的软件系统实际上是在帮助人们探索可能性。无论是在化学、数学、物理还是生物学领域，研究人员都在努力寻找答案，就像在一个干草堆中找针一样。

哈萨比斯说：“这实际上是许多科学的核心。如果你能以这种方式描述问题，那么我们现在正在构建的这类人工智能系统将非常有用。它们具有巨大的潜力。”

批判性思维必不可少

莱普丁提醒观众们早些时候讨论的算法风险，即基于通过恐惧、仇恨、愤怒和不信任获取点击的算法。

费林加对人工智能和其他技术持积极态度，但他强调：“批判的态度至关重要。”大学科学家的首要任务之一就是培养学生具备批判性思维。“思考，这意味着什么？这个分析基于哪些数据集，其输出的质量如何。”

纳斯看到的是机遇。“因为过去，如果你想研究一个主题，你会去图书馆，翻阅期刊，可能需要花费数天、甚至数周的时间才能整理出结果。现在，坦率地说，这已经相当无聊了。所以将这项工作缩短到几分钟内是一件好事。”

他认同下一步所需的是批判性思维。“所以我们从翻阅图书馆中节约出的时间可以用于带有教育意义的批判性思维。”

学术界必须确保用于生成分析的数据质量良好。此外，确保研究中使用的算法能够按照研究人员的期望进行工作至关重要。最后，科学家必须了解正在发生的事情：“我们不能愚蠢地只是按下电脑上的按钮。”

约罗娃认为，自主个体的批判性思维至关重要。“因为我们在这个数字时代所见到的趋势是，越来越多人倾向于形成群体，个体消失了。”

在工作时，约罗娃考虑的是人——选民、公民——他们应该能够区分真假。在民主选举中，选民知道是否有真实的求职者在与他们说话很重要。

根据欧洲正在测试的人工智能规则之一，AI生成的文本、图像或其他材料必须标记，以便公民可以知道某个内容是否是由人工智能生成的。对于社交媒体平台来说，积极主动地系统地删除深度伪造内容是很重要的。

除了Twitter（现在改名为X）之外，所有的大型科技公司都承诺要么标记AI生成的内容，要么将其删除，“以便人们能够确信自己所读到的内容，”约罗娃说道。“如果没有这样的机制，我们将看到隐藏的操纵。那时，我们将无法谈论自由和公正的选举。”

希望、科学与民主

关于人工智能和民主，哈萨比斯表示，如果使用得当，AI可以成为解决问题的一部分。例如，可以使用水印和合成身份证（Synthetic IDs）等方式，利用人工智能对材料进行标记，以便政府、记者和其他人士可以检测到它们。“可以自动标记，并且很难被黑客或恶意行为者删除。”

人工智能也可以在网络安全等领域起到防御性的作用。“我认为人工智能将成为我们的民主制度保卫自身的非常重要的工具，”他说道。

如果使用得负责任，人工智能可以加速创造力和创新，并可以帮助解决当今社会面临的许多挑战，如医疗系统和气候变化。

哈萨比斯表示：“人工智能可能是民主制度的一项令人难以置信的力量，加速我们已经擅长的创新、科学和发现新知识，包括真理。”费林加引用了耶路撒冷希伯来大学的历史学教授尤瓦尔·诺亚·哈拉利，他说在过去，权力掌握在拥有信息的人手中，而在未来，权力将掌握在那些知道如何在海量信息中找到有价值信息的人手中。

约罗娃选择引用一句常被引述的匿名名言，即“人工智能无法与自然愚蠢相抗衡。”她呼吁，在技术人员（科技公司）、政治或公共领域以及研究之间建立某种形式的永久三角合作关系。

在被问及如何联系科学和民主时，纳斯表示：“科学对于民主至关重要。科学本质上是追求真理。民主建立在真理和信任之上。科学提供了一种可靠的生成知识的方式。这对于民主进程至关重要。”

“而且，不仅如此，随着世代的变迁，科学对社会的影响越来越大，我们必须创造民主制度和工作方式，以及可以应对并纳入科学复杂性的机构。我不确定我们已经到达那个目标，但我们必须努力争取。”

纳斯表示，科学具有外交的力量。“科学为所有国家提供了一个共同的语言。科学消除了障碍。即使在困难时期，人们也可以进行交流——特别是在开放和超越政治的发现科学方面。”

当政治关系破裂，如美国和中国之间的关系，通过科学可以重建联系。“我们不能中断这一点，”纳斯说道。“我真的认为科学在促进和平方面发挥着重要的外交作用。”