AI未来之路：仰望星辰大海，也要脚踏实地

2023世界人工智能大会分会场张江科学会堂与在建的张江科学之门。 本报记者 范家乐摄

完美的大模型存在吗？技术的发展如何建立伦理和治理机制？能不能通过强化学习完善通用人工智能？在今年世界人工智能大会现场，多位图灵奖得主汇聚一堂，这些学术大咖用各自的视角审视人工智能的未来发展，既仰望星辰大海，也对脚踏实地的现实问题提出了具体的建议。

让AI安全良善实用，唯一方法是开源

(资料图片仅供参考)

杨立昆（图灵奖得主，Meta AI基础人工智能研究院团队首席人工智能科学家）

AI最让人激动的进展是创造了一场技术的革命。我认为，自然语言处理，如语言模型、语音模型等符号或者本质上和符号序列有关的技术正在创造一场革命，而现在要做的就是在图像和视频领域推动同样的生成式革命。

让AI达到人类水平的最好办法，就是做更大的自回归LLM（大语言模型），而让它变智能也是让它更可控的途径。人们通过目标驱动人工智能的理念，就可以设置其它目标，作为其安全护栏，比如让这些系统不会出现欺骗、支配人类的行为，迫使AI诚实的目标，屈从于人类的目标，而需要小心那些让模型好奇的目标等。设计这些目标，让系统安全，将会是一个艰巨的工程挑战。

有些人因为害怕人工智能的结果，整体上就希望人工智能受到严格监管。我完全不同意这种说法。从长远看，使人工智能平台安全、良善、实用的唯一方法就是开源。

想象一下，未来每个人都能通过AI助手与数字世界互动，如果技术被少数公司控制，这不是一件好事。未来AI系统将成为人类所有知识的宝库，训练它们的方式需要基于众多来源。因此，我们将在未来看到更多的开源LLM和更多的开源人工智能系统。

中国年轻学者已在算法上取得突破

姚期智（图灵奖得主，中国科学院院士、清华大学交叉信息研究院院长）

中国的科学家在AI发展上作了很多突破性的贡献，清华大学交叉信息研究院助理教授高阳一年多前在算法上实现了非常重要的突破，使得强化学习加快数百倍，受到国际关注。

在ChatGPT之后，人工智能研究的下一个重要目标是让拥有多重感知能力的机器人在不同的环境下能够自主学习新技能。现有的强化学习方式太慢了，学习新技术常常要几个月时间。得益于高阳的研究，强化学习现在只要几个小时就能完成。

这不仅解决了实用问题，也是作出了理论贡献。过去六七年，人工智能最高层一直存在一个“路线之争”，就是要不要走强化学习这条路。而中国青年学者的突破，将这个争论的天平倾向了另一边。而对于通用人工智能的完善，我们还有很长的路要走。

至于大模型在垂直领域的应用，很多文书工作在有了大语言模型之后变得更轻松，更多的工作可以尝试由机器来做，这会是一个直接的方向。

良好发展的大模型要减少数倍能耗

大卫·帕特森（图灵奖得主，美国艺术与科学院、国家科学院、国家工程院院士）

谷歌在过去十年左右时间里，宣布了5种不同的TPU产品（为机器学习定制的专用芯片），它们的性能相差达到3倍，最近又用新技术研制了超级计算机。

事实上，在碳排放方面，我们已经学到了很多经验教训。

首先，我们要做的是计算能源消耗。能源消耗只需要一个简单的公式，还有4个因素——一个是模型训练所花费的时间，还有处理器的数量以及处理器平均功率，这样我们就能获得一个大致的能源消耗数据；最后一个因素则是数据中心的电力。把这4个因素相乘，就可以得到以千瓦时为单位的能量。而转化为碳排放，需要取一个系数，即每千瓦时的碳排放量。

我们有很多方式来尝试减少碳排放量。首先是提高技术。此前谷歌几位工程师想出办法改变模型的质量和硬件参数，让能源消耗和碳排放减少了57倍。

如果你是一个人工智能领域的从业者或研究人员，请继续对大模型的改良和研究，这将可以减少2到4倍的能源和排放。统计出训练模型的能耗和碳足迹，是为了让我们更好地竞争，以便于建立更有效的模型、得到正确的数字，帮助世界继续推出高效的硬件。

作者：周渊

编辑：范菁

*文汇独家稿件，转载请注明出处。

标签：