AI发展热潮下需要哪些冷思考？中国科学院院士姚期智这样回答

中国在人工智能(AI)领域的发展今年掀起了一个小高潮，不论是DeepSeek大模型、全球首款通用Agent Manus还是会“十八般武艺”的人形机器人，都走入更多普通人的视野和生活，“具身智能”更首次写入中国政府工作报告。当前AI蓬勃发展的热潮下，我们需要哪些冷思考？图灵奖得主、2024基础科学终身成就奖得主、中国科学院院士姚期智近日表示，未来人们需要对AI进行更多理论研究，同时关注AI在关键应用中的安全风险。

2025年3月21日，图灵奖得主、2024基础科学终身成就奖得主、中国科学院院士姚期智出席发布会并揭晓2025年度基础科学终身成就奖获得者名单。　(卞正锋 摄)

据东西问客户端报道，3月21日，在清华大学举办的2025国际基础科学大会(ICBS2025)新闻发布会上，姚期智表示，目前AI领域的前沿研究更像实验科学，即人们取得了很多成就，拥有很多数据，但依然不太了解其根源。因此，我们需要更加深入地了解AI原理和基准，将AI控制得更好，并优化算法。

2025年3月21日，2025国际基础科学大会(ICBS　2025)新闻发布会在清华大学举行，ICBS主席丘成桐、姚期智、菲尔兹奖得主考切尔·比尔卡尔(Caucher　Birkar)、中国科学院院士王贻芳等知名学者公布了2025年度基础科学终身成就奖及前沿科学奖获奖名单。图为发布会现场。　(卞正锋 摄)

在AI发展过程中，姚期智强调需要更多地关注AI安全。例如AI幻觉会对其在关键领域的应用带来难以承担的风险。因此，了解这种不安全的现象出现的原因至关重要。很多人认为，AI发展和保障AI安全性之间存在矛盾，最终不得不做出取舍或平衡，然而，姚期智认为，这两者实际上能够合二为一。

姚期智说：“如果你可以设计出最安全的AI技术，那么就可以赢得市场。因此，确保AI安全性，不仅能够在未来防止AI滥用，也能确保商业上的发展和成功，更重要的是，解决这一问题也推动了基础科学的发展。”

谈及全球生成式人工智能的主力军大多数是“90后”“95后”，甚至“00后”，姚期智解释，虽然AI这门科学和计算机科学差不多诞生于同一时代，已有七八十年的历史，但大模型的出现为AI研究开辟了新的路径。从技术上来说，AI不像数学、物理研究需要大量复杂的基础知识，相较而言更容易上手。因此很多年轻人在大学本科阶段就能够看到AI领域的前沿。“DeepSeek团队100多位了不起的年轻人所做的工作就非常令人兴奋，它使得AI学科在中国的发展取得了非常有利的地位。”