专题：2026北京智源大会

　　6月12日至13日，2026第八届北京智源大会在北京中关村国际创新中心举行
。中国计算机学会会士
、中国人工智能学会会士、北京大学计算机学院教授黄铁军出席并对话。

　　谈及如何界定AI智能体的危机
，并将其控制在可控范围内 、确保对人类有益时，黄铁军表示 ，“我觉得‘控制’
、‘确保’这些词大概都不现实 。 ”他认为
，这将是一个复杂的互动过程
。

　　他提出，未来必然是共存的状态。“智能体也是智能 ，我们也是智能 。我们每个人将来可能自己都会有很多智能体
，然后大家去互动
。在这样的多智能体世界中，包括人、机器智能体 、物理智能体
、具身智能等在内 ，总要有一个界面和共识
，否则就无法运转。
”

　　那么，这个世界应该是什么呢？黄铁军认为 ，是“理性世界” 。

　　他解释说，人们常说智能体是黑箱
，它只告诉我们答案，却不告诉我们它是怎么想到的
。但实际上 ，人类也一样
，每个人的大脑也是一个黑箱。“你跟一个人交流时，你是只相信他告诉你的结论 ，还是要跟他探讨一下‘你为什么这么想’？就像医生给出建议后
，你一定会关心背后的依据，将来也是一样的 。 ”

　　他进一步指出 ，智能体首先能给出不错的答案
，这很好
。但下一步，人们一定会去挖掘“背后的为什么
” ，进而展开讨论。尤其是在医疗等安全至关重要的领域
，包括蛋白质等有害物质的检测，他强调 ，最后一定要有一个明确结论，才能变成行动 。在此之前的过程
，应该是一个开放的讨论、头脑风暴 、相互思考的过程。

　　因此，黄铁军认为 ，“一方面
，我们无法完全确保对AI的控制，但另一方面 ，我们能够共同找出一条路来
，共存
、理性地发展下去
。”

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅 ，新浪网登载此文出于传递更多信息之目的
，并不意味着赞同其观点或证实其描述。