上海近 40 度的高温，并没有阻止人们参会的热情——相反，7 月 4 日于上海举办的 2024 年世界人工智能大会暨人工智能全球治理高级别会议，比去年更为火爆了。

上午的会场短暂对外关闭了一段时间，但正式开放后，在笔者参加的几个论坛现场，几乎都座无虚席、不少观众都站着听演讲。

「就是一个火爆。」一位现场工作人员说。据极客公园了解，仅今天一天，此次大会的曝光量就有超过去年总和的趋势。

大会第一天，19 场论坛、数百位 AI 圈最瞩目的学术界、产业界代表展开了密集的讨论。可无论是图灵奖得主、科技公司一把手、还是展台前被 AI 裹挟的普通人，又都在说同一件事——AI 应用如何落地。

这里没有「大模型颠覆世界」的夸夸其谈，也没有「AI 应用落地不及预期」的断言，聊的都是：当下、今天，如何摘取大模型的果实。就着大模型「木桶效应」的最短板，怎么做出今天能用得上、用得好的 AI 应用。Transformer 和 Scaling Law 未必通向 AGI，但一个 LUI（自然语言交互）的新世界已经在日常生活的方方面面徐徐展开。

大会的议程设置往往反映了行业的普遍趋势。除了大模型之外，具身智能、机器人、芯片等领域也延续了去年大会的热度——但有所不同的是，据极客公园了解，如果说去年自动驾驶并不是大会焦点，那么今年这个领域又重新回到视野中央。而这离不开特斯拉 FSD V12 带火的自动驾驶新技术范式。

论坛上，多位 AI 行业大咖都表达了自己的思考，从中可以一窥行业目前的大趋势。极客公园整理了其中的精华观点，Enjoy。

目前，从算法研究、人才密集度、商业驱动力、甚至包括算力的投入等方面来看，我们对 AI 安全的投入远远落后于对 AI 性能的投入。现在，世界上只有 1% 的（资源）投入在对齐或者安全考量上。

AI 风险来自于三个方面：一是网络风险延伸和扩大。现在，我们觉得管理数据安全已经是很困难的，出现了 AI 会困难 100 倍。二是没有意识到的社会风险，比如说 AI 非常强大，而且是可以有很多方式去使用，所以颠覆现在社会结构在短时间内发生的可能性，这是存在的。比如说有人提到，AI 可能带来大规模未来的失业。三是最有意思的层面，生存或者存在的风险。以前也面临过，当火车或者蒸汽机发明的时候，就有人有这样的担忧。

作为计算机科学家看到了最有深度的问题，一方面我们把 AI 控制好，毕竟这是我们设计出来的；另外一方面，也不希望它被我们给破坏了，这样权衡是非常困难的。正如图灵所说，这是无法预测的，预测不了机器有了足够算力之后会做什么。

一定要出现一个 DAU10 亿的 APP 才叫成功，这是移动时代的思维逻辑。其实不一定，AI 时代，「超级能干」的应用比只看 DAU 的「超级应用」恐怕要更重要，只要对产业、应用场景能产生大的增益，整体价值就比移动互联网要大多了。

智能体是最看好的 AI 应用方向，搜索是智能体分发的最大入口

热衷于「用 AI 写一个作文能得多少分」，其实这个使用价值是不大的，人家不会让你带一个大模型去参加高考。但是真正的需求是，大量的考生在考完之后要报志愿、要选择学校、选择专业，他们对一所大学、一个专业，会有各种各样的问题，而每一个考生的情况又是不一样的，这时候就需要有一个智能体来回答每一个考生专有的问题。

制作一个好的智能体通常并不需要编码，只要用人话把智能体的工作流说清楚，再配上专有的知识库，一般就是一个很有价值的智能体，这比互联网时代制作一个网页还要简单。

未来，将会形成庞大的智能体生态，而搜索是智能体分发的最大入口。

开源模型在特定场景有价值，但并不适用于大多数应用场景

开源大模型在学术研究、教学领域等特定场景下有存在的价值，但并不适用于大多数应用场景。在激烈竞争的环境中，需要让业务效率比同行更高、成本比同行更低时，商业化的闭源模型是最能打的。

（业界可能会）混淆模型开源和代码开源这两个概念。模型开源，你拿到的是一大堆参数，还是要去做 SFT，还是要去做安全对齐。你不知道这些参数是怎么来的，是无法做到众人拾柴火焰高的，即使拿到对应的源代码，也不知道他用了多少数据、用了什么比例的数据去训练这些参数。所以拿到这些东西，并不能够让你站在巨人的肩膀上去迭代和开发。