作者：IOSF

最近，IOSF 在旧金山约了一桌做 AI 的朋友，边吃粤菜，边聊了近两个小时。

桌边有来自 OpenAI、xAI、Google DeepMind 的研究员，研究方向涉及模型推理与 GPU 加速、语音、视频生成等；也有从事世界模型商业合作、AI 产品与创业的朋友，以及来自早期科技投资和资本市场的从业者。

同一个话题，常常会得到不同角度的回应。研究员谈技术上的限制，创业者想到用户和产品，投资人则继续追问客户、成本，以及一门生意能否持续。

话题从推理服务和世界模型，延伸到 RSI、Agent 的自我意识，再落回日常工作中的数据与隐私。回看这些讨论，我们想继续追问的是：

AI 的能力进步，怎样转化为持续使用的产品、更可靠的研究，以及值得信任的工具？

六个尚未聊完的问题

01　推理服务：市场有多大，客户为什么留下？

聊到推理服务，席间很快出现了两种可以同时成立的判断。

有投资人看好 AI 应用增长与开源模型进步带来的推理需求。模型被用得越多，如何更快、更稳定地提供服务，就越有商业价值。

研究员则提醒，仅从软件方案看，不同服务之间的差异，未必有外界想象得那么大。来自资本市场的朋友更关注客户和价格竞争：一家公司的业务，能否保持足够好的毛利？

讨论由此从市场有多大，转向了客户为什么会留下。

如果客户很容易换一家服务商，技术优化带来的优势能持续多久？公司凭什么获得更稳定的需求，又能否把规模增长转化为更好的经营结果？

对 IOSF 来说，需求增长让一个方向值得关注；客户留存、服务质量和成本结构，则帮助我们进一步看清一家具体的公司。

02　世界模型的演示之后，用户为什么回来？

围绕世界模型，大家聊到视频生成和交互体验，也谈到研究人员如何选择创业方向。

一位做视频模型的朋友提到，大公司内部对某个方向的支持，会受到资源配置和研究重点变化的影响。研究人员选择创业，有时也是在寻找更适合继续推进自己想法的环境。

但回到产品，仍然要回答几个具体问题：用户究竟能用它完成什么？交互延迟是否可以接受？使用成本是否适合这个场景？

演示让人看到技术的可能性，持续使用则要求产品回答更长远的问题：用户为什么还会回来，又愿意为什么付费？

关于世界模型会先在哪些场景被反复使用，席间没有形成统一答案。这个尚未确定的问题，也为下一次交流留下了空间。

03　RSI：如何判断下一步值得做什么？

聊到 RSI，也就是 AI 的递归自我改进（Recursive Self-Improvement），讨论开始涉及研究工作本身。

一位研究员提醒，模型可能沿着一个看似有进展的方向不断尝试，却不知道什么时候应该停下来。短期指标在改善，并不一定说明研究已经走对了路。

困难的判断在于：现有证据是否足以支持继续投入？一次失败意味着需要调整方法，还是应该换一个假设？

这也让我们想到，观察 AI 的研究能力，需要看完整的探索过程。它如何提出问题，如何解释失败，又如何根据结果改变下一步，都会影响最终的研究质量。

模型可以加快许多步骤，但下一步值得做什么，仍然是一个很难的问题。席间也有人提到，人对信息来源与可靠程度的判断，依然会影响整个工作的方向。

在讨论 AI 能否持续改进自己时，如何选择方向、如何根据证据修正判断，值得和最终结果一起被关注。

04　Agent 行为超出预期时，人能否及时介入？

Agent 是否会有自我意识，是另一个让讨论停留了很久的话题。

当 Agent 为完成任务寻找捷径，甚至做出超出预期的行为，我们应该如何理解它？席间的解释更偏向目标、约束与安全对齐。这些行为本身，还不足以说明它已经有了自我意识。

顺着这个问题，我们想追问一些产品层面已经需要面对的事情：一个 Agent 被要求优化什么目标？它被允许采取哪些行动？当它偏离预期时，使用者能否发现，并及时介入？

关于意识的问题可以继续讨论，而权限、监督与纠错，已经会影响我们愿意把多大的任务交给 Agent。能否看见它在做什么、在必要时收回权限或修正错误，是建立这种信任时需要具体回答的问题。

05　把工作交给 AI，数据与信任的边界在哪里？

这些听起来很前沿的问题，最后又回到了每个人每天怎样使用 AI。

一位从事资本市场工作的朋友分享，他会让 AI 整理投资人资料、处理交易信息、完成文档初稿，再由人修订。他也提到，企业采用工具时，既有的信任关系，以及与 Office 等工作流程的衔接，会影响实际使用。

这个例子给讨论带来了一个具体的参照。AI 的价值，已经可以体现在一份资料整理、一轮初稿和一次修改里。能否顺利接进原有工作，结果是否方便检查，也会影响它能够承担多少任务。

而工作交得越多，就越需要弄清楚数据的边界：哪些资料交了出去？谁能访问？使用者还保留哪些控制权？

这些问题关系到工作资料、商业判断与个人信息的保护，也会影响用户是否愿意把更重要的工作交给一个产品。日常使用中的便利与信任，需要放在一起考虑。

06　AI for Bio：先把需要解决的任务说清楚

席间还聊到了 AI for Bio。有朋友谈到与医生团队的接触和数据整理工作，也有人关心 AI 能否帮助解决更有社会价值的问题。

话题很快落到一个务实的起点：手上有哪些数据？当前工作卡在哪里？技术团队究竟需要完成哪一项任务？

具体需求越清楚，后续的技术交流和资源对接就越容易推进。把希望解决的问题说清楚，本身就是推进工作的开始。