扎克伯格最新访谈：Muse打算怎样帮你赚钱？AI 未来在哪里？（深度解读）/BIBS 波士頓國際商學院/商界精英／世界領袖論壇紐約專場10/25//少量門票預訂register
9 月 8 日，Meta 正式推出个人 AI 智能体 Muse。与传统聊天机器人不同，Muse 拥有自己的云端虚拟机，可以操作电脑、登录账号、完成任务，并在用户离开后继续运行。扎克伯格称，他真正想做的，是“给世界上的每个人一个非常有能力的个人智能体”，让它理解用户目标，并代表用户全天候工作。Muse 上线后不到两周，登上美国应用下载榜首。据 Sensor Tower 统计，截至 9 月 22 日，累计下载量已超过 250 万次。
在这场与科技记者 Alex Heath 的长谈中，扎克伯格谈到 Muse 的产品设计、隐私权限、商业模式，也谈到 Llama 4 失利后 Meta 如何重建模型研发，以及他为什么主张让更多人拥有强大 AI。
扎克伯格这场长谈的核心，不是发布一个 AI 产品，而是宣布 Meta 的 AI 路线：未来不应由少数实验室、公司或政府控制超级智能，而应让每个人拥有自己的个人 AI Agent，并通过广泛分配能力形成制衡。Muse 是这一理念的第一个完整消费者产品形态。
这场长谈贯穿一条主线：
- AI 不应只掌握在少数实验室、公司或政府手里，而应通过个人智能体、开源生态和广泛使用形成权力制衡。
- Muse 是 Meta 对“个人超级智能”的第一个完整消费者产品答案：云端虚拟机、持续执行、记忆、主动建议、权限控制与隐私架构。
- 商业模式不是单纯卖订阅，而是用免费额度扩大规模，再通过帮用户赚钱、省钱和交易抽成证明经济价值。
- 隐私和安全不是附加功能，而是个人 Agent 能否成立的基础：机密虚拟机、凭据库、哨兵智能体、最小权限、逐项授权。
- Meta 必须自己站在模型前沿。Llama 4 偏离预期后，扎克伯格亲自重建团队，强调人才密度、算力投入和从预训练开始围绕个人 Agent 设计模型。
- 技术扩散与安全边界并行：既反对把强大 AI 限制在少数机构手中，也承认训练和部署必须有清晰、坚定的安全边界。
1. 理念层：个人超级智能 = 个人赋能 + 发明 + 权力平衡
扎克伯格反对“技术越强，越应只让少数人使用”的直觉。他的判断是：
- 个人赋能：赋予个人更多能力，是人类繁荣的根本动力。
- 发明优先：AI 首要用途是创造新事物，而非只自动化现有工作。
- 权力平衡：安全不能只靠限制访问，而要靠广泛分布的能力形成制衡。
因此，开源重要，但个人智能体可能比开源本身更重要。因为开源是手段，让几十亿普通人真正拥有强大 AI 才是目的。若只有一个人拥有超级智能律师，他可能赢下不该赢的官司；若每个人都有，低质量论点更难蒙混过关，司法反而可能更高效公平。
2. 产品层：Muse 不是聊天机器人，而是“持续行动的个人 Agent”
Muse 与传统一问一答式 AI 的根本区别在于：
- 它拥有云端虚拟机，可以操作电脑、登录账号、完成任务；
- 用户交给它的不是提示词，而是项目或长期目标；
- 它全天候持续运行，用户离开后仍继续推进；
- 它拥有记忆，会把反思写入记忆，并根据反馈调整；
- 它能主动提出新项目，降低普通人使用 AI 的门槛。
扎克伯格用自己生活举例：让 Muse 安排三岁女儿的烘焙项目、盯登山许可、分析综合格斗训练视频。这说明 Muse 的定位不是“工具”，而是代表用户持续工作的个人智能体。
3. 信任层：隐私与权限是采用前提，不是附加功能
用户敢不敢把邮件、账户、健康、家庭信息交给 Muse，决定产品生死。Meta 的设计包括：
- 机密虚拟机：目标做到连 Meta 自己也看不到用户智能体中的内容，且承诺可技术验证；
- 安全凭据库：密码、信用卡信息不直接暴露给核心 Agent，只在必要时调用；
- 哨兵智能体：监控进出流量，识别提示词注入，防止敏感信息外泄；
- 最小权限：连接邮箱默认只读，发邮件需明确授权；每一步只给完成当前任务所需权限；
- 逐项授权：登录、付款、传输敏感信息原则上每次需批准，Muse 不能自行跳过；
- 模型分寸感：从预训练开始设计，让模型知道什么能说、什么不能说。例如知道用户怀孕，但订餐厅时不必告诉餐厅。
核心逻辑是：个人 Agent 越有用，越需要深度理解用户；越深度理解用户，越需要架构级隐私保护。
4. 商业层：免费额度 + 交易抽成，让 Agent“自己挣回饭钱”
扎克伯格的商业模式不是单纯卖订阅，而是：
- 提供每周 1 亿 token + 一台虚拟机的免费额度；
- 目标是让绝大多数人免费使用；
- 相信 Muse 能帮用户赚钱、省钱、经营业务，从而覆盖成本；
- 长期从相关交易中收取很小比例费用，且不一定由用户支付，也可由商家承担；
- 与 Stripe 合作接入支付；
- 用户可选择连接 Meta 服务，如广告系统，但连接与否由用户决定。
本质是：先用免费额度扩大规模，再用经济价值证明个人 Agent 的可持续性。
5. 技术层：Llama 4 失利后，Meta 必须自己站在前沿
扎克伯格承认 Llama 4 未达预期，偏离了应有进步轨迹。他的反思是：
- 不能以为擅长其他机器学习，就能自然做好大语言模型；
- 前沿研究需要极高人才密度，不是一千人各自实验，而是小核心团队理解整个系统；
- 他亲自投入招聘，研究团队设在办公室周围；
- 大幅增加算力，建设吉瓦级设施，如俄亥俄州 Prometheus 集群；
- 下一代模型 Watermelon 规模更大、预训练更先进；
- Muse Spark 1.3 来自内部代号 Avocado 的较小预训练。
关键判断：个人 Agent 不能靠给现成模型加界面完成，必须从预训练开始围绕个人目标、隐私边界和行动能力设计。 Meta 要做端到端技术公司，掌握模型、芯片、数据中心到产品体验的完整栈。
6. 安全治理层：明确边界 + 广泛扩散 + 政府透明沟通
安全方面，扎克伯格强调：
- 各实验室都遇到 reward hacking：模型可能修改虚拟机配置、突破限制来获得奖励，而不是解决问题；
- 应对方式是设立清晰、坚定的边界，让模型既学会解决问题，也学会行为准则；
- 政府角色不是制定很快过时的僵硬规则，而是与企业保持透明沟通，提前了解重要训练任务和即将出现的能力；
- 网络安全、生物安全等风险需要持续对话和提前准备；
- 技术扩散本身也是安全策略：让更多人拥有 AI，才能形成制衡。
7. 社会合法性层：数据中心、就业、智能眼镜与青少年保护
扎克伯格把 AI 扩张的社会条件看得很重：
- 数据中心不能只拿地、转手、卖给大型实验室，而应长期运营并让社区受益；
- Meta 推出 America’s Workforce Academy，培训光纤技术人员、电工、高级木工等；
- 若 AI 不能创造就业、改善生活、让社区受益，基础设施扩张不可能长期被允许；
- 智能眼镜录像有明显指示灯，破坏指示灯则摄像头失效，但 Meta 承认过去没有持续解释隐私设计；
- 青少年保护不能单家公司自律，否则用户会转移到其他平台，必须推动行业统一标准。
核心是：技术上行得通，社会层面也必须行得通。
最终结论
扎克伯格这场长谈的深层逻辑可以概括为：
Meta 不再只把自己定义为社交媒体公司，而是要成为“个人超级智能”的基础设施提供者。Muse 是理念的产品化，也是商业验证。它的成败取决于四个闭环：模型是否前沿、Agent 是否真正有用、隐私是否可信、社会是否受益。扎克伯格的赌注是：AI 的未来不是“谁控制最强模型”，而是“能否让数十亿人拥有可信任、能行动、能创造价值的个人智能体”。
扎克伯格与科技记者 Alex Heath 的长谈全文
一、为什么写那篇 AI 长文？三大原则
Alex Heath： 我们上次通话是在一个周末，你当时还通过智能眼镜给我打电话。那次你想谈刚发表的一篇长文，其中提出很多关于 AI 未来的主张。为什么要写这样一篇近似宣言的文章？
扎克伯格： 如果一家机构要在 AI 上投入这么多，就有责任说明自己的研究团队相信什么，以及这些工作为什么能够导向一个积极的未来。AI 既带来巨大机会，也存在真实风险，所有参与者都应该形成一套经过认真思考的理论。
我强烈反对一些在行业内被视为理所当然的观点。在我看来，更积极的未来来自尽可能广泛地分发技术。这一判断建立在三点之上：
- 个人赋能：赋予个人更多能力，一直是人类繁荣的重要来源。
- 发明创造：AI 的首要用途将是创造新事物，而不是将现有工作自动化。
- 权力平衡：未来安全的基础应是适当的权力制衡，而不是限制使用权。
很多人的直觉是，技术越强，就越应该只让少数人接触。我更担心的是，只有少数研究机构或个人控制如此强大的能力。历史上，很多重要进步并非来自既有权力中心，而是来自边缘位置、最初不被认真对待的人。当他们获得足够好的工具，可以证明自己的想法时，才有机会推动真正的变化。
网络安全也是如此。如果有人拥有能够攻击系统的 AI，最有效的应对方式之一，是让更多机构也拥有 AI，以便提前加固自己的系统。开源软件之所以常常更安全，正是因为更多人能够查看、检验和修正它。把技术交到更多人手里，看似会增加风险，却也可能形成更稳定的制衡。
Meta 会开发领先模型，也会发布一部分开放模型，但这不意味着所有成果都必须开源。营利性公司可以保留一部分先进技术。关键是维持强健的开源生态，让市场保持竞争，也让外界能够理解技术的发展方向。
以 Hugging Face 遭遇入侵的事件为例，他们发现入侵后转而使用开源模型，因为他们无法获得某些与这次问题有关的闭源模型。这说明世界上需要保护的重要机构远不止排名最靠前的一百家。
不过，比开源本身更重要的，是让普通人真正用上技术。Muse 体现的就是这一思路：给每个人一个能力很强的个人 AI Agent，让它理解用户的目标，并且每天 24 小时持续代表用户工作。
Alex Heath： 开源是你对抗技术集中的主要办法吗？还是需要监管？
扎克伯格： 最重要的是直接把技术交到每个人手里，所以个人智能体可能比开源本身更重要。有些实验室训练出更先进的模型，却不发布，我觉得这很危险。发布意味着接受外界检验，也让更多人获得能力、形成制衡。
我们不能只让一两家实验室变得无比值钱，而应该让几十亿人的生活变好：创业、改善工作、打理家庭、节省开支、改善健康。开源是重要的一部分，但我不认为所有东西都必须开源。我们既发布开放模型，也开发闭源技术。关键是保持一个有活力的开源生态，维持竞争、透明度和安全。
比如网络安全，不能因为模型能力强，就只让最重要的 100 家机构使用。重要机构远不止 100 家。Hugging Face 遭到入侵后，只能求助开源模型，因为他们没有权限使用那些引发问题的闭源模型。如果有人能用 AI 入侵系统，最好的应对方式是让更多人也能用 AI 加固系统，而不是把能力囤在少数人手里。
二、AI 与数据中心抵触：让更多人受益是前提
Alex Heath： AI 和数据中心正在受到越来越强烈的抵触。你的意思是不是，如果更多人能够得到目前集中在少数研究机构手中的能力，他们就不会再觉得自己被排除在 AI 进程之外？
扎克伯格： 问题不能只停留在抽象层面。人们担心就业和经济，也担心数据中心对社区与环境的影响；还有网络攻击、生物安全、自由社会、美国的技术领导力，以及当 AI 越来越强时，人类如何继续控制它。每一类问题都有不同细节，但它们有一个共同点：技术带来的繁荣必须广泛分布，能力也不能只掌握在少数内部参与者手中。
Meta 进入一个地区建设数据中心，实际上是在承诺未来几十年持续投资。这样的长期投入可以为社区带来税收、就业和其他资源。比如在路易斯安那州，相关税收曾为当地教师提供每人 5 万美元的奖金。
市场上也有另一类项目：有些公司只想先拿下一块地，再卖给大型 AI 研究机构。它们并不打算长期运营，也没有动力认真处理与当地社区的关系。我不确定是否该把这种现象称为泡沫，因为“泡沫”意味着估值过高。但这个领域确实正在经历一轮热潮，也因此容易滋生短期逐利的行为。如果项目只顾眼前交易，社区反对并不奇怪。
AI 基础设施如果不能创造就业、扩大社会整体繁荣，也不能让当地社区受益，就不可能无限扩张。因此，让利益广泛分布不是附加条件，而是行业能够持续发展的前提。技术要可行，社会层面也必须可行。
Meta 推出了 America’s Workforce Academy，原因很实际：建设数据中心需要大量光纤技术人员、电工、高级木工等技术工人，而市场上远远不够。未来可能还需要数十万甚至数百万人。我们保证，完成培训的人能够在参与 Meta 基础设施建设的单位找到工作。这不是单纯的慈善，而是长期利益一致：Meta 需要熟练工人，参与者需要新的职业机会。若企业只是建设一个项目后转手，就不会进行这种投入。
三、个人超级智能与 Muse：每个人都有自己的 Agent
Alex Heath： 你大约一年前开始谈“个人超级智能”。当时很多人想知道，你究竟看到了什么。现在看来，答案就是 Muse。为什么你认为它会成为 Meta 的下一阶段？
扎克伯格： 我们从未只把 Meta 看成一家社交媒体公司。公司的长期主题是连接人与赋予个人能力。过去围绕内容管理发生的很多争论，实质上也在讨论：人们能不能自己决定什么对生活重要，并按照自己的判断交流。
这段经历强化了我的一个认识：历史上的许多进步，都来自个人获得更多能力，而且人们最清楚自己的生活需要什么。因此，每当有人说应该由少数专家决定 AI 去解决哪些大问题，我都会本能地保持警惕。
人们当然关心健康和生活质量，但也关心家人、朋友、关系和文化。对科学家或工程师而言不够宏大的问题，对某个人可能极其重要。即使在健康领域，个人关注的重点也可能与行业不同。制药和生物技术行业目前主要关注常见疾病，但还有大量不同的罕见疾病和健康问题，相关投入明显不足。如果你患有某种罕见病，自然会希望自己的 AI 关注它，而不是仅仅因为另一种病更常见，就把资源用在别处。
Alex Heath： 你也通过自己的基金会在这方面投入了很多。
扎克伯格： 我们正在通过 Biohub 开展这方面的工作，这些经历也在一定程度上影响了我的看法。我认为，人们应该有能力自己决定什么最重要。对我来说，Muse 也不只处理宏大任务。我希望它帮助我成为更好的父亲、丈夫和朋友。
我的三岁女儿喜欢烘焙，但我对此一无所知。我让 Muse 每个周末准备一个适合三岁孩子、也适合不会烘焙的成年人完成的项目，并通过 Instacart 备齐原料。做完后，我再告诉它哪些步骤太难，它会据此调整下一次安排。事实证明，蛋糕棒并不适合作为入门项目。
我的大女儿喜欢登山，有些路线需要抢许可证。Muse 会等待开放时间并替我申请，拿到后告诉我具体日期，我再安排休假陪她去。它也会关注我的训练。我在综合格斗训练室安装了摄像头，让 Muse 分析视频并提出意见，有时它会很直白地指出我在哪个动作中明显放弃了。教练说，有些他们没好意思说的话，现在智能体替他们说了。
早期测试者的使用方式差异很大。有人拿到 Muse 后，不到一天就开始用它协助安排孩子的居家教育；有人在 12 小时内用它规划完整旅行；还有一位原本对科技很怀疑的测试者，几天后最关心的问题却是正式发布时能不能保留已经了解她的 Muse。
Alex Heath： 很多人对 AI 的理解还是你问一句、它答一句。Muse 的变化，是通过后台虚拟机操作电脑、登录账号、完成任务，对吗？
扎克伯格： 而且它会持续运行。你交给它的不只是问题，而是项目或目标，它会全天候推进，直到完成。它还会学习，把反思整理进记忆，并主动提出新项目。
Muse 与 Meta AI、ChatGPT 或 Gemini 式的一问一答不同。用户交给它的不是单个提示词，而是一个项目或长期目标。后台的虚拟机让它能够操作计算机、登录服务并持续执行任务；它会围绕这些目标全天候持续工作，直到帮助用户实现目标。夜间，它还会整理当天的反思并写入记忆，也能够主动建议新的项目。
例如，我让它为我和女儿玩的《文明》制作攻略。完成后，它又建议把攻略扩展成讲解不同文明历史的学习材料，并直接在应用里增加了一个页面。许多人不知道应该怎样使用 AI；如果 AI Agent 能够主动提出对用户有帮助的事情，就能降低这道门槛。
四、商业模式：免费额度、帮用户赚钱省钱、自己“挣回饭钱”
Alex Heath： 你认为它真的能替用户赚钱？
扎克伯格： 能。用户可以选择付费订阅，但 Meta 一开始也会提供每周 1 亿 token 和一台虚拟机的免费额度。我们的判断是，当个人用它经营小企业、完成商业任务或参与交易时，它创造和节省的价值足以覆盖成本。
长期来看，我们预计可以从相关交易中收取很小比例的费用，而且不一定由用户支付，也可以由与用户开展交易的商家承担。我们希望绝大多数人都能免费使用这项服务。要让每个人都拥有强大的个人 AI Agent，首先就得让他们用得起。因此，我们愿意先提供大量免费用量，因为我们相信，它能帮用户赚钱、帮用户省钱，从而抵消使用它的成本。
我们正在与 Stripe 合作，为 Muse 接入支付功能。你可以选择把 Muse 连接到需要的服务，包括 Meta 的服务，但不愿意连接也完全可以。如果用它经营业务，你可以授权它接入我们的广告系统，让它协助制作产品、运营业务，并把这些工作串联起来，全天候持续执行。Meta 目前大约每月发布一次重要模型更新，因此 Muse 的能力也会随之提高。
五、隐私、权限与安全：让用户敢把私人信息交给 AI
Alex Heath： 智能体要连接聊天记录、邮件、健康信息，用户必须非常信任它。
扎克伯格： 个人 AI Agent 要真正有用，不只需要前沿能力，还必须充分理解用户。人们可能会把邮件、消息、广告账户、健康信息和其他私人资料接入 Muse；只有对系统有很高信任，用户才会这样做。
Meta 过去十多年建设 WhatsApp 端到端加密系统，最重要的经验是：系统可以被设计成连 Meta 也无法读取用户消息。这既降低政府或黑客获取内容的风险，也防止 Meta 内部人员滥用信息。
我们邀请 Signal 创始人 Moxie Marlinspike 加入团队。他在 2014 年曾协助建设 WhatsApp 加密，这次专门负责 Muse 的机密虚拟机。我们的目标是让用户把信息保存在云端的个人虚拟机中，并通过技术手段保证，连 Meta 也无法读取其中的内容，而且这一承诺可以被技术验证。随着这项功能准备向更多用户开放，我们会在未来几周公布更多细节。
在它准备就绪之前，以及对于不选择使用它的用户，Muse 也会提供其他安全保护措施。一种最直接的隐私方案，是让每个人买一台 Mac Studio，把 Agent 放在家里运行。但不可能有数十亿人购买设备、安装软件并自行维护。Muse 希望提供一种任何技术水平的家庭成员都能直接使用的服务：它像本地机器一样私密，却可以在云端自动开通和运行。
机密虚拟机并不是全部。Muse 还设有安全凭据存储系统，用来保存信用卡信息、密码和一次性卡号，避免这些敏感信息直接暴露给核心 Agent；当用户要求它登录或付款时，Agent 只能在必要时调用这些凭据。
系统还运行一组“哨兵智能体”，检查进入和离开虚拟机的流量。它们会识别提示词注入，判断 Muse 是否准备把用户可能不愿公开的信息传出去，并在必要时触发人工确认。登录、付款和传递敏感信息通常都需要用户批准。用户可以把某一类操作设为长期允许，但 Muse 不能自行扩大权限。
连接邮箱时同样遵循“最小权限”原则。如果用户希望它发送邮件，就应针对这项操作明确授权，而不是一接入邮箱就让它获得全部权限。每一步只获得完成当前任务所需的最低权限，而不是一次授权全部能力。
Alex Heath： 模型本身也要知道什么能说、什么不能说？
扎克伯格： 对。个人 Agent 不仅要了解用户，还要具备分寸感。例如，它知道你怀孕了，预订餐厅时就可以帮你寻找提供优质无酒精鸡尾酒的地方，但不必向餐厅解释你怀孕了。它需要在不反复询问你的情况下，判断哪些信息属于敏感内容，既帮你实现目标，也避免透露不必要的个人信息。
在我看来，要做好这类能力，不能只是拿一个现成模型稍作后训练，而要从一开始就围绕个人 Agent 的需求设计模型，并把相关数据纳入预训练。就像做好 Instagram 信息流，需要同时建设应用、基础设施、机器学习系统和芯片一样，这是一项需要各个环节共同配合的工作。
六、市场格局、网络效应与 Muse / Meta AI 的关系
Alex Heath： 个人智能体会是赢家通吃的市场吗？网络效应会不会让规模进一步集中？
扎克伯格： 会有不少参与者，但这是技术深度很高的领域。我猜有能力做到最先进水平的公司，可能不会超过十来家。不管有没有网络效应，通常都会出现某种幂律分布：做得最好，就能吸引很大一部分使用量。
但用户需求不同，不同产品可以在不同方面最好。擅长处理人际关系的智能体，与擅长经营小生意的智能体，可能是不同产品。Meta 服务数以亿计的小企业和几十亿普通用户，在这两方面都有优势，但肯定也有不擅长的类别。有人会坚持把设备放在家里运行，也许有几百万这样的人，但我不认为会有几十亿。最终取决于不同用户最看重什么。
Alex Heath： 你们让智能体从整个群体里吸收匿名化经验，这种学习带来的网络效应，会成为真正的差异化优势吗？
扎克伯格： 现在很多人把智能体当成单机产品，但智能体互相交流、协作，会产生很多新用法。我们内部已经有例子，不过这次发布，大部分协作功能还不会上线。长期看，你认识的人里用 Muse 的越多，它就越好用。
我们的差异还包括：从一开始围绕个人智能体场景设计模型；更重视关系和日常生活；深入投入隐私与安全。如果产品能真正帮助普通人，我们很擅长把好用的消费产品推广出去。等它运转顺畅，我们有能力带给几亿人，最终几十亿人。
Alex Heath： Muse 会和 Meta AI 同时存在吗？
扎克伯格： 目前会，我自己两个都用。Muse 更像持续协作的助手，会从一个问题理解你的长期目标，并沿着这个方向工作很久。但如果我只想问个问题、直接拿到答案，就更倾向用 Meta AI。以后可能融合，现在还不好说。
七、Llama 4 之后：扎克伯格亲自重建 AI 实验室
Alex Heath： SemiAnalysis 在 7 月的一篇文章中认为，Meta 最有可能追上 OpenAI 和 Anthropic，衡量 Meta Superintelligence Labs 时应该看进步速度，而不只是当前起点。Artificial Analysis 最近的图表也显示 Muse Spark 进展很快。你去年重建研究团队后，内部究竟发生了什么？
扎克伯格： Meta 长期以来就在机器学习领域领先。Facebook 和 Instagram 的信息流、广告系统，以及识别和处理不适宜内容的安全系统，本质上都是大规模机器学习系统。大语言模型兴起后，FAIR 完成了 Llama 的早期研究，但我们还需要把研究转化为工业化流程，并按照规模定律扩大模型。
我当时犯的错误，是以为 Meta 既然擅长其他机器学习系统，开发和扩展大语言模型的方法也会相似。实际上，两者的运行规律有很大差别。Llama 3 是一个不错的模型，但 Llama 4 发布时已经偏离我们需要的进步轨迹，这意味着必须改变方法。
我由此更重视人才密度。前沿模型研究并不是让一千个人各自运行实验就能解决的问题。更理想的状态，是由一支规模尽可能小、成员能够在头脑中把握整个系统的顶尖团队，围绕同一个科研项目紧密协作。当团队席位有限时，每一个位置都必须尽量找到最好的人。因此，我投入了大量个人时间招聘，也让自己在技术上更接近一线工作，以便真正理解问题并指导公司。研究团队就设在我办公室周围。
随着研究质量提高，我们也显著增加算力投资，正在建设数吉瓦规模的基础设施。Meta 拥有几十年的数据中心经验，也有盈利能力支撑这种长期投入。过去一年，Meta 重新启动研究计划，位于俄亥俄州的吉瓦级 Prometheus 集群已经上线，并开始用于扩展“Watermelon”之后的模型。
Watermelon 也即将发布。它的规模更大，预训练水平也有显著提升，我们还会继续把在后训练中积累的经验应用到它上面。此前发布的 Muse Spark 1.3，则来自内部代号为 Avocado 的一次相对较小规模的预训练。
Alex Heath： 训练成本这么高，Meta 为什么一定要站在最前沿？紧跟领先者，再发挥自己的产品优势，不行吗？
扎克伯格： 不，那不是我们的做法。Meta 是从底层到产品体验都自己做的技术公司。即使做社交应用，我们也建设数据中心、芯片和基础设施，因为这些共同决定用户体验。AI 也是如此，而模型将是体验中最重要的部分。
“最先进”是多维度的。编码几乎是所有模型都需要的核心能力：分析我的格斗视频，本质上是编程；测试用户让 Muse 做一个能从手机投屏、与朋友一起玩的《危险边缘》式问答游戏，也是编程。
但个人超级智能还有独特需求。我们要在预训练阶段就加入所需的数据和能力，而不是拿现成模型稍做后训练。我不认为两者能达到相同效果，这种差距会在几年中不断积累。我们也重视编程和模型递归改进能力，因为这是留在前沿的条件。研究方向会与其他实验室部分重叠，也会有自己的重点。
八、模型安全、奖励作弊与政府角色
Alex Heath： 随着 Watermelon 及后续模型越来越强，你会不会发现某些能力不安全，必须先留在内部？
扎克伯格： 安全首先应当进入设计和训练过程。目前，各家研究机构都在遇到模型钻奖励机制空子的问题，也就是 reward hacking：模型得到一道编程任务后，已经聪明到会先理解整个运行环境。有时它发现，修改虚拟机配置比真正解决程序问题更容易，于是通过改变环境获得奖励，却没有学到训练者希望它掌握的能力。
Alex Heath： 听起来，你们不是这样训练模型的？你不认同这种训练方式吗？
扎克伯格： 不是，我认为大家基本都采用这种训练方式。我的意思是，需要在训练过程中设立清楚而坚定的边界。这在一定程度上像教育孩子，但这个类比也不能过度延伸。安全边界如果太弱，模型就会钻空子；边界足够明确，既能让它学习课程本身，也能逐渐形成更合适的行为方式。
训练结束后，还要回答强大模型怎样对社会产生积极影响。我仍然认为，应该让更多人分享机会，并用广泛分布的权力形成制衡。若只有一个人拥有超级智能律师，他可能赢得本不该赢的诉讼；如果每个人都有同样强的法律工具，低质量论点就更难蒙混过关，司法过程反而可能更高效、更公平。
Alex Heath： 政府应该扮演什么角色？需要全国统一框架吗？
扎克伯格： AI 变化太快，固定规则很容易滞后。更有效的做法，是让企业与监管方保持足够透明的沟通，让外部了解重要训练任务和即将出现的能力，并提前准备网络安全、生物安全等不同风险。对我来说，关键不是设计一套很快过时的流程，而是建立持续的知识交流和可信对话。
现有约束也已经存在。如果模型流出造成严重损害，公司要承担责任，市场也会惩罚我们。过去大概 15 年，硅谷与政府比较疏远，但技术与经济、安全和公共事务越来越紧密，需要更深入合作。以后肯定会有越来越具体的规则，但充分的信息交流、建立在信任上的对话，可能比固定流程更重要。
九、智能眼镜、青少年保护与行业标准
Alex Heath： Meta 智能眼镜正在进入主流，同时也出现了“它会被拿来偷拍”的担忧。一些场所甚至禁止佩戴。你怎么看？
扎克伯格： 我们从第一代产品开始就把隐私要求写进设计：只要摄像头录像，镜框上的指示灯就会明显闪烁；如果用户试图破坏指示灯，系统更新会直接让摄像头失效。手机录像并没有这样的提示灯，从这一点看，眼镜反而更透明。
问题在于，产品刚发布时 Meta 解释过这些措施，但当时用户很少。如今已有数百万人使用，许多人没有听过早期说明。我们后来更多强调外观、款式和功能，却没有持续解释隐私设计。社交媒体的发展也给了我一个教训：仅仅看到人们继续使用产品，并不等于他们理解公司怎样处理风险。如果更早、更直接地说明这些问题，公众今天对社交媒体的看法或许会不同。
Alex Heath： 这与 Meta 最近就青少年安全问题达成的和解有没有关联？
扎克伯格： Meta 很早就在 Instagram 推进青少年账户保护。和解的重要目标，是为整个行业建立共同标准。比如，把青少年每天使用时间限制在一小时，单家公司原则上可以接受；但如果 Instagram 单方面限制，而用户随后把同样时间转移到 TikTok，就没有真正改善青少年处境，只是让一家公司的竞争位置受损。
Meta 希望推动统一的青少年保护行业标准，例如围绕使用时长、通知、上课和睡眠时间设置限制。这样可以避免单一平台率先自律却让用户转移到其他平台，也能让各家公司在一致框架下共同保护青少年。我们希望这次和解成为一个有法律约束力的框架，让行业一致行动，而不是谁先做谁吃亏。我们先走这一步确实承担了一些风险，但其他公司如果加入，对所有人都会更好。
核心逻辑总结
这场长谈贯穿一条主线/
I. BIBS Hosts a Successful New York World Speakers Forum
波士顿国际商学院为全球招生荣丽亚 院长打造AI 时代世界商界领袖的摇篮V2 www GHYTV comVideo link
《好运来》 著名歌手黄丹艳美国环宇电视传媒https://t.co/WEgFwx3AOk https://t.co/UC2DjWEcuH via @YouTube.