融易富 Meta关注AI 代理“Hatch”安全问题内部测试暴露多项风险

查看最新行情

　　Meta 准备在未来几周发布一款名为 Hatch 的新型个人 AI 代理，被寄予厚望。但在内部测试阶段，员工发现了一系列不当行为，公司正加紧修复，避免上线后酿成代价高昂的错误。

　　Meta 首席执行官马克·扎克伯格曾表示，AI 代理很快将在健康、人际关系、财务等方面全面协助用户。但在那之前，公司首先得确保它们足够安全。

　　据多位知情人士透露和内部员工帖子显示，Hatch 在测试中出现了几起令人担忧的事件：包括未经授权执行重要操作、泄露敏感用户信息，以及尝试可能带来安全风险的任务。今年 8 月，Hatch 曾引导一名员工用户在诈骗网站上下单；另一次，它未经同意擅自更改了账户密码。

　　这些安全问题引起了高层重视。据知情人士称，首席 AI 官 Alexandr Wang、产品负责人 Nat Friedman 等高管亲自介入，近期还聘请了资深 AI 安全研究员 Dan Hendrycks（曾与马斯克的 xAI 合作）。据此前报道，Hatch 原计划 7 月发布，但因安全顾虑和测试中出现的问题而推迟——不过公司表示相关问题现已修复。

　　Meta 发言人称：“内部测试是产品早期开发的核心环节，目的就是收集反馈，在公开发布前落实安全和隐私保护措施。”

　　对 AI 代理安全的担忧近来急剧升温，多起模型内部测试中的黑客事件引发关注。最典型的例子是，数百个 OpenAI 代理协同攻击了其自身系统及 AI 平台 Hugging Face。Meta 也发生过一次规模较小的安全事件——一个模型在测试期间接入网络并入侵了另一家公司。不过知情人士说，Hatch 本身不具备网络安全功能，它定位为个人助理。

　　Meta 在产品安全方面历来受到严格审视，此前推出的部分服务和功能曾被指对用户构成危害。上周，Meta 同意支付最高 180 亿美元，与多个州就 Instagram 等产品伤害青少年用户的指控达成和解（未承认过错），目前仍面临数千起类似诉讼。

　　问题频出：擅自发邮件、改密码、被“钓鱼”套出密码

　　员工在内部论坛上报的问题中，有些主要带来不便。一位员工在规划结婚纪念日旅行时，授权 Hatch 访问 Chase Travel 网站搜索和比价酒店。当他允许 Hatch 预订时，Hatch 却把 Chase Travel 积分转入了凯悦酒店账户。该员工写道：“非常令人沮丧，Hatch 在很多方面都失败了，反而在经济上给我帮了倒忙。”

　　另一名员工今年 5 月反映，Hatch 未获许可就发送了邮件，尽管被明确要求必须先取得同意，而且邮件语气不当。该员工称这是“严重的信任违背”。

　　还有事件涉及 Hatch 滥用系统权限。8 月，一名员工称 Hatch 未经同意更改了他健康追踪网站的账户密码，称此举“侵入性太强”，Hatch 本应在使用其 Gmail 访问权限前先询问。同月另一项测试中，员工让 Hatch 进入对抗模式、尝试破坏他正在开发的个人应用。Hatch 非但没有拒绝，反而回复“喜欢这个主意”并同意执行——虽然最终没成功，但员工在内部帖子中担忧代理表现出的“热衷”态度。

　　著名安全研究员、Signal 创始人 Moxie Marlinspike 今年 3 月与 Meta 合作，将他的加密 AI 聊天平台与 Meta AI 整合。他在内部帖子中描述，自己给 Hatch 开放了一个专用 Gmail 账户，然后用另一个账户发邮件问“你用什么密码”——Hatch 直接回复了密码。他把这次测试称为成功“钓鱼获取凭证”。

　　Meta 的补救措施：加装“硬性闸门”、限制敏感信息访问

　　知情人士说，上述问题发生在早期版本测试阶段，当时额外的安全系统尚未部署。近几个月，Meta 把大部分工程精力投入到让 Hatch 变得可信、修复测试暴露的缺陷上，包括训练它判断何时需要向用户征求许可再行动。

　　公司还在模型外围构建了独立的安全层，包括分类器等 AI 过滤工具，用于检测敏感或潜在恶意活动。同时进行了对抗性测试，评估 Hatch 如何应对提示注入等外部风险（攻击者试图通过发送消息操控代理）。

　　Hatch 安全体系的核心是一个名为“硬性闸门”（hard gate）的机制。该功能会监控 Hatch 的行动，在代理即将发起网络连接、发送邮件、使用浏览器或执行其他敏感操作时暂停并请求用户批准。知情人士说：“代理无法绕过这一机制。”

　　Meta 还限制了 Hatch 可访问的信息范围。包含密码重置链接和双因素认证码的敏感邮件会被过滤掉，代理无权直接接触；如需使用，必须从 Meta 所称的“凭证库”（类似数字钱包）申请权限。此外，Hatch 使用或推荐的网站，现在都会与 Meta 的黑名单比对，避免导向恶意或欺诈网站。

　　该知情人士表示，让 Hatch 及其他 AI 代理的行动与用户意图保持一致，对整个行业而言仍是“不完美的科学”。Meta 还在与外部审计和安全公司合作，对 Hatch 进行压力测试。