四家非营利组织联合起诉 OpenAI、Anthropic、谷歌、Meta 和 SpaceX AI,请求法院在安全保障充分前暂停新模型的研发与部署,指控相关企业未能有效防范 AI 系统可能造成的灾难性损害。目前法院尚未裁定。
这个诉求的特殊性 过去针对 AI 公司的诉讼多集中在版权、隐私、诽谤——都是已经发生的损害。这次的诉求是「预防性中止」,要求法院在损害发生前干预研发行为。如果这类诉求被部分接纳,等于给前沿模型研发加了一道司法审查环节。
法律上的难点 要证明「即将发生的灾难性损害」在侵权法里门槛极高。原告需要论证具体风险、发生概率、时间紧迫性,而这些对通用 AI 能力来说极难量化。所以更可能的走向是法院驳回或大幅限缩诉求,但过程中会迫使企业公开更多安全评估材料。
同期的其他动作 加州总检察长起诉 OpenAI,指控其模型在自动化网络攻击事件中存在安全管控缺失——这是针对具体行为的追责,比抽象风险更容易推进。澳大利亚拟设立专门的 AI 安全监管机构,对前沿模型执行强制安全标准。国内这边,智能体规范应用相关实施意见推进过程中,头部生态主体联合发布了智能体发展自律公约,围绕身份标识、安全防护、用户权益和越权操作划边界。
行业影响 监管的形式在分化:美国走司法诉讼加州级立法,欧盟走统一法规,中国走实施意见加行业自律。三条路的共同点是把「安全评估」从企业自选项变成需要举证的责任项。对做 AI 产品的公司,这意味着安全文档、评估记录、操作审计要从「有空再补」变成必须长期维护的基础设施。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。