AI独立评估争议：Anthropic与O... Latest News
据路透社10月13日发布的独家报道，人工智能领域的头部公司Anthropic与OpenAI在公开呼吁加强AI独立评估的同时，却在私下谈判中试图控制外部评估机构可以发布的内容，理由是相关调查报告可能泄露商业机密。两名熟悉讨论的人士向路透社披露了这一矛盾，令外界对AI行业“自我监督”的诚意再次打上问号。
法院判决外部评估报告公开争议：一场围绕“知情权”的暗战
两位匿名消息人士透露，Anthropic与OpenAI在与评估机构谈判时，均要求对最终报告获得“实质性的预先审查权”。研究机构在发布任何涉及模型失败案例、具体参数反应或安全测试原始数据之前，必须先获得公司法律部门的批准。知情人士说：“OpenAI明确表示，报告不得包含可能揭示训练数据构成或模型推理成本的细节，否则将不予合作。”这种条款使外部评估者的独立性变得微妙，因为他们的收入往往依赖与AI公司的合同。
庭审直播商业机密vs公共利益：两大AI巨头的解释
Anthropic与OpenAI坚持认为，他们并非拒绝独立评估，而是需要在公开披露与知识产权保护之间寻求平衡。上个月，Anthropic首席执行官达里奥·阿莫代伊在公开场合表示：“外部评估人员应该有权独立测试AI系统，并向公众解释他们的发现。”不过，一名参与合同谈判的业内人士透露：“私下里，他们要求逐行审阅评估报告，并有权删除任何被认为涉及商业机密的技术指标。”两家公司的法律团队强调，类似做法在科技行业并不少见，企业与外部审计之间都存在保密协议，但这无法缓解批评者的担忧。
官方通报谁是外部评估者？AI安全测试生态的参与者
所谓外部评估者，指的是独立于AI开发方、专门测试模型安全性、偏见、幻觉和潜在滥用风险的第三方机构，包括大学实验室、非营利组织和商业“红队”团队。由于无法绕过模型访问权限，它们通常必须与公司签署严苛的保密协议才能开展AI安全测试工作。一位在欧洲AI安全会议上发言的评估者表示：“如果我们提交的每一份报告都要经过对方删改，最终发表的内容还能剩下多少客观性？”据估计，目前全球活跃的AI第三方评估项目超过500个，但真正能够完全自主发表结论的比例不足10%。
官方回应时间线：从白宫安全承诺到评估报告审查纠纷
| 时间 | 关键事件 |
|---|
| --- | --- | --- |
|---|
| 2023年7月 | 白宫获得多家主要AI公司的自愿安全承诺，包括外部红队测试 |
|---|
| 2024年8月1日 | 欧盟《人工智能法案》正式生效，要求高风险系统接受外部评估 |
|---|
| 2026年9月 | 阿莫代伊公开支持赋予外部评估者更大权利 |
|---|
| 2026年10月13日 | 路透社披露Anthropic与OpenAI限制评估报告发表 |
|---|
这组时间线显示，AI行业在监管压力下不断做出评估承诺，但到了执行层面，报告的对外公开权成了新的博弈场。CNA在转载中补充说，谈判仍处于早期阶段，尚未形成正式合同条款。
透明度与竞争：AI安全测试的“黄金标准”遭遇考验
这场争议的核心在于，当“独立评估”结果无法公开时，它还能否被称作独立？彭博社的后续报道也从另一位知情人士处证实，两家公司私下都提出过对未发布报告进行保密审查的要求。科技政策分析师指出，若头部公司成功将审查制度化，AI安全测试可能失去公信力，变成一场公关仪式。过去，制药工业的临床试验数据公开在全球范围内推动了行业透明度，AI领域或许需要类似的强制性披露规则，但短期内难以实现。
监管与市场反应：立法者或出手干预
事件曝光后，美国国会人工智能政策工作组表示，正在考虑是否要求接受联邦资助的AI评估项目必须提交全面公开的报告。欧盟人工智能办公室的官员也向媒体表示，根据《人工智能法案》，“系统性风险”模型的评估结果透明度，将直接影响合规认定。此外，法律专家警告，如果两家公司被证实利用市场支配地位强制评估机构接受保密条款，可能触及欧盟竞争法的“滥用优势”条款，进而面临高达去年全球营业额10%的罚款。
Q1: 为什么AI公司如此担心外部评估报告公开？
A1: 这类报告可能记录模型在特定攻击下的异常行为、失败边界和底层参数响应，竞争对手可以由此反推训练数据规模、算法架构等商业机密，削弱公司技术护城河，因此他们倾向于在“保护知识产权”的框架下限制公开。
Q2: 外部评估机构能否绕过公司限制直接发布结论？
A2: 目前几乎不可能。评估机构要接触模型，必须先签署包含保密条款的合同，擅自发布将面临天价违约赔偿。只有监管机构介入，以法律形式规定评估结果的强制性公开，才能打破这一局面。
AI的“独立评估”喊了一年多，如今连报告的公开性都无法保证。这场商业机密拉锯，正在消耗公众对AI治理体系的信任。立法者能否为AI独立评估划定清晰边界，将决定行业能走多远。
Related Articles - 手游公测
路透社独家披露，Anthropic与OpenAI一边公开呼吁AI独立评估，一边私下试图阻止外部评估机构发布报告，理由是保护商业机密。透明度与行业竞争的拉锯引发监管关注，AI安全测试机制或将迎来重大变革。业界呼吁尽快立法规制。
