竞争压力下，Anthropic为何调整AI安全承诺？

Anthropic安全承诺调整背景

竞争态势严峻

Anthropic正面临来自OpenAI、xAI以及谷歌等公司的激烈竞争，这些对手频繁推出前沿工具。在这场竞赛中，Anthropic若想保持优势，就必须做出一些改变。比如，竞争对手不断更新模型，Anthropic若不跟进，可能会在市场中落后。

与国防部的纠葛

美国国防部长给Anthropic首席执行官下了“最后通牒”，要求取消AI模型上的安全措施，否则将失去五角大楼合同。这一情况也促使Anthropic重新审视其安全承诺，在商业利益和安全责任之间寻找平衡。

安全承诺调整具体内容

核心政策软化

此前若模型被判定“具有危险性”，Anthropic会暂停开发工作。如今，一旦竞争对手发布“同类或更先进”模型，这一暂停机制将不再执行。这意味着Anthropic在模型安全性判定上有所松动。

基于行业现状的考量

Anthropic表示，此次调整是基于AI技术发展速度加快，以及联邦层面尚未建立完善监管框架。在这种情况下，企业需自行判断安全防护标准，Anthropic的调整也是为了适应这一现状。

公司对此调整的解释

强调对安全仍重视

Anthropic发言人称，安全承诺的修改与五角大楼谈判“无关”，公司仍将坚持行业领先的安全标准。首席科学官也表示，若对手都负责，公司会做得更好，只是当前停止参与研究无意义。

适应政策环境变化

公司认为政策环境已转向强调AI竞争力与经济增长，以安全为导向的讨论在联邦层面未取得实质性进展。所以Anthropic调整是为在不均衡政策环境下与对手竞争。

Anthropic在竞争压力下调整AI安全承诺，虽引发诸多关注，但公司强调仍是为了更好地发展，在安全与竞争之间努力寻找一个平衡点，以适应快速变化的AI行业环境。

相关问答

Anthropic为什么要调整安全承诺？

面临来自OpenAI等公司的激烈竞争，以及美国国防部的压力，同时考虑到AI技术发展速度和监管框架不完善，Anthropic调整安全承诺以适应环境。

Anthropic之前的安全承诺是什么样的？

若其模型被判定为“具有危险性”，Anthropic将暂停相关开发工作，多年来公司高层一直强调这一承诺。

此次安全承诺调整的具体内容是什么？

一旦竞争对手发布了“同类或更先进”的模型，Anthropic将不再执行模型被判定“具有危险性”就暂停开发工作的机制。

Anthropic如何回应外界对其向市场压力让步的质疑？

公司称反而是在重申对安全的承诺，若对手都负责，公司会做得更好，停止参与研究在当前无意义。

Anthropic成立于何时？

Anthropic成立于2021年，由Amodei及其他联合创始人自OpenAI离职后创立。

2022年Anthropic发生了什么事？

2022年，Amodei曾拒绝发布Claude的早期版本，担心引发危险技术竞赛，数周后OpenAI推出ChatGPT，迫使Anthropic进入追赶状态。