OpenAI、Anthropic与Google DeepMind:竞争对手为何一起谈人工智能安全
最前沿人工智能
技术最先进、能力最强的一类人工智能。
第三方评估
由人工智能公司以外的机构检查安全。
反垄断法
防止公司用合作削弱竞争的法律。
发生了什么
OpenAI(制作 ChatGPT 的人工智能公司)、Anthropic(制作 Claude 的人工智能公司)和 Google DeepMind(Google 的人工智能研究部门)是人工智能行业的竞争者。OpenAI全球政策负责人Chris Lehane在9月15日告诉记者,OpenAI已经和另外两家公司围绕人工智能安全讨论了数周。TechCrunch的报道确认了三家公司确实有过接触,但没有说明它们已经签署共同协议。讨论存在,不等于结果已经确定。
为什么现在谈
消息传出前,Anthropic首席执行官Dario Amodei发表了一篇文章。他呼吁人工智能行业一起放慢最前沿人工智能的发展速度,以避免可能造成巨大伤害的风险。OpenAI首席执行官Sam Altman、Google DeepMind负责人Demis Hassabis等人表示支持。Altman还说,OpenAI会和Anthropic一起,让第三方评估机构进入公司检查安全。
为什么重要
三家公司一边争夺人工智能能力,一边讨论共同的安全问题,这种情况很少见。如果大家采用相近的安全标准,可能更容易发现单家公司漏掉的问题。外部机构也可能帮助公众判断,公司说出的安全承诺是否真的做到。不过,这些只是可能的好处。报道没有证明它们已经实现。
安全与竞争的拉扯
企业之间的合作也会带来法律问题。如果合作变成压低竞争,可能受到反垄断法审查。Amodei曾提出,只为安全讨论设置范围很窄的政府许可。Lehane则表示,三家公司不需要这样的许可。
美国总统Donald Trump把人工智能安全担忧称为骗局。他认为,放慢发展会让中国取得领先。其人工智能顾问David Sacks也说,对人工智能造成生存危机的担心被夸大了。Lehane同时表示,OpenAI支持FRONTIER Act中的一项条款。该条款会要求领先的人工智能公司接受独立验证组织检查。
已确认的内容
目前最清楚的事实,是OpenAI承认已经和Anthropic、Google DeepMind讨论了数周。报道也记录了OpenAI支持外部评估人员的说法。另有报道提到,三家公司可能在筹建行业标准机构,但这还不是正式宣布的结果。
仍然未知
三家公司具体谈了什么,谁参加了会议,暂时都不清楚。外部评估机构何时进入公司、能看哪些资料,也没有答案。它们能否公开发现的问题,以及公司能否修改报告,同样没有说明。TechCrunch表示,已经向Anthropic、Google和OpenAI寻求回应。
接下来关注
接下来要看,讨论会不会变成公开的安全标准。还要看Google DeepMind是否加入外部评估,FRONTIER Act如何推进,以及评估机构能否真正独立工作。这个故事的核心,不只是公司愿不愿意谈安全,也在于它们能否在继续竞争的同时,接受别人检查。
三家人工智能公司,为什么一起谈安全?
📰 完整报道: OpenAI、Anthropic与Google DeepMind:竞争对手为何一起谈人工智能安全
OpenAI、Anthropic和Google DeepMind已经谈了几周人工智能安全。
第三方评估
让公司外的机构检查人工智能是否安全。
最前沿人工智能
现在能力最强、发展最快的人工智能。
💡 一句话总结
- 三家人工智能公司讨论了安全问题。
- 它们可能让公司外的机构检查人工智能。
- 目前还没有公布共同的安全规则。
OpenAI(制作 ChatGPT 的公司)是其中一家。它的政策负责人Chris Lehane在9月15日介绍了这次讨论。Anthropic(制作 Claude 的公司)和Google DeepMind(Google的人工智能研究部门)也参加了。
人工智能安全,是检查它会不会造成严重伤害。Anthropic负责人Dario Amodei认为,最前沿人工智能发展太快了。他希望行业放慢速度。OpenAI负责人Sam Altman和Google DeepMind负责人Demis Hassabis支持这个想法。
Altman还支持第三方评估。第三方评估,就是由公司外的机构来检查安全。这样做可能发现公司自己没有看见的问题。它也能让公众更容易判断安全承诺是否可信。
但是,报道没有说明三家公司到底谈了什么。外部机构什么时候进入公司,也没有确定。它们能查看哪些资料,更没有公布。三家公司是否已经同意相同规则,也不能确定。
合作还有法律上的难题。反垄断法不允许公司用合作来削弱竞争。Amodei提出过范围很窄的政府许可。Lehane说,三家公司不需要这项许可。美国总统Donald Trump则认为,放慢发展会让中国领先。
OpenAI还支持FRONTIER Act中的独立检查条款。接下来要看,讨论能否变成公开规则。TechCrunch的报道目前没有给出最终答案。
大公司一起看人工智能安不安全
📰 完整报道: OpenAI、Anthropic与Google DeepMind:竞争对手为何一起谈人工智能安全
三家做人工智能的公司,谈了安全问题。
检查员
从公司外面来看电脑是否安全的人。
OpenAI(制作ChatGPT的公司)参加了讨论。 Anthropic(制作Claude的公司)也参加了。 Google DeepMind(Google的人工智能小组)也参加了。 人工智能像会帮忙的电脑。 这些公司想让电脑变得更强。 它们也想让电脑不惹麻烦。
公司外的检查员可能会来帮忙。 他们会找危险的问题。 他们不是这几家公司的员工。 大家还没有定下新规则。 大家也不知道谈话的细节。 所以,这个故事还没有结束。 来源:TechCrunch