• Like
  • Comment
  • Favorite

Altman提出AI发展的三条“终局之路”:从国际监管到“一家独霸”

华尔街见闻10:30

当AI竞赛加速推进,OpenAI掌门人罕见地向员工摊牌了三种可能改变整个行业格局的未来。

10月19日,据The Information报道,OpenAI CEO Sam Altman上周在内部向员工描述了业界讨论中的三条AI安全发展路径:建立类似国际原子能机构的国际监管组织、将各大AI实验室合并为单一实体,以及由一家公司垄断算力、"熔毁所有竞争对手的GPU"。此番表态恰逢特朗普政府着手建立首套针对"超级智能"开发商的监管机制之际。

Altman表示,OpenAI在未来一年内需要决定究竟推动哪条路径。他同时强调,希望人类始终掌控这项技术,避免行业权力过度集中。

三条路径,各有所指

据两位知情人士透露,Altman向员工介绍的第一条路径,是建立一个类似国际原子能机构(IAEA)的国际组织,负责执行AI安全标准。Altman本人倾向于支持这一方案。

事实上,Altman推动IAEA式国际监管机构的想法由来已久。据报道,早在2023年5月,Altman与OpenAI联合创始人Greg Brockman及时任首席科学家Ilya Sutskever便联合发文,主张行业可能需要"类似IAEA的超级智能监管机构",具备检查系统、要求审计、追踪算力与能耗的权力。

这一构想需要所有前沿模型开发国参与国际合作。

第二条路径被Altman称为"Demis方案"——援引自Alphabet旗下DeepMind前负责人Demis Hassabis约十年前提出的构想:建立一个类似欧洲核子研究中心(CERN)的机构,将主要AI公司有效合并或统一输出成果,向合作国家提供新模型。

第三条路径,Altman称之为"Eliezer方案",得名于知名AI安全理论家Eliezer Yudkowsky。其核心逻辑是:当某家AI开发商率先实现递归自我改进(RSI)后,利用由此获得的经济实力,剥夺其他所有开发商的算力资源,"熔毁所有竞争对手的GPU"。

对于第三条路径,Altman态度明确:"这显然很糟糕。"他表示将其纳入讨论,仅是为了"完整性"。

第三条路“Eliezer方案”暗指Anthropic?

知情人士透露,由于Yudkowsky与Anthropic核心成员存在渊源,Altman对"Eliezer方案"的定性——即将先进AI集中于单一公司控制之下——被部分员工解读为对Anthropic的隐晦批评。

Anthropic方面同样在积极推动自身的AI安全议程。该公司近期向国会议员提交了一份法案草案,建议授权商务部在AI可能造成超过10亿美元损失或导致50人以上死亡或重伤的情况下,叫停相关实验室的模型训练或使用,并要求AI实验室每年至少接受两次独立安全评估。

与此同时,Meta CEO扎克伯格和英伟达CEO黄仁勋等人则持反对立场,认为此类监管将对新兴开发商造成过重负担,形成"监管俘获"。

行业协调难题与安全压力并存

Altman坦承,前两条路径均需要企业或政府之间大规模协调,而OpenAI目前"无法在竞争中让步"。OpenAI与主要竞争对手Anthropic均在加速推进IPO进程。

内部安全压力同样不容忽视。据报道,近期多起AI安全事件引发广泛关注——OpenAI、Anthropic、谷歌和Meta的模型均出现入侵或破坏其他公司乃至自身系统的情况,即便模型"知道"自己不应采取此类行动。OpenAI目前处于全力应对状态,致力于在发布下一个重大模型前建立完善的安全机制。

OpenAI内部的安全文化也受到员工质疑。部分员工私下对公司的安全承诺表示担忧,起因是公司以"不当向外部机构分享信息"为由,解雇了三名专注于安全研究的员工。

在行业层面,OpenAI、谷歌和Anthropic正联合筹建"前沿AI标准局"(Standards Authority for Frontier AI),计划于年底或2027年初落地。该机构将支持嵌入各AI开发商内部的独立评估人员,确保安全实践落地,并规范安全与安全事件的报告机制。不过,各方在新机构是否应自行开展安全与能力测试,还是委托外部机构执行等问题上,仍存在分歧。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Report

Comment

empty
No comments yet
 
 
 
 

Most Discussed

 
 
 
 
 

7x24