近日,全球AI圈被“AI末日论”和巨头“踩刹车”的议题刷屏,从科技巨头高层到美国总统都参与讨论。Anthropic在IPO前夕呼吁放缓研究,背后原因引人深思。
Anthropic前研究员的辞职推文引发“AI末日论”恐慌,其CEO达里奥·阿莫迪呼吁全行业放缓开发前沿AI,还提出三步方案,OpenAI CEO山姆·奥尔特曼和马斯克纷纷附和。这些曾有矛盾的巨头,在放缓AI研究上达成一致。
不少人认为“AI将毁灭人类”是AI巨头的营销手段,暗藏三层叙事:凸显技术价值吸引投资、暗示应由自己设计监管、转移外界注意力。Anthropic此前就多次制造话题,如声称网络安全市场崩溃等。
此前AI债券发行速度快,市场承接能力萎缩,同时OpenAI发布强大模型Astra,Anthropic模型竞争力不足。而此时Anthropic一边呼吁重视风险,一边加速推进IPO,计划募资不低于SpaceX,最早10月上市,且二季度已盈利。
Anthropic CEO的方案受到多位行业人士质疑,可能限制开源AI,导致技术和经济力量集中,还可能形成“监管俘虏”,抬高后来者门槛。Anthropic、OpenAI和谷歌已在讨论成立行业标准机构。
“AI或将毁灭人类”的论调,或许是为了垄断、针对开源模型的商业叙事,也可能真的存在潜在风险,毕竟OpenAI和Anthropic都发生过安全事故。
编辑观点:“AI末日论”和巨头“踩刹车”背后,商业利益考量明显。在追求发展与监管的平衡中,需警惕巨头借风险之名行垄断之实,同时也不能忽视AI潜在的安全隐患。