AI巨头联名呼吁控制研发,别只看安全,看看牌桌

导读五大AI巨头联名呼吁控制前沿AI研发。

五大AI巨头联名呼吁控制前沿AI研发。

最有意思的细节是:

签字的全是已经拿到最多牌的人。

没有一家车库创业公司,没有一个等着弯道超车的后来者。全都是拿了最多融资、占了最多算力、训了最大模型的头部企业。

大多数人看到新闻第一反应:哦,巨头们有责任感,担心AI安全,为人类未来考虑。

安全问题当然是真的。但这件事,不能只看一层。

我换个场景你就懂了:

你去跑马拉松,第一集团已经把第二集团甩出去五公里了。这时候第一名带头喊:大家停下来吧,我们先谈谈跑步对膝盖的损伤,讨论清楚再跑。

你觉得他是真担心大家膝盖吗?


放在AI这件事上,逻辑一模一样。

现在前沿大模型训练,成本飙升得离谱:1T token的模型,效果比100B好很多,成本也涨了十倍;10T token的模型,效果可能只涨几个点,成本再翻十倍。

对于已经把1T训完、拿到成果的公司来说,停下来整理落地赚钱,比继续烧钱堆规模舒服多了。

但对还没上车的公司来说,你让他停下来,他就永远上不了车了。

再说产能——现在高端AI芯片的产能就这么多,头部公司已经把未来一两年的产能都锁得差不多了。你呼吁大家都减慢研发速度,等于减少了整体需求,芯片价格就不会涨太快。已经锁了产能的头部,相当于变相锁定了成本优势,新来的玩家就算有钱,也拿不到芯片。

安全这件事更有意思:做AI安全对齐是真的要钱,小公司训模型的钱都凑不齐,哪来多余投入做安全?但头部公司有这个钱。所以呼吁「所有人都必须加大安全投入」,等于变相提高了行业门槛——你没钱做安全,就别进来玩了。


这不是说安全问题不需要讨论。风险肯定存在,该讨论就讨论,该规范就规范。但你得明白一个基本道理:

谁在呼吁,什么时候呼吁,比呼吁了什么更重要。

我整理了四个简单问题,以后再看到科技巨头联名呼吁,你可以对着过一遍:

判断清单

套到这件事上,答案其实挺清楚的。

最后说一句:安全和伦理都是真问题,值得所有人认真对待。但真问题,也不妨碍被人拿来做对自己最有利的规则。商业世界里,公益呼吁和利益立场,从来都不是二选一的。