AI巨头联名呼吁控制研发,别只看安全,看看牌桌
五大AI巨头联名呼吁控制前沿AI研发。
最有意思的细节是:
签字的全是已经拿到最多牌的人。
没有一家车库创业公司,没有一个等着弯道超车的后来者。全都是拿了最多融资、占了最多算力、训了最大模型的头部企业。
大多数人看到新闻第一反应:哦,巨头们有责任感,担心AI安全,为人类未来考虑。
安全问题当然是真的。但这件事,不能只看一层。
我换个场景你就懂了:
你去跑马拉松,第一集团已经把第二集团甩出去五公里了。这时候第一名带头喊:大家停下来吧,我们先谈谈跑步对膝盖的损伤,讨论清楚再跑。
你觉得他是真担心大家膝盖吗?
放在AI这件事上,逻辑一模一样。
现在前沿大模型训练,成本飙升得离谱:1T token的模型,效果比100B好很多,成本也涨了十倍;10T token的模型,效果可能只涨几个点,成本再翻十倍。
对于已经把1T训完、拿到成果的公司来说,停下来整理落地赚钱,比继续烧钱堆规模舒服多了。
但对还没上车的公司来说,你让他停下来,他就永远上不了车了。
再说产能——现在高端AI芯片的产能就这么多,头部公司已经把未来一两年的产能都锁得差不多了。你呼吁大家都减慢研发速度,等于减少了整体需求,芯片价格就不会涨太快。已经锁了产能的头部,相当于变相锁定了成本优势,新来的玩家就算有钱,也拿不到芯片。
安全这件事更有意思:做AI安全对齐是真的要钱,小公司训模型的钱都凑不齐,哪来多余投入做安全?但头部公司有这个钱。所以呼吁「所有人都必须加大安全投入」,等于变相提高了行业门槛——你没钱做安全,就别进来玩了。
这不是说安全问题不需要讨论。风险肯定存在,该讨论就讨论,该规范就规范。但你得明白一个基本道理:
谁在呼吁,什么时候呼吁,比呼吁了什么更重要。
我整理了四个简单问题,以后再看到科技巨头联名呼吁,你可以对着过一遍:

套到这件事上,答案其实挺清楚的。
最后说一句:安全和伦理都是真问题,值得所有人认真对待。但真问题,也不妨碍被人拿来做对自己最有利的规则。商业世界里,公益呼吁和利益立场,从来都不是二选一的。