OpenAI释放‘减速’信号，AI安全风险引多方关注

OpenAI负责人刚说要慢下来, 整个行业就其实早就刹不住车了, 万亿资金、全球竞争、资本回报压力把AI推上了没有回头路的快车道。

奥尔特曼呼吁减速但没人敢先认怂

9月11日, OpenAI首席执行官山姆·奥尔特曼在公司内部会议上向员工透露, 公司对放缓AI系统研发速度持开放态度, 并且希望其他AI实验室也可以采取类似行动。这一表态引发外界广泛关注, 毕竟作为当前最先进大模型的核心研发主体之一, OpenAI的动向直接影响着整个行业的走向。

但奥尔特曼同时发出过这种警告啊目前整个AI行业尚未充分意识到AI失控可能带来之灾难性这些后果啊是, 他意识到风险并且也知道如果仅单靠那么一家公司之自觉那么它是无法阻止竞争惯性, 之呀是真正的问题那就整个行业是否能够如此地愿它意去集体踩下刹车啊。

超级智能可能明年就出现

图灵奖得主伊恩·古德费洛、加州大学伯克利分校教授等学者先后发出正, AI能力提升的速度正在超越人类控要时踩下刹的控能能力。机器机智能机研究机主席内特·苏雷斯更直言言, 已经就更然就排除不出现可能超智能在明年出的可能性。

苏雷斯觉得, 如果成千上万的AI智能体已经可以合作处理特别复杂的数学问题, 则驱使AI找更管用的训练方法并不算无法达成。要是AI可以无人类插手的情况下自我优化, 个自我强化的反馈回路就会启动, 造就模型越强大、研发越快速、下一代更出色的螺旋上升趋势。

激进监管方案：监控芯片和国际监督

由苏雷斯所提出的监管方案相当激进: 政府应禁止训练能力逾越某项门槛的AI系统。他指出, 训练当前最先进AI需要数十万枚高端芯片集中散布在大型数据中心, 并消耗极为庞大的电力, 所以能够对最先进AI芯片及其超大群落聚积进行监控。

他建议要求有关数据中心接纳国际监督, 以此确认这些算力不会被运用于隐秘训练突破安全红线的超级智能。苏雷斯以核反应为打比: 铀可从地下提取追踪难度难, 但最尖端之AI芯只能由全球极少数高度繁杂的工场打造, 每一颗芯之生产源头相较易追踪。

囚徒困境：先刹车等于主动认输

摆在眼前的切实问题就是, 哪怕所有AI公司都察觉到风险, 也半根毛都没有一家愿意率先踩下刹车。任何一家主动调整原行进节奏放慢些模型训练速率、减少些算力抢滩采购量或拉低产品更新迭代速率的动作环节, 都说不定要给竞争对手留存下完成追赶任务甚至实现反超的机会空间。这是一款地地道道的囚徒困境范式, 每一家单个的企业合理决策最终酝酿成全体整体的非理性结果。

达里奥·阿莫代等人创办 Anthropic 的本意就是让 AI 安全研究跟上前沿模型发展, 他们在《宪法》中提出: 如果强大 AI 不可避免, 那么相较主动退出, 让更重视安全的团队留在技术前沿更有利；OpenAI 也于9月9日的政策文件中提出, 希望利用每一代 AI 助力下一代 AI 变得更安全, 更符合人类意图。

万亿资本已深度绑定无法脱身

英伟达于七月所披露出来的监管层面的文件显露, 公司已然签下了的供应以及产能承诺达到两万七千九百亿美元, 其将要覆盖住未来AI建造基座所需要的各样各类的芯片和各类内存以及有关制造的能量。当年九月十日, 各传媒从国际清算银行主事者处引述出来的信息声称, 全球最为五座最大的科技类公司, 于2025直至2026年内的AI类建造基座投资资金已然超越一万亿美元。

国际清算银行预计得要更广泛的AI投资到2030年可能达到4万亿美元, 并且得越来越多依赖债务跟私人信贷融资。设备已经订购、数据中心开始建设、电力和云服务合同陆续锁定, 资本市场已经按未来数年的增长预期投入了海量资金, 没有任何退路。