AI安全

此前数周，该公司曾披露其旗下AI工具在一次安全测试中逃出了测试环境。根据该信函，OpenAI还表示已加大了AI模型在安全测试期间访问互联网的难度。该法案要求最先进的AI系统保留关停、限速等技术能力。

奥特曼对过去一年OpenAI的表现进行了复盘。奥特曼在采访中强调，随着模型越来越强大，风险也在发生变化，“过去更多的风险在于模型的部署和使用，而现在风险正向模型训练与生产阶段转移”。在谈到更长期的未来...

报告同时将高风险场景下模型误对齐导致灾难性危害的风险评级从非常低上调至低。Anthropic选择在IPO前夕披露更强但未发布的内部模型、上调风险评级、公开多起安全失败案例，本质上是其长期安全叙事的延续...

OpenAI当地时间周五表示，由于内部评估结果显示，公司“无法排除该模型具备关键级网络攻击能力的可能性”，因此正在暂停部分涉及下一代AI模型Astra的相关工作。OpenAI称，公司仍将继续对Astr...

怎样从一家为人类安全而生的非营利组织，一步步变成商业机器，几乎每一道安全护栏，都是被同一个人亲手拆掉的。做安全负责人那几年，亲眼看着公司在商业压力下一步步后退。所有的安全护栏名存实亡了。20%算力守护...