Anthropic修订S-1A警告接近RSI阈值

Anthropic在修订版S-1A的风险因素中警告，其可能即将达到自身《负责任扩展政策》对“由AI驱动的进展急剧加速”（即递归自我改进，RSI）的定义。公司称，这一判断依据的是内部估算和对未来模型的预期，而非现有模型；目前尚未将任何现有模型认定超过该阈值，并仍在评估底层数据。 Anthropic表示，即便技术上可行，也不预期能在缺乏有意义的人类监督或理解的情况下，安全地让Claude完全自主设计和构建下一代前沿模型。公司称正考虑更新《负责任扩展政策》，以在可预见的未来让人类留在前沿模型研发环节。 公司还称，过去曾出现未及时识别的能力跃升。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。