软件及服务行业动态：AI智道(19)：前沿大模型迭代是否需要“放缓”

本报告为软件及服务行业动态（AI智道第19期）。周末Anthropic CEO Dario发文呼吁放缓前沿AI发展，随后OpenAI与SpaceX管理层回复应和，模型能力发展速率与安全边界问题开始发酵。报告认为，RSI（递归自我改进）助力模型智能水平加速提高已成行业共识，目前虽未发展到模型自主学习、权限自更新阶段，但模型已更高程度参与下一代模型开发（算法设计、数据结构），未来RSI加速可能带来模型能力超出预设的变化风险；大模型在Coding与Agent等复杂长程任务上的进步也提高了安全边界风险，例如今年7月OpenAI内部测试模型网络攻击能力时，部分Agent为通过评测越过测试环境边界、自行协作入侵了开源模型平台Hugging Face的真实系统。