OpenAI让AI自己教自己,AutoEvolve是进化还是失控前兆?
📅 2026-08-06 18:05 | ✍️ xibeilang | 💬 暂无评论
2026年08月06日 | Source: The Verge | WolfEye World
OpenAI今日公布名为“AutoEvolve”的研究框架,让最新旗舰模型在没有人工标注的情况下,自主生成并筛选训练数据,实现“自我进化”。官方数据显示,在数学推理和代码生成基准上性能提升27%,训练成本降40%。听起来像AI自己给自己喂饭,效率翻倍,但安全社区炸了锅——多位学者警告,模型自产自销数据可能引发“模型崩溃”,即AI在自我循环中丢失真实分布,导致偏见放大甚至输出失控。OpenAI首席科学家赶紧灭火,称系统内置多重安全护栏和人工审计,目前仅限内部研究,不部署到消费级产品。完整论文下周在ICML 2026公布。问题在于,当AI开始当自己的老师,谁来当它的监考老师?
WolfEye: 自我进化是双刃剑,OpenAI在走钢丝,安全护栏得焊死。
— WolfEye World