Facebook母公司Meta再次打开人工智能业界的聚光灯。2024年10月18日，Meta宣布推出一批来自其研究部门的全新AI模型，其中最引人注目的是"自学评估器"（Self-Taught Evaluator）。这一创新模型可能为减少人类在AI开发过程中的参与开辟了一条新路径。
这个评估器模型采用了与OpenAI的o1模型相似的"思维链"技术，通过将复杂问题分解为较小的逻辑步骤来提高回答准确性。值得注意的是，Meta的研究人员完全使用AI生成的数据来训练这个评估器模型，彻底消除了这一阶段的人类输入。
Meta的这一举措意义重大。它展示了AI自主评估AI的可能性，为构建能够从自身错误中学习的自主AI代理提供了新的思路。这种自我改进的模型可能会大大减少目前广泛使用的"基于人类反馈的强化学习"（RLHF）过程中对人类标注者的依赖。
随着AI能力的不断提升，自我评估和自我学习的能力将成为AI达到超人类水平的关键。正如Meta研究员Jason Weston所言："我们希望，随着AI变得越来越超人类化，它在自我检查方面的能力也会越来越强，最终可能会比普通人类更优秀。"
然而，这项技术的发展也引发了一系列问题：如果AI能够自主学习和评估，人类在AI发展中的角色将何去何从？我们如何确保AI的自我评估是可靠和符合道德的？在AI变得越来越自主的过程中，我们又该如何维持对其的控制和监督？
不管如何，Meta的这一突破为AI的未来发展描绘了一幅令人兴奋又充满挑战的蓝图，也让人期待看到更多创新成果，而AI技术发展与人类利益和价值观的挑战不会停止。
