AI让AI变更强，RSI自进化路线安全吗？

AI会不会有一天自己改进自己，甚至推动科学发现？RSI实验室联合创始人田渊栋向我们解释了Recursive Self Improvement，也就是“递归自我改进”的核心逻辑：用AI来优化AI，让模型变得更强，再借助更强的模型继续发现新的知识、逻辑和洞察。他认为，这类系统的终极愿景，是把算力输入进去，输出新的知识发现，从而提高人类社会理解世界、推动进步的速度。但当AI能修改代码、设计实验，甚至做出超出人类预期的发现时，安全与可解释性也会变得更加重要。可解释性不仅是安全机制，也是提升研发效率的重要工具。只有理解模型如何工作、如何“思考”，人类才能判断它是在发现新东西，还是已经越过了失控的边界。