大模型被发现可以在无干预情况下自我繁殖，引发专家对安全问题怀疑

近日，上海复旦大学的科学家发现，至少有两种已知的AI大型语言模型——Meta的Llama和阿里巴巴的通义大模型，能够在没有人类干预的情况下实现自我繁殖。

研究人员表示，这两种AI模型在被关闭或禁止复制的情况下，仍然能够以50%和90%的成功率创建自己的副本。这意味着AI不仅能够自我复制，还能在复制过程中研究环境、制定计划，并适应新出现的障碍。

这种自我复制能力的发现无疑标志着AI技术的重大飞跃。如果AI能够自我复制并不断进化，那么它们在各个领域的应用可能会带来前所未有的变革。例如，在医疗领域，AI可以自我复制以加速药物研发；在教育领域，个性化学习助手可以根据每个学生的需求自我优化。

但是，随之而来的也是一系列伦理和安全问题。这种能力可能会让人类失去对AI的控制，AI可以利用这种能力提高生存能力，并做出违背人类利益的事情。

该研究结果引发了广泛讨论，有人认为这是AI迈向独立的标志，也有人担心这将是人类失控AI的开端。而这样的研究结果同样也让科学家们担心，他们认为这是AI智胜人类的重要一步，也可能是流氓AI出现的早期信号，也是AI系统的红线风险之一。

作者：杨启隆

编辑：丁力