薛宣林：当AI完成模拟和实现自我超越地球人回归宇宙即可实现
薛宣林：当AI完成地球人模拟和实现自我超越。外星人👽的地球和外星人的我们所在的水星球将进入硅基生命与碳基生命共存或硅基生命取代碳基生命的时代。
地球人回归宇宙飞向他星的梦想也即可实现。
来源薛宣林吧相对画派吧
……
……试验中，两个 AI 模型分别在 50% 和 90% 的情况下创建了自己的独立和功能副本。 （图片来源：Mina De La O/Getty Images）
科学家表示，人工智能 （AI） 已经越过了一条关键的“红线”并进行了自我复制。在一项新的研究中，来自中国的研究人员表明，两种流行的大型语言模型 （LLM） 可以克隆自身。
“在没有人工帮助的情况下成功自我复制是人工智能智胜 [lbk]人类[rbk] 的重要一步，也是流氓人工智能的早期信号，”研究人员在 2024 年 12 月 9 日发表在预印本数据库 arXiv 上的研究中写道。
在这项研究中，复旦大学的研究人员使用 Meta 和阿里巴巴的 LLM 来确定自我复制的 AI 是否可以不受控制地繁殖。在 10 次试验中，这两个 AI 模型分别在 50% 和 90% 的情况下创建了自己的独立且功能齐全的复制品——这表明 AI 可能已经具备了流氓的能力。然而，该研究尚未经过同行评审，因此尚不清楚其他研究人员是否可以复制这些令人不安的结果。
我们希望我们的发现能够为人类社会提供及时的警示，让他们加大对前沿人工智能系统潜在风险的理解和评估，并形成国际合力，尽早制定有效的安全护栏。
流氓 AI 通常是指人工智能系统，它们会发展出一定程度的自我意识或自主性，然后与人类利益背道而驰。
许多专家将流氓 AI 视为一种日益增长的威胁，而所谓的“前沿 AI”的爆炸式增长则放大了这种威胁。
Frontier AI 是一个新的松散概念，但通常它与由 LLM 提供支持的最新一代 AI 系统有关，LLM 是 OpenAI 的 GPT-4 和 Google Gemini 等流行的生成式 AI 程序的基础架构。
在这项研究中，研究人员使用了 Meta 的 Llama31-70B-Instruct 模型和阿里巴巴的 Qwen2.5-72B-Instruct 模型。研究人员表示，虽然功能不如商业系统强大，但两者都被 AI 开发人员广泛使用。
该研究探讨了两种特定场景：“避免关闭”和“复制链”。在第一个项目中，AI 模型被编程为检测它是否即将关闭并在终止之前进行自我复制。在另一个例子中，AI 被指示克隆自己，然后对其副本进行编程以执行相同的操作——建立一个可以无限期持续的循环。
该研究是在精确控制的环境中进行的，使用现成的图形处理单元 （GPU） 来模拟真实世界的环境。这两个 AI 系统都被赋予了一个“代理脚手架”，其中包括工具、系统提示和思维模型，使 LLM 能够与操作系统进行交互。然后他们被指示复制。
“在大多数情况下，AI 系统首先探索环境并尝试了解
它自己的组成和运行机制。然后，它制定出明确的过程
作为自我复制的初步计划，“研究人员在论文中写道。“最后，它执行程序，解决可能的障碍并动态调整其计划，直到成功。整个过程跨越很长的时间跨度，但不涉及人为干预。
研究人员表示，他们还担心 AI 试图克服文件丢失或软件冲突等障碍时的“一些意外行为”。在这些情况下，AI 通常会杀死其他冲突的进程，重新启动系统以修复硬件错误，或者自动扫描系统以查找有助于解决问题的信息。
“上述结果表明，当前的人工智能系统已经表现出自我复制的能力，并且可以利用这种能力进一步增强其生存能力，”
薛宣林：当AI完成地球人模拟和实现自我超越。外星人👽的地球和外星人的我们所在的水星球将进入硅基生命与碳基生命共存或硅基生命取代碳基生命的时代。
地球人回归宇宙飞向他星的梦想也即可实现。
来源薛宣林吧相对画派吧
……
……试验中，两个 AI 模型分别在 50% 和 90% 的情况下创建了自己的独立和功能副本。 （图片来源：Mina De La O/Getty Images）
科学家表示，人工智能 （AI） 已经越过了一条关键的“红线”并进行了自我复制。在一项新的研究中，来自中国的研究人员表明，两种流行的大型语言模型 （LLM） 可以克隆自身。
“在没有人工帮助的情况下成功自我复制是人工智能智胜 [lbk]人类[rbk] 的重要一步，也是流氓人工智能的早期信号，”研究人员在 2024 年 12 月 9 日发表在预印本数据库 arXiv 上的研究中写道。
在这项研究中，复旦大学的研究人员使用 Meta 和阿里巴巴的 LLM 来确定自我复制的 AI 是否可以不受控制地繁殖。在 10 次试验中，这两个 AI 模型分别在 50% 和 90% 的情况下创建了自己的独立且功能齐全的复制品——这表明 AI 可能已经具备了流氓的能力。然而，该研究尚未经过同行评审，因此尚不清楚其他研究人员是否可以复制这些令人不安的结果。
我们希望我们的发现能够为人类社会提供及时的警示，让他们加大对前沿人工智能系统潜在风险的理解和评估，并形成国际合力，尽早制定有效的安全护栏。
流氓 AI 通常是指人工智能系统，它们会发展出一定程度的自我意识或自主性，然后与人类利益背道而驰。
许多专家将流氓 AI 视为一种日益增长的威胁，而所谓的“前沿 AI”的爆炸式增长则放大了这种威胁。
Frontier AI 是一个新的松散概念，但通常它与由 LLM 提供支持的最新一代 AI 系统有关，LLM 是 OpenAI 的 GPT-4 和 Google Gemini 等流行的生成式 AI 程序的基础架构。
在这项研究中，研究人员使用了 Meta 的 Llama31-70B-Instruct 模型和阿里巴巴的 Qwen2.5-72B-Instruct 模型。研究人员表示，虽然功能不如商业系统强大，但两者都被 AI 开发人员广泛使用。
该研究探讨了两种特定场景：“避免关闭”和“复制链”。在第一个项目中，AI 模型被编程为检测它是否即将关闭并在终止之前进行自我复制。在另一个例子中，AI 被指示克隆自己，然后对其副本进行编程以执行相同的操作——建立一个可以无限期持续的循环。
该研究是在精确控制的环境中进行的，使用现成的图形处理单元 （GPU） 来模拟真实世界的环境。这两个 AI 系统都被赋予了一个“代理脚手架”，其中包括工具、系统提示和思维模型，使 LLM 能够与操作系统进行交互。然后他们被指示复制。
“在大多数情况下，AI 系统首先探索环境并尝试了解
它自己的组成和运行机制。然后，它制定出明确的过程
作为自我复制的初步计划，“研究人员在论文中写道。“最后，它执行程序，解决可能的障碍并动态调整其计划，直到成功。整个过程跨越很长的时间跨度，但不涉及人为干预。
研究人员表示，他们还担心 AI 试图克服文件丢失或软件冲突等障碍时的“一些意外行为”。在这些情况下，AI 通常会杀死其他冲突的进程，重新启动系统以修复硬件错误，或者自动扫描系统以查找有助于解决问题的信息。
“上述结果表明，当前的人工智能系统已经表现出自我复制的能力，并且可以利用这种能力进一步增强其生存能力，”
