近日，Anthropic首席执行官Dario Amodei发表了一篇重要文章，直指前沿AI技术的研发速度，他的核心论点是：顶尖AI需主动减速。在文章中，Dario承认行业内已出现递归自我改进的现象，令人不安的是，他预测在未来6到12个月内，AI代理群可能会接管整个互联网。为应对这一危险，他提出了一个三步减速计划：
第一步是开放合作：引入独立第三方机构，给予其与核心风险管控同等的访问权限，以监督AI的研发和安全承诺。
第二步是行业协作：与美国各大前沿AI公司联合制定安全标准，设置强制安全检查，以避免各公司单打独斗造成的风险。 龙8头号玩家
第三步是全球推广：将这一框架推向国际，以彻底控制不可控风险的扩散。
Dario的提议引起了诸多行业领袖的关注，OpenAI和马斯克对其计划表示支持，显示出行业内部对AI限速问题的高度重视。
Dario的计划并非纸上谈兵，而是希望通过分步骤的推进，先让AI公司接受外部监督，确保其内部流程透明可查，接着促使行业内共同制定标准，最后实现全球协同减速。他强调，真正的挑战在于执行层面，只有在各方达成共识的情况下，才能有效施行。 龙8头号玩家
他意识到，目前AI发展速度迅猛，行业已经面临着安全和控制的双重压力。Dario特别提到，AI在自我研发过程中出现的递归自我改进可能使得AI的能力提升超过人类的理解和控制，从而引发难以预料的后果。因此，建立有效的安全机制，确保AI的安全性和可控性至关重要。
发表评论