ChatGPT之父发出警告：AI可能灭绝人类！

(注:这篇文章看起来更像AI创作。)

同时警告图灵奖得主Bengio和Hinton，同时警告他们AI可能会灭绝人类！

就在昨晚，一封签署名单多达350人的公开信迅速传开。信的核心只有一句话:

像流行病、核战争等社会规模的风险一样，“降低人工智能灭绝人类的风险”应该成为世界的优先事项。

包括ChatGPT老板在内的三大AI巨头CEO签署了这封公开信OpenAI的Sam Altman，DeepMindDemis Hassabis和AnthropicDario Amodei；

除Yoshuaa外，还包括国内外许多大学的教授 Bengio和Geoffrey 除Hinton外，清华AIR院长张亚勤和斯坦福教授，图灵奖得主Martin Hellman等人也在其中。

在此期间，关于人工智能风险的各种规模也不断讨论，OpenAI CEO Sam 前段时间，Altman还提出，人们应该像对待核设施一样监督人工智能。

那么，谁发起了这封公开信倡议，人工智能牛反对这件事呢？

为什么要签这封信？

发布这封公开信的机构名称Center for AI Safety（CAIS），是一个关于人工智能安全的非营利组织。

CAIS在这封公开信的开头反复强调:

越来越多的人开始讨论人工智能带来的一系列重要和紧迫的风险，包括人工智能专家、记者、政策制定者和公众。

即便如此，也可能很难表达先进人工智能的严重风险。这封公开信旨在克服这一障碍，讨论相关问题，让更多的专家和公众人物意识到这一点。

事实上，许多签署了这封信的人工智能大牛最近发表了一篇关于人工智能风险的博客文章，或者在采访中谈到了他们自己的观点。

比如前段时间，Yoshua Bengio写了一封长信，警告说“人脑是生物机器，会有超级智能人工智能超越它”。

除此之外，Stability还包括 AI创始人Emadad Mostaque、剑桥大学助理教授David 在最近的采访中，Krueger等人也提到了人工智能带来的潜在危害。

例如，Emad Mostaque认为，包括Stability在内的10年后 AI、这些AI公司的规模甚至会超过谷歌和Facebook，包括OpenAI和DepMind。

因此，人工智能风险是必须考虑的：

我们可能处于全面变革的前沿，这对任何公司或国家来说都太大了，无法管理。

没签的AI大牛怎么说？

当然，在这波闹得沸沸扬扬的“请求人工智能监管”浪潮下，也有很多反对的声音。

到目前为止，还有另一位图灵奖得主Yann LeCun、前特斯拉AI总监Andrejej Karpathy、吴恩达等AI大牛其中，这封联名信还没有签署。

吴恩达发推回应说：

当我想到大多数人类生存所面临的风险时：流行病、气候变化导致大规模人口减少、（撞击地球）小行星。

人工智能将是我们寻找解决方案的关键组成部分。因此，如果你想让人类在未来1000年生存和繁荣，让人工智能发展得更快，而不是更慢。

LeCun同意转发：

“超人”人工智能之所以不在风险列表中排名第一，很大程度上是因为它不存在。至少在设计达到狗智商（更不用说人类了）的人工智能之前，我们过早地讨论了它的安全性。

对此，纽约大学教授Gary Marcus补充道：

不要把框架缩小到只关注人类灭绝的风险。人工智能还有许多其他严重的风险，包括帮助开发生物武器。

不过，Gary Marcus也没有签署这封350人公开信。

显然，反对者主要有两种意见，包括许多人工智能牛。

人工智能技术确实存在风险，但这封公开信涉及的内容太广泛了。

如果有更准确的声明，如“降低人工智能技术的潜在风险应该是科技行业、政府和该领域学术研究人员的首要任务”，那么这封信仍然可以签署。

这封公开信的内容被夸大了，人工智能甚至可以降低气候变化等领域的风险。

另一种意见认为，这封信只是目前掌握人工智能技术最领先的人，试图控制人工智能的下一个方向。

首席执行官使用OpenAI Sam 以Altman为例：

Sam 如果Altman真的很担心，现在可以直接关闭ChatGPT服务器了。

那么，你认为人工智能有可能根据目前的进展灭绝人类吗？