马斯克等千名科技人士联名呼吁：暂停开发比GPT-4更强大的人工智能

2023-03-29 19:04:26 知世

近日，特斯拉CEO埃隆·马斯克和一群人工智能专家及行业高管在一封公开信中呼吁，暂停开发比Open AI新推出的GPT-4更加强大的人工智能系统，并指出其对于社会及人类的潜在风险。

这封信由非营利组织生命未来研究所（Future of Life Institute）在3月22日发布，截至29日，已有包括马斯克在内的超过1000人联合签署。信中呼吁暂缓开发先进的AI系统，直至制订出针对这类产品的安全条款、经由独立专家审议且落地实施。

这封信中说道：“只有当我们确信这类强大的AI系统风险可控、作用积极时，才应该继续开发。”信里还详细说明了人工智能系统以造成政治经济干扰的方式，对社会和文明构成了怎样的潜在风险，并呼吁开发者和政策制定者在治理和监管方面进行合作。

(资料图片)

信件的共同签署人还包括英国开源人工智能公司Stability AI的CEO埃马德·莫斯塔克（Emad Mostaque）、Alphabet旗下DeepMind的研究人员，以及人工智能领域的重量级人物、计算机科学家约书亚·本希奥（Yoshua Bengio）和斯图尔特·罗素（Stuart Russell）。

联名信签署页面，截至北京时间3月29日18时已有1125人签署

欧洲刑警组织（Europol）27日也表达了对人工智能带来的道德及法律隐患的担忧。他们警告称，这类产品可能被用于网络钓鱼、虚假信息以及网络犯罪。

英国政府则在29日公布了针对人工智能的监管框架的建议。文件中提出，将人工智能的监管职能划分至人权、健康及安全、竞争监管等不同部门，而不是建立一个专门针对AI技术的新机构。

尽管马斯克经营的特斯拉公司正在将人工智能应用于其自动驾驶系统中，但他一直直言不讳对人工智能的担忧。

因开发出Chat-GPT及GPT-4而风头正盛的Open AI的首席执行官萨姆·阿尔特曼（Sam Altman）还没有签署这封联名信，该公司也没有回应置评请求。

2015年，马斯克和萨姆·阿尔特曼共同创立了非营利组织OpenAI，宣称要避免人工智能灭世。但是在2018年，马斯克宣布离开OpenAI，自此之后，他曾多次批评OpenAI从一个开源组织变成了一个市值300亿美元的盈利组织。马斯克认为，OpenAI与他创立时的初衷背道而驰。

联名信的共同签署人之一、纽约大学教授加里·马库斯（Gary Marcus）评论称：“这封信并不完美，但它的精神是正确的：我们需要放慢脚步，直到我们能够更好地了解它的后果。它们可能会导致严重的伤害，大公司正在把手中的业务变得越来越神秘，这使得社会很难抵御可能出现的问题。”

（编辑：阿千）

标签：