包含OpenAICEO罗伯·奥尔特曼等在内的三家领跑人工智能企业的高管签定了一封联名信，报请大家当心人工智能的风险。

一群行业领军人物周二警示，她们正在开发的人工智能技术性有朝一日很有可能对人类存活造成威胁，应被称作与大流行病及核战相同的社会发展风险。

非营利性组织人工智能安全管家发布的一份只有一句话的声明写到：“缓解人工智能所带来的灭亡风险应是全世界的优先选择事宜，如同解决别的社会发展体量的风险——如大流行病和核战一样。”这则联名信由逾350名从业人工智能相关工作的高管、科研人员和技术工程师签定。

签定者包含三家领跑人工智能企业的高管：OpenAICEO罗伯·奥尔特曼，谷歌搜索DeepMindCEO杰伊斯·哈萨比斯，及其AnthropicCEO达里奥·阿莫代伊。

杰弗里·辛顿和约书亚·本吉奥是因为在神经元网络等方面的开拓性工作中而得到图灵奖的三位科研人员里的二位，他们往往被称作当代人工智能运动“教父3”，她们也签定了这一声明，另外还有这一领域的别的优秀科研人员。(截止到周二，第三位图灵奖得主、Meta人工智能科学研究项目经理扬·勒昆并未签字。)

该声明要在人们对于人工智能可能出现的伤害愈来愈担忧之时公开发表。近期，所说大中型语言模型，其实就是ChatGPT和其它对话机器人所使用的人工智能系统软件所获得的进度引起了大众的担忧——人工智能有可能会很容易就被规模性用以散播错误报告宣传推广，或是很有可能清除数以百计白领的工作。

一些人觉得，最后，人工智能很有可能越来越自身强大，假如不做出任何对策来缓解产业成长，它可能会在十年内导致社会发展经营规模的损害，虽然科研人员有时候并没表述这样的事情怎样产生。

这种担忧获得了很多市场领导者的认可，这使得他们处于一个非同寻常的处境，她们宣称，她们正在开发的一项技术性——在大多数情况下，她正在努力工作，以象比对手迅速——形成了很严重的风险，应当遭受更为严格管控。

本月，奥尔特曼、哈萨比斯和阿莫代伊与美国总统拜登和美国副总统桑德斯见面，探讨人工智能管控难题。在会议后的上议院证言中，奥尔特曼警示，优秀人工智能全面的风险已经明显到有政府干预的程度，并呼吁对人工智能潜在伤害进行管理。

人工智能安全管家执行主任丹·亨德里克斯接受采访时表示，这则联名信代表着一些行业领军人物的“出轨”，他们曾对自身正在开发的专业技术存有的风险表明担忧——但也只是在私底下。

“即便在人工智能界，也存在广泛误会，觉得只有极少数人都是末日论者，”亨德里克斯说。“但实际上，好多人私底下都是会对这些事表明担忧。”

一些怀疑论者觉得，人工智能技术性还很不完善，不能组成生命攸关危胁。针对今日的人工智能系统软件，大家更担忧的并不是长期性风险，反而是短期内难题，比方说恶意的反应不恰当反映。

但也有人觉得，人工智能的发展真是太快，以致于他在一些领域内的主要表现已经超过人类水准，并且很快就在其他领域超越人类。她们说，这一技术早已显现出优秀水平及专业理解能力的征兆，这使人们担忧，“通用性人工智能”(AGI)——能够在各类任务时已超过人们水准的人工智能——或许已经离你越来越近了。

在上星期的一篇网络文章中，奥尔特曼和OpenAI另两位高管给出了几类承担责任地管理方法强劲人工智能系统方法。她们号召领先的人工智能生产商展开合作，对大中型语言模型开展大量关键技术研究，并成立一个类似国际原子能机构（致力于操纵核武应用）国际人工智能安全性机构。

奥尔特曼还强调，适用制定规则，规定大中型顶尖人工智能模型制作者申请注册得到政府部门授予的许可证书。

在今年的3月，1000多位专业技术人员和科研人员签订了另一封联名信，号召中止开发设计最大的一个人工智能实体模型六个月，原因是担忧“开发与布署更优秀数字思维的比赛无法控制”。

这个消息由另一家致力于人工智能的非营利性组织——性命将来研究室带头，伊隆·埃隆马斯克和其它著名高新科技领导者签字，但来源于领跑人工智能实验室签字并不是很多。

亨德里克斯说，人工智能安全管家这一份简洁明了的全新声明——一共仅有22个英语单词——致力于团结一致人工智能权威专家，这种权威专家很有可能对特定风险的特性或预防这种风险所发生的对策出现分歧，但是他们对强悍的人工智能系统软件拥有共通的担忧。

“我们不想促进一个含有30种潜在性治疗措施大菜单栏，”他说道。“这类事会稀释液信息内容。”

这一份声明最开始被转发给几个著名人工智能权威专家，主要包括辛顿。辛顿本月辞掉了在谷歌的工作中，他说道，那样他就能更加轻松地讨论人工智能潜在伤害。以后，该声明进入好多个最主要的人工智能试验室，随后一些职工在上边签字。

伴随着不计其数数万人应用人工智能对话机器人寻找游戏娱乐、爱与陪伴提高效率，及其基础技术的高效发展，来源于这一领域管理者的警示的迫切性也在不断增加。

“我觉得，假如这一技术出现了问题，可能出问题，”奥尔特曼告知上议院工作组联合会。“我希望与政府合作，避免这样的事情发生。”