近期，一些欧洲地区顶级的技术专家警告说，AI可能造成人类灭亡，这让不少专家学者领域领导者对这种观点信息真实性形成了怀疑。尽管有的人可能认为这些风险被高估了，可是非常明显，AI潜在不良影响真实存在，是值得要考虑的。

技术性名人明确提出的重要忧虑之一是AI很有可能对人们导致存活威协。这一说法简洁明了而不容乐观，AI安全管家公布的一份申明写到：“减少AI造成灭亡的风险应当与其它社会发展体量的风险，如疫情和核战一样，变成了全球优先选择事宜。”

这一份签定申明获得了很多商业领袖、科研人员和社会公众人物的大力支持，主要包括谷歌搜索DeepMind的CEODemis Hassabis、土耳其前总统Kersti Kaljulaid与英国图灵奖得主、近期因讨论AI的危险性选择离开谷歌的Geoffrey Hinton等名称。

这一份申明加入对AI导致存活威协的焦虑之音，领域领导者号召中止开发设计被称之为可怕的AI系统软件。诊疗专业人员还要求中止开发设计人工通用性智能化，埃隆马斯克警告说AI可能造成“文明毁灭”，皮查伊认可AI的危险性“使他寝食难安”。

还有一个日益壮大草根创业健身运动，担忧高端AI的风险。学生们查理周刊在OpenAI的CEO眼前游行示威，规定该公司在安全防范措施及时以前终止追寻人工通用性智能化。相似的抗议活动也出现在谷歌搜索DeepMind总公司外。

技术性名人明确提出的焦虑不仅讲的是AI可能导致潜在风险，都是有关AI可能产生的潜在性益处。尽管AI有可能会创新很多领域，包含医疗健康和金融业，但也需要考虑到隐性的风险。

为了缓解这种风险，领域领导者和监管人必须共同商定AI安全框架。这一架构应当包括对AI实体模型进行检测和评估，以确保他们安全性宣称是有用的。它也应当包括审计工作员提供问责制度，并确保实体模型创始人明确提出安全性宣称是有用的。

布署实体模型之后进行不断检测也非常重要，需要有一个系统来识别汇报令人堪忧事件。这有助于确保AI实体模型以一种安全与有责任心的方法开发与布署。

欧洲地区顶级技术专家警告说AI可能造成人类灭亡，这也是非常值得要考虑的。尽管有的人可能认为这些风险被高估了，可是非常明显，AI潜在不良影响真实存在，是值得要考虑的。领域领导者和监管人必须共同商定AI安全框架，并确保AI实体模型以一种安全与有责任心的方法开发与布署。