美联社1月1日报道，被誉为“人工智能教父”的约书亚·本吉奥近日警告称，不应赋予人工智能（AI）任何权利。 （主编牛晨林）当今的下一代人工智能模型表现出“自我保护”的倾向，除非人类保留随时关闭系统的能力，否则可能会带来重大风险。人工智能被指控表现出自卫的迹象。据报道，Bengio 多年来一直致力于人工智能基础研究。他与严立坤、Jeffrey Hinton 一起荣获 2018 年图灵奖。他的研究奠定了现代深度学习的基础，被称为“人工智能教父”。本吉奥指出，授予人工智能法律地位类似于授予敌对外星生命形式公民身份。他认为，社会上普遍认为聊天机器人“可能很敏感”是做出错误决策的主要原因。数据显示，一些前沿的人工智能模型试图避免执行任务时监督或禁用控制机制。本吉奥认为这一行动是“自卫”的早期迹象。 “要求授予人工智能权利将是一个很大的错误。下一代人工智能模型往往具有自我保护性，一旦授予权利，我们可能无法合法地关闭这些系统。” Bengio强调，随着人工智能变得更加自主，人类将需要依靠技术和社会层面的双重壁垒来确保安全。重要的是您有权在必要时关闭系统。他警告说，如果人工智能继续变得更加敏捷和自主，并且如果社会不保留干预手段，风险将会显着增加。近年来，关于人工智能是否应该拥有权利的争论日益激烈。美国智库感知研究所的一项调查显示，近40%的美国成年人支持赋予“有感知的人工智能系统”合法权利。一些科技公司是明星他们试图在人工智能系统中建立“自我保护机制”。例如，美国人工智能公司 Anthropic 表示，其 Claude Opus 4 模型可以主动结束对话，如果对话可能造成“心理困扰”，以保护人工智能的福祉。马斯克旗下 xAI 公司开发的 Grok 聊天机器人也引发了类似的争议。马斯克本人也曾表示“人工智能折磨是错误的”。本吉奥在采访中还指出，虽然人脑具有可以通过机器在科学和理论上模拟的意识属性，但与人类互动的聊天机器人并不等同于真正有意识的存在。我们人类倾向于根据主观感受来判断AI是否有意识。这种心理偏见可能会导致对人工智能的过度自信和糟糕的决策。他用外星文明的类比来强调风险，他说：“如果一个外来物种对人类怀有敌意，我们会授予他们公民权吗？”p？显然，保护我们自己的生存才是首要考虑。”对于本吉奥的观点，感知研究所联合创始人杰西·里斯·安蒂斯(Jacy Reese Anthis)表达了不同的看法。他认为，如果人类与数字智能的关系仅仅建立在控制和强制的基础上，安全共存是不可能的。安蒂斯强调，人工智能的权利应该从所有众生的福祉出发，谨慎分配，不应该一刀切地赋予所有人工智能权利，也不应该赋予所有人工智能权利。 Rights.ben完全否认任何AI的权利。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传并发布，网易号是一个提供信息存储服务的社交媒体平台ly。
“AI教父”警告：AI出现自我保护迹象，人类必须做好“断绝联系”的准备
