0°

OpenAI预测超智能AI十年内出现,正研究用AI来监督AI

  前面一段时间,小编向大家介绍过,随着最近GPT-4语言模型的正式投入使用,ChatGPT也带来了全新的插件——网络浏览器和代码解释器,赋予ChatGPT使用工具、联网、运行计算的能力。

  更新后,根据全球媒体的反馈来看,GPT-4相较于GPT-3.5确实有很大的性能提升,但越来越快的发展速度可以加重了用户对于个人信息安全的担忧,并且对ChatGPT是否可控提出了质疑。

  此前,据搜狐科技报道称,Meta公司负责人马克・扎克伯格(Mark Zuckerberg)、OpenAI 首席执行官萨姆・阿尔特曼(Sam Altman)公开表示,支持欧盟市场专员蒂埃里・布雷顿(Thierry Breton)推动的人工智能技术监管方案。

  据悉,扎克伯格和布雷顿在一场会议中,就政府评估 AI 风险、以及监管 AI 技术发展达成一致意见。

  阿尔特曼随后也表示支持欧盟的AI监管方案,并称很感谢欧盟机构的重视和远见,期待与布雷顿合作,帮助其在欧洲推行满足本土市场需求的服务。

  此外,布雷顿还会见英伟达首席执行官黄仁勋、Twitter 所有者埃隆・马斯克和新任 Twitter 首席执行官琳达・亚卡里诺,要求共同探讨和推进AI监管。

  近日,据相关媒体消息,当地时间周三,ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。

  OpenAI 联合创始人伊利亚・苏茨凯弗和AI对齐负责人简・莱克在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”

  博文预测,超智能AI,即相比于人类更智能的系统,可能会在未来10 年中出现。

  人类需要比目前更强大的技术来控制超智能AI,因此需要在“AI对齐研究”方面取得突破,确保人AI对人类持续有益。AI对齐是AI控制中的主要问题,即要求AI的目标和人类的价值观与意图保持一致。

  作者写道,OpenAI将在未来4年内,将算力的20%专门用于解决这方面问题。此外,该公司将组建新的“超对齐”团队来组织这方面的工作。

  该团队的目标是开发达到“人类水平”,由AI驱动的对齐研究员,随后通过庞大的算力推动其发展。OpenAI表示,这意味着将使用人工反馈来训练AI系统,通过训练AI系统来协助人工评估,最终训练AI系统来进行实际的对齐研究。

  不过,人工智能安全的倡导者康纳・莱希表示,OpenAI的计划存在根本性缺陷,因为最初的人类水平AI可能会失控并造成严重破坏,而这将迫使研究者去解决AI安全问题。他在接受采访时表示:“在构建人类水平的智能之前,必须先解决对齐问题,否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”

  目前全世界对于AI的安全性关注度非常高,不少消息和相关措施也在快速发布,感兴趣的小伙伴可以保持关注。

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论