OpenAI 组建 AI 价值观新团队,奥特曼称人类水平的AI即将出现

  当地时间周二,人工智能领域的佼佼者 OpenAI 在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

  这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

  OpenAI 在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

  近期,人工智能技术的快速发展引发了人们的担忧。特别是其创造“深度伪造”图片和其他错误信息的能力,让人们在即将到来的 2024 年美国大选前夕感到不安。

  对此,OpenAI 首席执行官山姆・奥特曼(Sam Altman)表示,达到人类水平级别的人工智能即将出现,但它对世界的影响远没有我们想象的那么大。

  奥特曼称,人们总担心人工智能有朝一日会变得很强大,会极大重塑和颠覆世界,实际上这种担忧是被夸大了。

  奥特曼在瑞士达沃斯世界经济论坛上表示:“它(AI)给世界带来的变化比我们想象的要小得多,给工作带来的变化也比我们想象的要小得多。”

  奥特曼特别提到了通用人工智能(AGI),通用人工智能可能会在“相当近的将来”开发出来。

  去年 11 月份,奥特曼曾遭到 OpenAI 董事会解雇,主要原因就是公司董事会对人工智能安全和 OpenAI 在保护人工智能方面所扮演角色的担忧,并表示对奥特曼的领导失去了信心。在遭到 OpenAI 员工和投资者的强烈反对后,奥特曼迅速官复原职。

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论