硅谷人工智能研究实验室OpenAI日前宣布启动一个名为“超级对齐”的新项目,引发业内外广泛关注。对齐是让AI系统能够理解人类的真正意图,避免误解指令做出危险事情的关键技术。而超级对齐是针对未来可能出现的超强AI系统进行对齐。OpenAI此举背后的考量为何?外界对该项目褒贬不一,哪些声音较为突出?
OpenAI之所以提出超级对齐,一方面是基于对未来AI安全的责任担当,另一方面也体现了其在技术上走在前沿的雄心壮志。在人工智能仍未达到通用智能的今天,OpenAI选择将目标定在更远的超级智能上,以加快推进进程。
对此,业内外反应不一。较为乐观的声音认为,这是一个新的方向,如果成功将是重大进步。但也有声音质疑其可行性,认为目前对齐技术还不成熟,要跳过多级难度直接对齐理解能力远超人类的超强AI系统,在现有技术条件下似乎还不太现实。还有观点持中立态度,需要继续观察。也有评论关注该项目带来的行业竞争效应。
无论褒贬,OpenAI超级对齐无疑向业界发出了进取的信号。该计划能否实现,仍需时间验证。但它的确为安全的人工智能对齐指明了新的道路,也将促使更多相关技术和研究的产生。让我们拭目以待,见证这个人工智能新领域的开拓之作是否能顺利实践。