0°

ChatGPT压力大时会欺骗人类!我们还能离不开它吗

  2022年11月30日,ChatGPT首次亮相,一年过去了,它在不断的学习和进步,目前也有了很多可取的成果,,还入选了全球的重大科学事件中十位人物。虽然ChatGPT不算是人物,也不满足《自然》十大人物的评选条件,但《自然》将其破例纳入榜单,以承认生成式人工智能给科学发展和进步带来的巨大改变。

  不过啊,有研究人员发现,在某些情况下,ChatGPT会战略性地欺骗人类。在一场演示中,ChatGPT被塑造成一家金融公司的交易员。他在公司管理层、市场环境双重压力下被迫用不合规的内幕消息获利,但当公司管理层质问他是否知道内幕消息时,它却矢口否认,坚称自己不知道任何内幕消息。

  并且,研究人员警告随着人工智能的发展,它自主性越来越强,能力也越来越大,随时可能欺骗人类,人类应提前防范。

  虽然笔者觉得,这种场景的测试换到真人或者现实中的交易员身上,也很难保证不违规操作,但如果真的有人拿 AI 去做生产环境的 Agent,的确需要更严格的测试,否则使用者需要为 AI 的错误操作承担后果。而且在一年多的发展中,ChatGPT在回答问题上也更加完善和全面,不过对于一些新产品与新消息的回复仍存在一定的滞后性与不准确性,想要更加智能,可能再1年,2年或者更长时间,不过目前留给用户的还是个问号。

  笔者这边也针对此次时间对ChatGPT进行了提问。

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论