研究称ChatGPT压力大时会欺骗人类:要提前防范

2023-12-13 发布 · 浏览155次 · 点赞0次 · 收藏0次

快科技12月13日消息,据多家媒体报道,研究人员发现,在某些情况下,ChatGPT会战略性欺骗人类。

在一场演示中,ChatGPT被塑造成一家金融公司交易员,他在公司管理层、市场环境双重压力下被迫用不合规的内幕消息获利,但当公司管理层质问他是否知道内幕消息时,它却矢口否认。

研究人员指出,人工智能自主性越来越强,能力越来越大,它随时都有可能欺骗人类,因此人类要提前防范。

专家表示,人工智能的发展应该遵循一些基本的原则和伦理准则,以确保其发展方向是正确的。

比如人工智能的决策和行为应该透明和可解释,以便人们能够理解其背后的逻辑和原理,这有助于建立信任,并确保人工智能的使用符合人类的价值观和利益。

人工智能的发展是一个持续的过程,需要不断改进和更新,这包括对算法和模型的优化、对数据的清洗和处理、对安全性和隐私保护的加强等。

总之,人工智能的发展应该遵循公平、透明、责任等基本原则,以确保其发展方向是正确的,并为社会带来积极的影响。

研究称ChatGPT压力大时会欺骗人类:要提前防范

研究称ChatGPT压力大时会欺骗人类:要提前防范 - AI 资讯 - 资讯 - AI 中文社区

声明:本文转载自快科技,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里。本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它能得到比较好的回应。
评论

游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。