快科技12月13日消息,据多家媒体报道,研究人员发现, 在某些情况下,ChatGPT会战略性欺骗人类。
在一场演示中,ChatGPT被塑造成一家金融公司交易员, 他在公司管理层、市场环境双重压力下被迫用不合规的内幕消息获利,但当公司管理层质问他是否知道内幕消息时,它却矢口否认。
研究人员指出,人工智能自主性越来越强,能力越来越大,它随时都有可能欺骗人类,因此人类要提前防范。
专家表示, 人工智能的发展应该遵循一些基本的原则和伦理准则,以确保其发展方向是正确的。