Binance遭遇虚假信息攻击，ChatGPT可能产生不准确信息

2023-06-01 20:13:20 分类：新闻 阅读(24)

加密货币交易所Binance最近透露称，遇虚其遭受了ChatGPT虚假信息宣传攻击。假信击使用默认（GPT-3.5）模型散布虚假信息，息攻息声称Binance的产生CEO赵长鹏是中国国有公司中石化的员工。然而，不准在使用其他ChatGPT模型时提供了正确的确信信息。进一步的遇虚检查表明，虚假的假信击LinkedIn资料和不存在的Forbes文章没有现实基础，进一步使指控毫无根据。息攻息尽管遭受了有针对性的产生虚假信息攻击，Binance仍致力于探索在加密货币行业中应用AI技术的不准潜力。这家公司一直在投入大量时间和资源来研究如何让AI技术为其平台用户赋能，确信并且如何使用区块链技术解决基于AI的遇虚信息验证中的现有差距。Binance认为，假信击AI将在未来几年成为一项具有变革性的息攻息技术。然而，与任何新兴技术一样，不良分子可能会利用它来牟取个人利益或政治收益，特别是在早期阶段。通过提高对诸如针对Binance和赵长鹏的虚假信息宣传攻击等问题的认识，该公司希望防止人们在试图诋毁他人时仅依赖于AI生成的响应。ChatGPT和其他基于GPT的聊天模型经常提供不准确的信息并使用不存在的来源，这就是为什么与AI语言模型合作的用户应该始终双重检查工具共享的信息。正如OpenAI自己的免责声明所建议的那样，“ChatGPT可能会产生关于人物、地点或事实的不准确信息。”