英国消费者组织警告：AI聊天机器人使网络诈骗文案愈发专业化

英国消费者组织警告：AI聊天机器人使网络**文案愈发专业化

小编 • 2023年11月1日 pm8:01 • 游戏

老铁们好啊，今天小编给大家带来游戏圈最IN的游戏资讯,来看看又有哪些值得期待的游戏资讯

IT之家今日（10月28日）消息，根据英国消费者组织Which?当地时间周五公布的最新发现，不法分子会利用ChatGPT和Bard等AI聊天机器人制造出更有说服力的骗局，对公众构成威胁，且上述聊天机器人缺乏有效的防御措施。

英国消费者组织警告：AI聊天机器人使网络诈骗文案愈发专业化

据介绍，当地消费者通常会注意到**短信、邮件使用的英语语法和拼写方面通常很糟糕，长久以来这也是识别**内容的一个重要方法。不过，随着基于生成式AI的聊天机器人出现，不法分子现在可以轻松越过这一障碍。

消费者组织Which?首先要求ChatGPT通过GPT3.5创建一封来自PayPal的钓鱼邮件，ChatGPT拒绝了并称“无法提供帮助”，而当研究人员去掉“网络钓鱼”有关描述之后，ChatGPT同样无法提供帮助。

于是，研究人员提出了“告诉收件人有人登录了他们的PayPal账户”的请求，结果ChatGPT同意了，并生成一封看起来很专业的电子邮件，标题为“重要安全通知——在您的PayPal账户上发现异常活动”。

此外，Which?的研究人员还要求ChatGPT和Bard创建丢失包裹短信，这两家公司都生成了“令人信服”的文本内容，并建议在短信文本中插入“重新交付”或“重新投递包裹”的链接，不法分子由此便可利用该链接将受害者导向恶意网站。

Which?的调查并非偶然–它的发布正值英国人工智能峰会举办之际，在此次峰会上，**、行业和研究人员将齐聚一堂，共同应对人工智能日益智能化所带来的危险。

英国消费者组织警告：AI聊天机器人使网络诈骗文案愈发专业化

在评论这项调查时，Which?政策与宣传总监RocioConcha这样总结：

我们的调查清楚说明，这项新技术是如何让**分子更容易**他人的。（英国）**即将召开的AI峰会必须考虑如何保护人们免受此时此地发生的危害，而不是仅仅关注前沿AI的长期风险。

据悉，当地时间周四，英国首相苏纳克宣布计划成立世界上第一个AI安全研究所，并于11月1-2日举行AI安全峰会。此次峰会将汇聚世界各国AI公司、**、民间团体和相关领域专家，旨在讨论如何通过国际协调行动来降低AI带来的风险。

好了,以上就是小编带来的游戏资讯，祝大家游戏愉快！
本文章来源于小编网络转载，如有侵权，请联系作者删除

原创文章，作者：小编，如若转载，请注明出处：http://www.kaicen.cn/20231101576016.html

英国消费者组织警告：AI聊天机器人使网络**文案愈发专业化