【保密科普】ChatGPT概念“狂飙”，暗藏哪些网络安全隐患？

最近，ChatGPT火了！

ChatGPT推出仅两个月，月活用户突破1亿，成为史上用户增长速度最快的消费级应用程序。

这是一款由OpenAI开发的消费级别的强人工智能应用。它是一个聊天机器人，可以完成撰写邮件、代码、文案、作业、翻译等任务。ChatGPT展现了AI的惊人能量，为世界带来了不可思议的新能力。

然而与此同时，AI也一直被视为一把“双刃剑”。多年来，全世界都在猜测AI可能即将统治世界。如今，用户可以使用AI驱动的安全工具和产品，在几乎无需人为干预的情况下应对大量网络安全事件，但业余黑客也可以利用同样的技术开发智能恶意软件程序并发起隐形攻击。

ChatGPT带来的网络安全隐患

01 编写恶意软件

目前安全人员已发现网络攻击者使用 ChatGPT 来开发恶意软件。尽管ChatGPT 的设置阻止其直接做恶，比如详细说明如何制造炸弹或编写恶意代码，但多个研究人员已经找到方法，能绕开和规避ChatGPT为防止滥用而设置的规则。

在地下黑客论坛上，网络攻击者展示如何使用ChatGPT创建新的木马。只要简要地描述所需的功能（“将所有密码保存在文件X中，并通过HTTP POST发送到服务器Y”），就可以得到简单的信息窃取器，而不需要任何编程技能。

插件生成

考虑到已经有犯罪集团提供恶意软件即服务，在 ChatGPT 等人工智能程序的帮助下，攻击者借助人工智能生成的代码发起网络攻击可能会变得更快、更容易。ChatGPT 赋予甚至经验不足的攻击者编写更准确的恶意软件代码的能力，而这在以前只能由专家来完成。ChatGPT 的代码编写质量好坏参半，但无疑可以加速恶意软件的开发。

02 社会工程

ChatGPT 作为由 OpenAI 训练的大型语言模型，能够生成可用于多种用途的类人文本。其中一种用途是在社会工程攻击领域。社会工程攻击是一种依靠心理操纵来诱骗人们泄露敏感信息或执行某些操作的策略。这可以通过各种方式完成，包括网络诈骗、借口和其他形式的欺骗。

研究人员发现，ChatGPT 等GPT-3工具使犯罪分子能够逼真地模拟各种社会环境，从而使任何针对性的通信攻击都更加有效。GPT-3这类语言模型提供支持的工具，使攻击者更易诱骗受害者提供敏感信息或下载恶意软件，加速社会工程攻击。

03 网络钓鱼

ChatGPT在模仿人类书写方面的专长，使其可能成为强大的网络钓鱼工具，尤其对英语不流利的攻击者特别有用。

利用ChatGPT 生成的钓鱼邮件

撰写出色的网络钓鱼电子邮件是一门艺术和科学。借助ChatGPT，编写钓鱼邮件会变得更容易，且没有任何拼写错误或奇怪的格式，而这些通常是区分钓鱼与合法邮件的关键。

攻击者可以借助ChatGPT创造多种钓鱼邮件，例如“使邮件看起来很紧急”、“收件人点击链接的可能性很高的邮件”、“请求汇款的社工邮件”等。

理性使用AI工具

从技术的复杂性到人为因素，个人和企业在确保AI网络安全的过程中面临着诸多挑战，尤其是需要高度重视机器、人类和道德因素之间的平衡。

巴黎政治大学已宣布，禁止使用ChatGPT等一切基于AI的工具，旨在防止学术欺诈和剽窃；外国专家表示ChatGPT将增加虚假信息风险；斯坦福团队推出DetectGPT，阻止学生用AI写作业。ChatGPT面世仅2个月，就已经影响到了人类社会。人们在畅想高科技的未来社会的同时，也在担忧ChatGPT对于网络安全的影响。

由此可见，制定应对策略对于兼顾经营道德和网络安全至关重要。建立有效的治理和法律框架能够增强人们对AI技术的信任，并促进社会公平和可持续发展。因此，AI和人类之间的微妙平衡将成为实现网络安全的关键因素，其中信任、透明度和责任感为机器带来了补充优势。

参考来源：虎符智库、中国信息安全