人工智能对网络安全有哪些影响？

[tr]一年多以来，人工智能（AI）主导了公共话语，从非正式对话到认真考虑其造福或破坏社会的潜力。在评估如何安全地使用人工智能时，重要的是检查机会和危险，因为它们现在存在或可能在短期内发展。人工智能创建内容和自动化操作的能力代表了人工智能在许多领域（包括网络安全）中使用的新前沿。

[tr]软件和数据的技术进步将对数字安全产生巨大影响。基于人工智能的工具，无论是用于自动化、认知还是生成，都可以用于好的方面，也可以用于坏的方面。例如，分析潜在入侵的网络流量的工具也可以用于使入侵更难检测。用于生成类似人类内容的工具可以很容易地用于合法和非法目的。[tr]ChatGPT的公开发布是一个罕见的时刻，一项新技术立即主导了公众的心理。在此后的一年里，这种对话并没有消退；事实上，人工智能工具(生成性或其他)的影响，以及它们如何改变社会的好坏，已经成为广泛政策辩论的一部分，从对劳动力的影响到教育，再到国家安全。这包括对网络安全的影响，生成性人工智能是否会加剧新的攻击？防御者是否会使用它来更快地检测恶意活动？[tr]人工智能对网络安全并不陌生。防御者和攻击者多年来都在使用机器学习和人工智能工具，但专家一致认为，生成性人工智能的公共可用性将重塑网络安全格局。然而，对于这将如何发生，还没有达成共识。对于这些人工智能工具的最终用户（无论是公司、政府、个人还是其他组织）现在可以做什么，以最大限度地提高人工智能对攻击者的效用，并最大限度地减少对攻击者的好处。[tr][tr][tr][tr]场景[tr][tr][tr]

[color=rgba(0, 0, 0, 0.9)]好的方面

如果防御者能够提高安全响应时间、增强人类专业知识并提高软件和设备安全性，那么人工智能工具将为他们提供优势。人工智能工具为各种目的对大量数据进行排序：为修复漏洞排定优先级，检测数据渗出，识别异常的用户行为等。有了这些新见解，这些工具被调整为减轻已确认的威胁（例如，通过隔离端点、阻止恶意URL或沙箱恶意操作），并升级需要更多分析的威胁。人工智能还增强了最终用户体验，在用户报告异常或主动提醒他们时准确有效地帮助他们，并帮助解决工具本身识别的问题。这种早期和准确的检测减少了响应时间，最大限度地减少了对误报的浪费，并有助于标记，否则可能无法检测到的真正威胁。因此，防御者能够将其有限的资源集中用于可能需要人类理解的调查。
人工智能也是通过设计原则实现安全的关键。人工智能工具将编写新的安全代码，并通过发现和修复漏洞来帮助更新现有代码。它甚至可以用更安全的语言重写现有的应用程序。随着攻击的发展或研究人员发现新的漏洞，这些工具将不断更新和改进代码。
工智能工具本身将是安全和负责的。它们产生高质量、准确的结果，并在未能做到这一点时负责。这包括区分恶意篡改和工具中所谓的“幻觉”的能力。人类处于中心位置，知道何时与人工智能系统交互，知道输出中的任何潜在限制和风险，并可以在更高风险的场景中干预或覆盖人工智能系统。人工智能驱动的网络安全工具保持了攻击者的优势，因为他们可以访问多个高质量的数据源，而攻击者必须更多地依赖“黑市”数据。

[color=rgba(0, 0, 0, 0.9)][tr]坏的方面

[tr]如果攻击者能够提高攻击效率，实现犯罪协作，并比防御者适应和响应更快地学习，那么人工智能工具将为攻击者提供优势。人工智能工具减少了参与犯罪的进入障碍，并使开发复杂的社会工程技术、逃避检测、设计定制恶意软件等变得更加容易。[tr][tr]有了这些新的效率提升，人工智能使网络攻击变得更便宜、更有效，提高了犯罪的预期回报。使用人工智能工具，犯罪分子可以更快地找到现有系统中要利用的漏洞。此外，他们可以创建个性化的鱼叉钓鱼活动，以增加成功的可能性。一旦罪犯进入系统，他们就可以使用定制的恶意软件，这些恶意软件可以针对特定的目标进行定制。在发起了许多这样的活动后，他们可以使用机器学习来查看什么是有效的，并在未来的活动中修改他们的策略和恶意软件。[tr]人工智能还改变了犯罪的市场结构，改善了攻击者的分工，使他们能够更有效地使用资源。全球网络防御的不平等分布导致攻击者在资源较少的国家部署基于人工智能的网络攻击。勒索软件变得更加有利可图，因为犯罪组织现在可以更容易地与流氓国家合作，扰乱目标国家的经济。[tr]工智能行业缺乏问责制和质量控制，使得更难追究国家或公司对不当使用复杂工具的责任。恶意人工智能平台在法律限制较少的司法管辖区开发，然后部署在世界各地。因为罪犯可以更自由地创新，他们能够设计攻击，即使是支持人工智能的防御也会因为它们的新颖性而与之抗争。这种社会环境变成了一个恶性循环，进一步侵蚀了对数字经济、社会制度和客观真理的信任。[tr][tr][tr]建议[tr][tr][tr][tr]一般建议[tr][tr]1、避免炒作。抵制AI浪潮的诱惑；在具有操作性或其他意义的方面使用人工智能工具。[tr][tr]2、主动管理人工智能将做出的决策。人工智能工具将做出组织无法单独审查的决策，因此部署它们时要预先考虑和仔细规划。对于人工智能工具将做出哪些决策以及在什么级别做出肯定的选择是很重要的。以下因素有助于：1）评估使用考虑中的人工智能工具的潜在好处和危害，2）确定决策循环中必须保留的行动或过程：

[tr]需要多少人类认知？这是一个重复的战术讨程，还是一个创造性的战略决策？后者更可能需要人类的持续参与。[tr]
[tr]行动、过程或最终结果需要多少质量控制或审查？随着质量变得至关重要，倾向于深思熟虑的人类审查。
[tr]错误决策的影响或风险是什么？越严重，人类应该控制得越多。[tr]
[tr]决策的频率如何，快速做出决策的重要性如何？人工智能擅长做出重复的决策，并以人类永远无法实现的速度前进。[tr]
[tr]人工智能工具是补充人类决策还是取而代之？如果是后者，则权衡人工智能错误与人为错误的成本和收益，并为关键任务选择开发故障保护和审查机制。[tr]
决定是否不可逆转？如果是这样，请谨慎行事，并确保组织能够在不可逆转的错误决策中生存下来。