GenAI在网络安全中的双刃剑作用

关键要点

攻击者正在利用生成式人工智能GenAI来增强其攻击能力，但防御者也可以利用此技术提升自身的防御能力。GenAI应用可能导致数据泄露风险增加，因其允许人类审核员查看敏感信息。防御团队可以使用GenAI提高检测能力，自动化响应事件，并识别商务电子邮件欺诈BEC邮件。

在伦敦举行的Infosecurity Europe活动上，Perception Point的首席技术官Tal Zamir指出，员工正在使用GenAI，这导致了桌面应用和浏览器扩展的部署，从而增加了数据泄露的风险。

“使用任何GenAI应用时，它们允许人类审核员查看敏感数据，”Zamir提到，指出了OpenAI的数据泄露事件，其中用户的对话意外地向其他人开放。

担忧全面自动化攻击过程

Zamir表示，GenAI代理可以在企业中全面查找信息，能够通过关键词搜索以及找到企业内部暴露的相关文档和文件。

他还警告说，伪造的GenAI应用难以与真实应用区分，如果使用这些伪应用，可能会盗取API密钥。

“目前最大的GenAI模型对攻击者来说极易获取，他们可以下载模型并在个人电脑上本地运行，”Zamir提出警告道，攻击者能够利用AI提升效率、扩大攻击规模，并针对任何行业发展攻击手法，甚至能迅速培训初级攻击者。

他还指出，“最高的门槛是攻击过程的全面自动化”，即网站可能受到一日漏洞的攻击。

利用GenAI增强保护能力

Zamir提到，从防御的角度来看，GenAI可以提升保护能力，通过更好的检测和消除事件响应的工作量。

此外，Zamir还谈到能更好地识别商务电子邮件欺诈BEC邮件，特别是那些邮件内容中没有链接或电子邮件域名的情况。他表示，在某次情况下，Perception Point能自动识别一个零时钓鱼攻击，并在没有人类干预的情况下揭示出一系列新型攻击。

小牛加速器app

在与SC UK的交谈中，Zamir表示这一过程现在可以自动化进行，“但我们为客户提供额外的人性化服务，因为即使我们的系统能有效阻止所有的BEC攻击，客户仍希望有一个人类的参与元素。”