生成式人工智能助长更复杂的网络攻击
网络安全公司 Keeper Security 表示,尽管黑客使用生成式人工智能使网络威胁更加频繁、更加复杂、更难以检测,但许多企业表示对此并未做好准备。
然而,据该公司表示,尽管各组织需要加强防御能力,但他们已经实施的许多基本网络安全实践仍然是基础性的,即使在与新兴的人工智能威胁作斗争时也是如此。该公司专门生产用于保护密码、秘密和远程连接的软件。
根据本周发布的一份报告,95% 接受调查的 IT 和网络安全专业人士表示,网络攻击比以往任何时候都更加复杂,其中最严重的两大新兴威胁是人工智能攻击和深度伪造,而他们还没有准备好对其进行反击。
该报告基于对 800 多名全球 IT 和网络安全高管的调查,报告显示,这些更为复杂的攻击不断增多,造成了巨大的损失。
约 92% 的受访者表示,“富有创意且无情”的网络犯罪分子发起的网络攻击逐年增加。这些攻击也带来了损失:73% 的受访者表示,他们曾遭受过攻击并因此蒙受损失。
在企业中,攻击的主要目标是 IT 服务部门,占 58%,其次是财务运营、供应链管理、数据分析和报告以及研发部门。制造业和酒店及旅游行业的公司是遭受黑客攻击最多的行业之一,每周都会发生一次攻击,而金融服务业的攻击每月都会发生一次。
上述三个行业均报告称,恶意软件攻击最为常见,酒店业还报告称勒索软件攻击最为常见。其他两个行业也表示,网络钓鱼攻击也很常见。
人工智能和网络钓鱼
毫不奇怪,企业发现人工智能在网络钓鱼攻击中扮演着重要角色,自近两年前 OpenAI 发布 ChatGPT 以来,组织和网络安全供应商就一直看到这一点。
利用生成式人工智能工具,威胁行为者可以消除网络钓鱼电子邮件中的漏洞(例如语法和句法错误、措辞不当和拼写错误),这些漏洞对接收者来说是危险信号。
调查中约 84% 的受访者表示,由于黑客使用 AI 工具,网络钓鱼和短信网络钓鱼(基于文本的网络钓鱼)变得更难以检测,42% 的受访者表示 AI 网络钓鱼攻击是他们最关心的 AI 安全问题。
此外,51% 的受访者表示,他们发现网络钓鱼攻击有所增加。其他增加的攻击包括恶意软件(49% 的人注意到了这一点)、勒索软件(44%)和密码攻击(31%)。
如今,67% 的公司难以抵御网络钓鱼攻击。人工智能工具的激增加剧了这个问题,因为它增加了网络钓鱼诈骗的可信度,并使网络犯罪分子能够大规模部署这些诈骗。
利用人工智能对抗人工智能威胁
在这种环境下,组织开始使用人工智能工具来保护自己。据市场研究公司 Statista 称,去年全球人工智能网络安全市场规模为 243 亿美元,但预计到 2030 年将飙升至 1338 亿美元。
公司应该在最前沿使用人工智能和机器学习来缓解攻击。例如,网络安全专业人员查看日志和事件——所有每天都发生的事件——以对公司最危险的事件进行分类。借助人工智能,他们可以识别重要的日志并采取行动。
人工智能可以自动化威胁搜寻并增强安全执行,包括威胁和恶意软件检测、漏洞检测、补丁部署以及安全对策和控制。
坚持有效的方法
与此同时,研究人员表示,组织还应继续依靠现有的网络安全实践,例如数据加密,以保护敏感信息免遭未经授权的访问。调查显示,51% 的受访者计划加强数据保护,以抵御人工智能威胁。
此外,45% 的受访者表示,他们计划加强员工培训和意识,多年来,培训和意识一直是打击网络钓鱼攻击的关键工具,通过培训员工如何识别网络钓鱼和短信钓鱼企图。公司必须加强培训,以应对现代基于人工智能的虚假信息。
41% 的受访者表示,他们将加大对先进威胁检测系统的投资,以便为人工智能驱动的威胁提供预警系统。