星空体育官网6月5日至6日，在为期两天的北京网络安全大会上，与会者提到最多的话题是人工智能（AI）安全。参会的政府官员、学者、企业家们都在谈论AI带来的安全风险。
巴基斯坦计算机应急响应小组（NCERT）主席海德尔阿巴斯说，AI攻击是新兴攻击方法中最具威胁性、也最难以防治的一种攻击。一项面向800位IT专家的调研显示，在他们所属机构遭受的新式攻击中，51%为AI攻击，AI攻击会影响很多国家和组织。
海德尔阿巴斯警告，AI驱动的网络攻击比传统攻击强大很多，需要认真应对。目前，巴基斯坦政府已经专门成立了一支国家网络安全应急响应团队星空体育官网，加大网络安全建设。
AI攻击包括深度伪造、黑产大模型、恶意AI机器人、自动化攻击等多个维度星空体育官网。《2024人工智能安全报告》（下称《报告》）显示，2023年，基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%。已有多个具备国家背景的高级长期威胁（APT）组织利用AI实施了十余起网络攻击事件星空体育官网。同时，基于AI的新型攻击种类与手段不断出现，在全球造成了严重的危害。
《报告》还称，地下社区一直对大模型非常感兴趣。在暗网上流行的大模型产品WormGPT被视为 ChatGPT（美国AI公司OpenAI研发的聊天机器人程序）的无道德约束替代品，它能生成复杂的恶意软件和勒索软件功能。另一款大模型产品FraudGPT能生成快速、大量的网络钓鱼攻击。
中央网信办网络安全协调局副局长王营康表示，随着技术发展，攻击者可利用AI技术生成网络攻击和网络钓鱼工具，网络安全将从人人对抗、人机对抗逐渐向基于AI的攻防对抗演化。
不过，虽然AI有很大的安全风险，但与会专家的共识是，应该积极发展AI，而不是阻止它。
“不发展（AI）是最大的不安全。”先进计算与关键软件（信创）海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克认为，此前多位全球知名人士要求暂停开发优于GPT-4（美国AI公司OpenAI研发的大模型）的大模型的做法，并不可取。
奇安信集团董事长齐向东接受经济观察网采访时说，人类不要被AI引发的风险吓到，应该拥抱AI，安全公司可以解决AI带来的安全问题。
齐向东用奇安信安全机器人举例说，最近他们在某核电企业安排了安全机器人与人工团队一起演习，共发现15起安全事件，一半以上事件由机器人抢先识别并确认。这件事说明，用AI来助力安全已是大势所趋，在未来的网络攻防中，得AI者得天下星空体育官网。
海德尔阿巴斯也认为，AI安全问题可以得到解决。谈及如何防范AI攻击星空体育官网，他认为，可以用大模型技术构建起恶意软件防护墙，甚至还能够借助安全软件实现反向攻击，由AI驱动的网络攻击，也需要用AI力量去应对。
官方微信
