近两年，各行业大模型如雨后春笋般快速发展，人工智能技术、产业、应用各环节迎来快速迭代和探索突破时期。在日前举行的2024第十二届西湖论剑·数字安全大会上，各界人士就如何应用人工智能技术赋能数字网络安全进行讨论和交流。与会人士认为，网络安全已进入人工智能阶段，“AI+安全”是网安行业未来发展的方向，同时AI技术的双刃剑效应以及行业发展环境需多方共同破解完善。
网安进入人工智能阶段
随着人工智能技术的快速发展，数据安全复杂性和传统网络安全治理局限性之间的矛盾日益凸显，数字安全面临前所未有的挑战，通过AI赋能安全运营被视为发展新质生产力的关键一环。
国家行政学院电子政务专家委员会原副主任、全国数字经济联盟学术委员汪玉凯提出，数字经济在新质生产力发展的结构中起全局性、战略性的意义，数字经济有可能成为新质生产力中最关键的一个领域。
中国科学院院士吴世忠表示，近30年来，网络安全大致可分为三个阶段，前20年左右是IT驱动阶段，是一个万物互联时代；后10年是DT，即数据驱动阶段，以大数据、云计算为特征，追求数据流动；如今则已进入AI驱动时代，人工智能的巨浪极大地改变了安全问题的内涵和外延。
国家信息技术安全研究中心金融安全处处长曹岳认为，未来的攻击，也就是智能化的攻击，将加强攻击的频度，AI的扩展会提升攻防的对抗维度，AI还将升级网络攻防对抗的强度。
参加过多次重大项目网络安全工作的安恒信息，将2008年以来重大活动网络安全分为单兵战、综合战、立体战和AI战四个发展阶段。单兵战大致在2008-2015年间，早期的网络安全防护中，用单一的网络安全产品与安全服务相配合，就能为重大活动的网络和信息系统提供基本保护；综合战大致在2016-2020年间，此时的赛会网络环境变得复杂，需要借助强大的网络安全态势感知等平台类产品，结合多区域、线上线下的安全服务，才能保证大型赛会安全无虞；立体战大致在2021-2023年间，随着重大活动网络环境风险的增加，需根据不同的网络安全威胁分别制定针对性策略，在防御、监控、响应、预测等方面部署相应的安全产品服务，才能保证重大活动的顺利举行；而从2023年9月至今，重大活动网络安全工作已经进入了AI战阶段。
安恒信息董事长范渊对《经济参考报》记者表示，现阶段的网络安保工作中，AI已经开始扮演多元化且至关重要的角色，它不仅会改变网络安全战的方式和态势，还将对胜败产生深远影响。在这一阶段，首先是网络安保场景数字化程度高。人工智能、数字孪生、物联网等数字技术应用广泛，传统安全保障手段无法有效应对；其次是攻击的自动化和防御的自动化。AI可以被用来进行自动化网络攻击，使得攻击更加隐蔽、快速和难以防御。安全垂域大模型基于机器学习和大数据分析等技术，能自动学习网络攻击行为模式，并快速响应和应对各种新型网络威胁，因此以AI对AI、以AI管AI成为必选项。
相关探索应用取得突破
在使用AI助力网络防御方面，国内外都已经进行了很多探索，并已经取得成果。
美国微软公司推出的网络安全助手给用户提供生成式、自动化网络安全人工智能服务。经过去年一年的运行，可以将安全事件响应、评估和防御时间从过去的数小时到数天压缩到几分钟。
AI赋能极大地提升了国内网络安全防御能力与处置效率。安恒信息去年8月发布的“恒脑·安全垂域大模型”，实现了国内AI安全垂域大模型在国际大型赛事的首次应用。在杭州亚运会期间，基于这一模型和MSS安全运营平台的辅助支撑，有效解决了安全运营过程中复杂重复的工作。
据了解，安恒信息已将AI技术应用作为一级战略。范渊介绍，过去8个月，安恒信息在人工智能应用于数字安全方面进行了大量尝试和实战探索，公司的数字安全产品和服务正在发生翻天覆地的变化。以数据分类分级+AI为例，AI技术应用使数据分类分级的效率提升了30倍。“这不仅仅是一次简单的效率提升，更是一次深刻的行业变革，让我们看到了AI在数字安全领域的巨大潜力和广阔前景。”
今年4月，安恒信息刚刚发布了数据分类分级解决方案、AI防火墙、天穹人工智能安全运营平台等八大AI产品。此次大会期间，安恒信息携手华为发布昇腾-恒脑推理一体机，利用昇腾AI集群为恒脑提供底座，全流程加速大模型的创新与落地。
海亮集团积极探索“AI+安全”的建设思路。集团数字创新部部长孙雯介绍，用AI来代替人工使安全告警的分析更加智能，效率大幅提升。海亮集团发现，在AI与数据安全结合的过程中，AI表现超乎预期，试点场景的4000多个字段自动化梳理可达到90%以上，识别准确率从50%提高到85.8%。
AI应用于网络安全的前景如何？
安永（中国）企业咨询有限公司合伙人王坚表示，威胁监测与相应的工作、恶意软件的检测、用户的行为分析、身份验证访问控制、网络钓鱼监测、自动化情报威胁、欺诈检测以及数据的泄密保护等方面，都是大模型应用的潜力领域。
杭州人工智能学会副秘书长、安恒信息研究院院长王欣认为，AI之于安全，现在真正的能力只发挥了不足5%。过去一年多时间，AI与安全之间的探索，是从原来的智能问答发展到辅助驾驶，在不久的将来将进入半自动驾驶，未来会进入全自动驾驶。
推动“AI+安全”纵深发展
此次大会上，业界人士的一个共识是，“AI+安全”一定是网安行业未来发展的方向。同时，专业人士对于AI技术的双刃剑效应以及行业发展环境也给予广泛关注，对“AI+安全”的发展提出了很多积极的建议。
教育部新工科联盟网络空间安全工委会主任委员、杭州市人工智能协会副理事长、俄罗斯国家工程院外籍院士胡瑞敏认为，从短期与中期来讲，大模型技术还存在着很多不足，必然需要通过人机协同才能真正发挥作用。从长期来看，要在做好安全准备的前提下，谨慎推动机器的自主性。
多位专家建议，面对复杂多变的国际形势和日益增长的网络安全威胁，亟需加强关键信息基础设施安全保护工作。
“现有的漏洞补上了，新的漏洞会被发现。现有的技术出现了攻防相对平衡稳定，新的技术创新会把战场转移到新领域。”国际电信联盟前秘书长赵厚麟表示，“在安全领域的攻防、互斗会长期存在。”
对此，中国工程院院士邬江兴认为，无论是数字产业化还是产业数字化，第一要务都是网络安全。但是，网络安全防御却呈现出像“打鼹鼠”游戏一样的情况，即按下葫芦浮起瓢，冒出一个鼹鼠就打一下。他指出，针对传统网络安全治理的局限性，要从数字产业的源头技术抓起，从数字产品的设计安全抓起。推动数字生态系统底层驱动范式转型，以内生安全赋能，才能筑牢网络与数据空间安全屏障。
从与会专家的讨论中，记者发现，“AI+安全”行业既要满足市场对网安技术和产品安全可靠、简便易行的要求，还要在用户愿负担成本和企业研发成本激增之间找出最佳平衡点，因此挑战不小。
邬江兴针对网安人才短缺问题表示，按照中央网信办的预测，到2027年，中国需要235万网络安全人才，但目前全国100多所网安相关学院每年的毕业生不足3万人。网安人才与制造漏洞或无意制造漏洞的人数相比，存在巨大的“剪刀差”。
在国际领域，吴世忠表示，人工智能的安全治理已经成为大国博弈的一个协调议题。70多个国家在五年内已经出台安全治理方面的战略对策和法律文件接近100件。
赵厚麟表示，数字安全全球关注，要加强全球协作，鼓励和加强国际合作。
