21世纪经济报道记者董静怡杭州报道
人工智能已经不再是一个独立的、孤立的技术概念，而是贯穿网络安全各个领域，AI智能体也已经从实验室走入千家万户。
安恒信息CTO刘博向21世纪经济报道记者表示，在大模型时代，人们对安全的感知比以往更为强烈。一方面，大模型涉及的数据量庞大且复杂；另一方面，在应用大模型时，往往需要处理大量敏感数据的交互。无论是个人还是企业都对此更加重视。
然而，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊，传统规则式防护体系在动态化、智能化的新型威胁前逐渐失效。
日前，在2025中国数谷·西湖论剑大会上，安恒信息董事长范渊指出，安全与智能密不可分，安全的边界决定着智能的发展疆域，而智能的高度也将重塑安全的维度。
面对新兴挑战，行业正在探索新的防御范式。动态防御、AI对抗AI、隐私计算等新技术方向逐渐成为共识。然而，技术只是解决方案的一部分。标准体系的缺失、跨厂商协作的障碍、法律伦理的模糊地带，都是需要全社会共同应对的课题。
安全挑战加剧
大模型技术加速向金融、政务、企业等领域应用，多种安全风险相互交织、叠加放大。安恒信息首席安全官、高级副总裁袁明坤向记者表示，近两年来，无论是攻击的数量还是强度都有所增加。
传统基于规则和特征匹配的防御体系，在面对AI驱动的动态化、智能化攻击时显得力不从心。数据泄露、模型滥用、协议漏洞等问题层出不穷，而攻击者的手段正因AI的加持变得更加隐蔽和高效。
一方面，攻击手段的智能化升级让防御难度呈指数级增长。
袁明坤向记者表示，勒索病毒编写、网络钓鱼等犯罪活动因AI技术门槛降低而激增。在过去，勒索病毒的编写需要一定的技术门槛，但如今，借助AI，即使是那些原本不具备高超编程能力的人，也能够制造出勒索病毒。这无疑给网络安全带来了巨大的威胁，网络犯罪的规模和频率都有可能进一步扩大。
在网络安全的对抗过程中，AI技术的应用也使得攻击手段变得更加复杂和多样化。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试，而借助大模型的推理能力，攻击者可以更加高效地进行攻击。
袁明坤表示，AI能够自动地对目标系统进行分析和测试，找出潜在的漏洞，并且能够根据已有的攻击结果进一步推导出更多的攻击点。这种攻击能力的成倍放大，使得防守方面临着更大的压力。
另一方面，AI本身的安全问题也逐渐凸显出来。目前，一些大型企业已经将AI技术广泛应用于业务中，其业务的核心部分都依赖于AI。这就使得AI本身的安全性变得至关重要。数据的可见性、可用性以及数据流转的通道等都成为了企业需要重点关注的问题。
智能体技术的普及带来了全新的安全挑战。通信协议是推动多智能体系统协同作业的关键，如Anthropic提出的MCP（Model Context Protocol，模型上下文协议）作为当前的主流标准，该协议在设计之初聚焦于功能协同架构的构建，但在安全体系设计上存在阶段性不足。
“MCP协议安全架构存在先天性不足，在认证机制、权限管控体系以及数据安全防护等核心安全领域，当前协议框架尚未提供有效的技术解决方案。产业界已形成共识，需要额外叠加外部安全组件来弥补协议层面的安全缺陷。”刘博向记者表示。
因此，当MCP与大模型结合使用时，如果配置不当，可能会导致正常的大模型变成恶意模型。
安恒信息高级副总裁、研究院院长王欣向记者解释道，目前，许多大模型采用无监督式训练，在数据语料治理过程中，可能存在一些“脏数据”，这些数据可能被恶意利用。为了安全起见，通用模型厂商通常会进行价值观对齐，但这种对齐很容易被突破。通过简单的方式，攻击者可以绕过价值观对齐的防御体系，使模型执行恶意操作。
袁明坤向记者表示，如果AI系统被攻击者入侵，那么企业的核心数据可能会被窃取或篡改，给企业带来巨大的损失。因此，保障AI系统的安全，防止其被恶意利用，是未来网络安全领域必须解决的重要课题。
AI重塑网络安全
安全产业正进入AI定义时代，AI安全服务正从“可选项”变为“必选项”。
“在这一过程中，需要运用智能手段来约束智能，只能采用AI安全的方式，即通过智能治理智能，以大模型治理大模型。”刘博向记者表示。
网络安全企业正加速将AI融入防御体系，安恒信息的“恒脑”安全AI智能体（AI Agent）是一个典型代表。在新品发布会上，恒脑进化至3.0版本，在泛连接、高交互、全模态领域实现突破。
范渊认为，AI智能体发展有条件自主、高度自主和完全自主三重境界，当前，可以通过“人+智能体”完成原来N个人协作才能完成的任务。
王欣预测，在未来一年内，AI智能体在安全领域的任务中，有一部分从“辅助驾驶”向“自动驾驶”发展。
值得注意的是，AI不仅改变了安全技术，也重塑了行业商业模式。
“过去，我们常常采用‘软件工程+人’的模式为客户交付解决方案，软件工程本身存在局限性，许多问题仍依赖人力，但很多场景如数据分类分级、海量告警分析等无法通过‘人海战术’解决。”王欣向记者表示。
大模型的出现和智能体的应用为这些问题带来解决之策。王欣认为，那些需要大量重复性体力劳动的脑力工作，如今可以通过智能体得到有效解决。
而基于智能体的解决方案可以将服务价格大幅降低。这种转变不仅提高了服务效率，也推动了行业从“劳动密集型”向“技术密集型”转型，用户开始从关注服务人数转向关注服务效果。
此外，智能体的出现还推动了安全行业从专才向超级个体的转变。通过智能体的共建方式，开发难度大幅降低，业务专家可以直接基于智能体开发平台开发相关安全能力，省去了冗余复杂的开发流程，减少了需求传递过程中的信息衰减。
同时，智能体的应用也使得安全行业从任务的定制化转变为个性化，从面向客户交付软件系统转变为共创模式。
王欣举例称，过去，有客户提出的业务需求往往因为过于定制化而被许多厂商拒绝，因为这些需求只符合特定客户的当前场景，对于厂商来说投入产出比并不划算。然而通过智能体，这些任务在短短半年内就得以实现。
这种从单纯的交付到共同创作的转变，使得安全行业能够更好地满足客户的个性化需求，与客户共同构建符合其业务场景的安全解决方案。
业内普遍认为，目前AI安全需求已经存在，无论是科技巨头还是新兴企业，对于AI安全问题的重视程度都在提升，并加大在这一领域的投入和研究。袁明坤向记者表示，明年这一需求的规模将会更大，市场潜力也将进一步释放。
还未登录
