【干货分享】绿盟科技：在引入大模型之后要建立起双重安全防线
8 月 2 日，由CIO时代主办，蚂蚁集团协办，新基建创新研究院作为智库支持的“首届央国企CIO及数科公司数智创新峰会”在北京圆满落幕。本次峰会以“央国企‘十五五’数智化战略与机遇”为主题，汇聚了众多央国企CIO、数科领域专家及行业伙伴，深度探讨AI人工智能技术与产业融合的创新实践，为央国企数智化转型提供前瞻性思路与解决方案。
在本次峰会中，绿盟科技集团副总裁宫智围绕《筑牢双重防线：央国企大模型应用中的网络安全与模型安全协同治理》这一主题，进行了精彩的分享。宫智在演讲里指出，为化解人工智能（AI）应用所带来的安全风险，需在原有的网络安全防线基础上，打造一条全新的安全防线，围绕人工智能（AI）的全生命周期，构建全流程协同防护能力。
绿盟科技集团副总裁 宫智
精彩观点
在AI大潮中，大模型应用带来的降本增效固然可喜，但由此带来的安全问题却在一定程度上还没有引起足够的重视。在AI大模型应用越来越广的情况下，必须要再加固一条新的安全防线。
与安全风险共存的大模型
伴随DeepSeek国际影响力持续攀升，其面临挑战愈发复杂严峻，连续遭受系列有针对性的网络攻击，对DeepSeek的日常运营构成严重威胁。绿盟科技伏影实验室全球威胁狩猎系统，分别于2025年1月25日至1月27日，监测到IP地址1.94.179.165遭受DDoS攻击，攻击采用NTP反射攻击、Memcached反射方式，该IP地址为DeepSeek API接口(api.deepseek.com)当时的解析地址，大模型已经成为网络攻击的热点目标。
针对大模型的定向攻击态势愈发严峻，即便采用私有化部署的DeepSeek，同样会遭遇不可控的安全风险。威胁情报表明，当前公网上仍有几万个未设置防护的Ollama服务，存在数据泄露、算力被盗取、服务中断等安全隐患。工业和信息化部网络安全威胁和漏洞信息共享平台（CSTIS）曾发布预警，攻击者能够通过构建仿冒网站等手段，诱使用户下载伪造的DeepSeek本地部署工具包，进行定向模型攻击。
DeepSeek所遇到的攻击并非个案，在全球范围内，针对AI的攻击或风险是贯穿于模型选型、模型部署、模型应用等各个阶段，诸如利用ROME算法在模型中植入虚假信息、Huggingface平台遭受过模型后门攻击、14岁男孩与AI聊天网恋被诱导自杀、某品牌儿童智能手表“已读乱回”、模型导致内部数据遭到泄露等等。
AI安全如何保障？
在人工智能安全问题持续显现的同时，人工智能应用的落地进程不断提速。2024年政府工作报告提出开展“人工智能＋”行动，在技术、商业、政策等因素的推动下，大模型及其应用正逐渐成为业务判断、决策以及流程控制的关键支撑。同时，随着大模型及其应用的深入发展，安全风险将愈发明显地暴露出来。而针对各类由人工智能引发的安全问题，2025年多位全国人大代表、政协委员从多个维度为人工智能的安全健康发展建言献策。
2023年，《生成式人工智能服务管理暂行办法》等法规相继颁布，合规已然成为人工智能大模型应用不可突破的底线。企业在保障人工智能业务绝对安全的过程中，会面临声誉与政治风险、数据与资产风险、业务连续性风险等多方面的风险。企业在应用大模型时，其所生成的内容必须严格遵循国家法律法规、行业规范以及企业内部的合规要求。大模型可能由于训练数据存在偏差或受到恶意诱导，从而生成恶意内容。同时，大模型应用过程中涉及的数据采集工作，一旦出现数据泄露情况，将会造成难以估量的损失。大模型引入的潜在漏洞、性能不稳定或者被攻击利用等情况，均有可能导致核心业务中断、服务质量降低。
多数企业在引入AI之前，都已经建设了较为完善的安全体系，但面对典型的AI攻击手段时，其表现却可能并不令人满意，诸如提示词注入攻击、数据投毒模型污染、LLM供应链攻击等等，传统网络安全产品无法理解大模型内容语义、对模型生成的不当内容无法识别、无法防范提示词注入等，传统的网络安全防护手段正在失效。
大模型安全与传统网络安全在核心安全目标（CIA）和基础防御逻辑上存在共通性，但前者因模型的“智能特性”、“数据依赖性”和“生成能力”，衍生出以“模型本身、数据链路、内容输出”为核心的新安全维度，攻击手段更隐蔽、门槛更低、危害更具规模化和认知性，防御难度也远高于传统网络安全，两者并非替代关系，而是需要结合。
传统网络安全体系与AI安全体系的融合
大模型及大模型应用的运用催生出新的管控需求，不仅要达成基于大模型/应用的访问控制，还需实现模型算力的保障与优化，持续提高模型的使用成效。此外，针对大模型和大模型应用自身的安全性必须予以充分考量，既要强化模型安全，也要优化模型管理。AI时代企业安全范式发生了根本性改变，风险重心从“攻破边界”转向“操纵核心”，攻击界面从“代码与网络”扩展到“数据与算法”，威胁形态从“技术逻辑漏洞”演变为 “业务逻辑漏洞”。
基于此，绿盟科技推出保障大模型应用的专业、一体化安全产品AI安全防护一体机，提供“ALL IN ONE”的大模型安全防护方案。AI安全防护一体机可装配评估能力（大模型安全评估）、内容安全防护能力（大模型内容安全防护）、数据安全能力（大模型数据防泄漏）等多种大模型安全能力，构建“事前预防（评估+加固）、事中控制（阻断+代答）、事后追溯（审计+回溯）”的全流程协同防护能力，协助客户打造AI防护的第二道防线，通过绿盟AI安全一体机可以实现全生命周期防护，涵盖内容安全、模型安全、算力安全及业务安全。与此同时，AI安全一体机能够与绿盟科技的其他AI安全产品开展协同联动，全面覆盖大模型安全防护的所有场景，贯穿其整个生命周期与生态系统，涵盖模型本体、训练数据的完整性、第三方组件与供应链、插件的安全性以及模型输出等方面。
未来，绿盟科技将持续优化大模型安全防护的“一三五”安全理念体系，助力央国企构建可控、可信、可持续的人工智能安全生态，以更优成本实现高效的人工智能安全防护方案，携手共赴智能安全的新时代。