前沿 | 医疗机构网络信息安全重要风险分析及对策建议
2026-11-17
建议 | 金融业新型网络数据安全风险靖】潆应对建议
2026-11-16
暗网数据泄露谍报精选周报(2026.11.07-2026.11.13)
2026-11-13
仅一个半月,就有上亿条信息泄露!
2026-11-13
通知 | 工信部:加强智能体终端设备进网治理
2026-11-12
存储域
数据库加密 诺亚防勒索接见域
数据库防水坝 数据库防火墙 数据库安全审计 动态脱敏流动域
静态脱敏 数据水印 API审计 API防控 医疗防统方运维服务
数据库运维服务 中央件运维服务 国产信创刷新服务 驻场运维服务 供数服务安全征询服务
数据出境安全治理服务 数据安全能力评估认证服务 数据安全风险评估服务 数据安全治理征询服务 数据分类分级征询服务 幼我信息风险评估服务 数据安全查抄服务9月14日 ,2026年国度网络安全宣传周“网络安全技术顶峰论坛”在山东国际会展中心进行。中关村尝试室首席科学家、中国工程院院士云晓春在会上作了《AI的供给链安全局势及挑战》的主题演讲。以下为演讲重要内容。
尊敬的各位辅导,各位专家,各人上午好。今上帝要想跟各人探求一下AI的供给链安全问题。
一、AI供给链安全的对象,是持续变动的系统行为
AI供给链安全的对象是持续变动的系统行为。它不只有保障组件可信,还要保障过程可信,行为可信。传统的清单式供给链治理重要回覆了“装了什么”,AI供给链治理还必须回覆“为何这样行动?何时发生变动?后果是否可控?”
二、AI供给链覆盖七类相互依赖的资产
蕴含数据、模型、软件、算力、平台、工具、服务,任何一类资产的起源、更新或权限变动,都可能扭转最终模型的安全、合规和业务阐发。
三、相迸宗传统的软件供给链,AI供给链多出三类动态风险
第一是数据风险,数据的输入是可塑造整个AI行为的,数据的起源、散布、标注、传染等不仅影响了模型质量,还可能嵌入误差、后门与合规风险。第二是模型风险,模型的组件拥有涌现行为,权沉、适配器、检索内容这些组合可能会产生不成预期的涌现行为,所以我们单独使用单一的版本号来描述供给链是不够的。第三是AI的供给链在运行期仍会发生变动,通过战术与供给商更新可在不沉新构建利用的情况下扭转了局。因而,AI的构建不是一次构建,一次验收,是持续的配置和行为的治理。
四、高度复用与服务化让依赖关系更深、更荫蔽
AI的供给链有个极度鲜明的特点,是高度复用和服务化的。具体体此刻:一是基础模型复用,大无数AI利用不会零起头训练,往往都是依赖于第三方的基础模型、适配器等。二是开源生态越来越加快,模型仓库、数据集和代码包提升创新速度,也带来仿冒起源、恶意文件和守护中断风险。三是AI云化、API服务化趋向越来越显著,模型、向量数据库、审核、搜索与监控以API交付,用户难以看到全数底层组件与调换。四是智能体可组合,工具、插件、MCP服务与多智能体形成运行期依赖,第三方组件能够影响作为与权限。五是算力与地缘的约束,芯片、云区域、网络、能源和出口限杜装响容量、可代替性、陆续性与数据天堑。AI的供给链风险从“软件是否有缝隙”扩大为“关键能力是否通明、可代替,可验证”。
五、供给链攻击通过信赖继承进入高价值环境
跟传统的供给链一样,AI供给链的攻击也是通过信赖继承的步骤进入到高价值环境中,当然它的上游入口,制品扭转,合作分发,下游执行,业务后果都有其怪异的特点。上游复用率高、制品难查抄、下游权限高、更新自动化、事务跨组织、责任天堑吞吐等成分放大了攻击的风险。因而,对于供给链的攻击防御沉点应前移到起源、构建、署名与验收,同时保留运行期发现和撤销能力。
六、部署天堑应限度未知制品的执行能力与数据可达性
在安全数署上,由于前面的这种风险和攻击特点,部署的天堑应该限度未知制品的执行能力和数据的可达性。典型的是要选取隔离加载的步骤,对于未知或新版本制品先在无敏感数据,无表网,无持久凭证的环境中解析与试运行。模型服务、智能体工具使用独立工作负载身份与短期凭证,不能上来就齐全信赖它,部署前要验证署名、起源、评测、场景、数据级别、地域和核准有效期,保留已知安全版本、配置、路由和数据接口,支持熔断与供给商切换。
七、响应指标是鉴别所有派生制品并阻断持续信赖
针对AI供给链攻击的应急响应通常蕴含确认、定位、遏造、验证、复原以及协同六个步骤,在应急演练的时辰,我们必须验证能不能在幼时级回覆“哪些系统在使用受影响的组件”。
八、用通明度、齐全性、可代替性和响应速度衡量成熟度
我们用“一旦出现供给链事务以来所导致的业务中断、数据露出、谬误决策和合规损失是不是持续降落的”衡量响应的成效。是,则注明这个响应是有效的,若是不是,注明这个响应是无效的。
九、国内表框架在把供给链通明度转化为性命周期责任
我国《天生式人为智能服务治理暂行法子》要求使用合法起源的数据和基础模型;NIST将“价值链与组件集成”列为天生式AI风险;NTIA提倡数据表、模型卡、系统卡和独立评估。AI供给链治理趋向是,从准则性“可信”走向组件披露、独立评测、事务汇报、调换治理与责任可追忆。
总的来说,AI供给链安全最终要证明“可信依赖可能产生可信了局”。我们必要看见齐全链条,要绑定可验证的证据,随时筹备变动与退出。清单让供给链可见,起源让制品可信,评测让行为可知,韧性让依赖可控。
我今天演讲到此实现,感激各人!
信息起源:中国信息安全公家号