易君召
易君召
发布于 2026-06-09 / 1 阅读
0
0

⚖️ 十部门联合印发《人工智能科技伦理审查与服务办法(试行)》:AI 伦理审查从原则走向实操

工信部联科〔2026〕75 号 · 2026 年 3 月 20 日签发 · 37 条全文 · 全球首部 AI 领域专项伦理审查规章

🔥 一、背景:为什么 AI 伦理审查需要"专门立法"?

2026 年 3 月 20 日,由工信部牵头、10 部门联合签发了 《人工智能科技伦理审查与服务办法(试行)》,4 月 2 日正式公布并即时生效。

十部门联合阵容

序号

部门

角色

1

工业和信息化部

⭐ 牵头

2

国家发展改革委

联合

3

教育部

联合

4

科技部

联合

5

农业农村部

联合

6

国家卫生健康委

联合

7

中国人民银行

联合

8

国家网信办

联合

9

中国科学院

联合

10

中国科协

联合


10 个部门涵盖了 AI 技术研发(工信部/科技部/中科院)、行业应用(卫健委/农业农村部/央行)、教育人才培养(教育部)、政策法规(发改委/网信办/科协)——从研发到应用、从技术到法制的全链条覆盖

这标志着什么?

专家委员会主任委员魏一鸣指出:这部文件实现了中国 AI 伦理治理 "从原则倡导走向制度化、规范化、可操作化的新阶段"

阶段

之前的 AI 伦理

本次《办法》

性质

原则性倡导

强制性审查(有审查程序、有法律责任)

主体

行业协会/自律

机构伦理委员会(必须建立)

流程

模糊

四层审查程序(标准/简易/专家/应急)

惩罚

无明确罚则

引用现有法律(网安法/数安法/个保法)


🔑 一句话定位: 这不是一份"建议书",而是一份有程序、有机构、有罚则的行政规章。

📜 二、七项核心原则

《办法》确立了贯穿 AI 活动全过程的 7 条伦理原则

原则

内涵

1️⃣ 增进人类福祉

AI 是否对人类社会有积极贡献?

2️⃣ 尊重生命权利

AI 是否尊重人的生命权和尊严?

3️⃣ 坚持公平公正

AI 是否存在偏见、歧视?资源分配是否公平?

4️⃣ 合理控制风险

风险-收益比是否合理?

5️⃣ 保持公开透明

AI 系统的目的、逻辑、交互方式是否告知用户?

6️⃣ 保护隐私安全

数据采集、存储、处理是否合规?

7️⃣ 确保可控可信

用户能否监控、干预、终止 AI 行为?


🎯 三、审查范围:什么 AI 活动需要伦理审查?

《办法》适用于在中国境内开展的、可能产生伦理风险的 AI 科技活动

伦理审查六大焦点

维度

核心问题

🧑 人类福祉

科学价值?社会价值?风险收益比合理?

⚖️ 公平公正

训练数据、算法、模型是否存在偏见和歧视?

🛡️ 可控可信

极端环境下的鲁棒性?用户能否控制/干预?

🔍 透明可解释

目的、逻辑、风险是否披露?是否可解释?

📋 责任可追溯

数据、算法、模型的全链路日志?人员资质?

🔒 隐私保护

数据全生命周期的隐私保护措施?


⚡ 四、四层审查程序体系

《办法》设计了四层递进的审查程序,根据风险等级灵活适用:

① 标准程序(一般程序)

步骤

要求

审查会人数

≥ 5 人(多学科背景)

审结时限

受理后 30 天

决定类型

通过 / 修改后重审 / 不通过

复议时限

决定后 3 个工作日内申请,7 个工作日内回复

跟踪间隔

不超过 12 个月


② 简易程序

适用于:风险不高于日常生活风险、微小修改、跟踪审查等低风险场景。
由委员会负责人指定 2 名以上委员处理。

③ 专家复核程序 ⭐(高风险专用)

这是最严格的一层,针对三类高风险 AI 活动:

高风险类型

描述

🤖 人机融合系统

对人类主观行为、心理情绪、生命健康有强影响的系统

🗣️ 舆论操控型算法

具有舆情动员和社会意识引导能力的算法模型和应用

🚗 高自主性自动化决策

涉及安全/生命健康风险的高度自主决策系统


特殊要求:

  • 专家复核时限:30 天

  • 跟踪审查间隔:不超过 6 个月(标准程序的一半)

  • 豁免条款:已按照深度合成、算法推荐、生成式 AI 管理要求完成备案/审批的活动,可跳过专家复核


④ 应急程序

  • 适用于突发公共事件和紧急情况

  • 应急审查:72 小时内完成

  • 专家复核项目:36 小时内完成预审

🏛️ 五、机构建设:伦理委员会 + 服务中心

机构内部伦理委员会

所有开展 AI 科技活动的高校、科研院所、医疗机构、企业,都必须:

  • 建立 AI 科技伦理委员会

  • 配备必要的人员、资金和办公条件

  • 确保委员会独立运行

  • 委员需涵盖 AI 技术、应用、伦理学、法学等多学科背景


第三方伦理审查服务中心

由地方政府或相关部门设立,提供:

  • 第三方伦理审查

  • 复审(不得对同一活动既做审查又做复审

  • 培训与咨询


国家登记平台

所有伦理委员会和服务中心均须在 国家科技伦理管理信息登记平台 注册,并提交年度工作报告。

⚠️ 六、法律责任

《办法》本身不设罚则,但引用现有法律执行:

法律依据

适用范围

《网络安全法》

网络安全违规

《数据安全法》

数据违规处理

《个人信息保护法》

个人信息违规处理

《科学技术进步法》

科技活动违规


中国在 AI 伦理治理上采用了 "引用现有法律框架" 的策略,而非单独创设 AI 罚则——这种方式既避免了立法周期过长的问题,又利用了已有法律的成熟执行机制。

🌍 七、与国际框架的对比

维度

中国《办法》 🏮

欧盟 AI Act 🇪🇺

OECD AI 原则 🇺🇳

法律性质

行政规章(有强制力)

法规(最高 7% 全球年营收罚款)

非约束性原则

风险分级

✅ 三档(标准/简易/专家复核)

✅ 四级(最低/有限/高/不可接受)

高风险范畴

3 类(聚焦精准)

8+ 大类(覆盖广泛)

审查主体

机构内设委员会 + 第三方中心

通知机构(Notified Bodies)

罚则

引用网安法/数安法/个保法等

明确分级罚款

应急程序

✅ 72 小时审查

❌ 无

核心导向

服务+监管 双重目标

市场准入合规

政策指引


🔑 中国方案的最大特色: 采用"服务+监管"双重定位——第二章专门讲"促进创新"(标准制定、能力建设、公共服务),这与 EU AI Act 以"合规准入"为核心的定位形成鲜明对比。

🏢 八、对企业的影响

必须建立伦理委员会的企业

所有开展 AI 科技活动的高校、科研院所、医疗机构和企业都需要建立伦理委员会。具体包括:

  • AI 大模型研发企业(百度/阿里/腾讯/字节/月之暗面/智谱等)

  • AI 医疗/健康产品企业

  • 自动驾驶企业

  • 智能决策系统企业

  • 涉及人机融合技术的企业

三类高风险企业的特殊义务

从事人机融合、舆论操控算法、高自主性决策系统三类高风险 AI 活动的企业,还需:

  • 通过专家复核程序(30 天审限)

  • 跟踪审查间隔不超过 6 个月

  • 向国家登记平台提交年度实施报告

如何准备

步骤

行动

1️⃣

建立内部 AI 伦理委员会(需多学科)

2️⃣

在国家科技伦理管理信息登记平台注册

3️⃣

梳理现有 AI 活动,确定风险等级

4️⃣

高风险活动准备专家复核申请材料

5️⃣

建立伦理审查档案管理制度(保存期同法律要求)


📌 九、总结

《人工智能科技伦理审查与服务办法(试行)》 是中国 AI 治理体系中承上启下的一环。它填补了 AI 伦理从"原则"到"实操"的制度空白,以四层审查程序 + 内部委员会 + 国家登记平台的系统设计,建立了覆盖 AI 全生命周期的伦理审查机制。

三个核心信号

  1. 🏆 AI 伦理审查从软约束变为硬要求——7 条原则 + 4 层程序 + 3 类高风险,审查不再是一纸空文

  2. 🏆 "服务+监管"的双重定位——不只要管,还要帮(促进创新、标准制定、能力建设)

  3. 🏆 与现有监管体系无缝衔接——深度合成/算法推荐/生成式 AI 已备案的可豁免专家复核,避免重复合规

一句话总结

如果说《智能体规范应用意见》是管 AI"做的行为",那么《伦理审查办法》就是管 AI"做的底线"——一个是行为围栏,一个是道德红线,共同构成了中国 AI 治理的"双保险"。



评论