2026年5月，全国网络安全标准化技术委员会（以下简称“网安标委”）在2026年中国网络文明大会人工智能赋能网络文明建设分论坛上发布了《人工智能应用伦理安全指引1.0》（以下简称《指引》）。
为进一步引导人工智能应用坚持以人为本、智能向善，推动人工智能应用相关方正确认识和妥善应对应用活动中的伦理安全影响，促进人工智能应用在规范有序、安全可控的轨道上健康发展，《指引》给出了人工智能应用伦理安全理念与原则，明确了人工智能应用开发、服务提供和应用使用等安全指引。
网安标委秘书处相关负责同志表示，《指引》的发布，正是对引导人工智能应用尊重人的主体地位、维护公平正义、保障合法权益、促进社会信任，推动人工智能技术始终朝着有益、安全、公平方向发展这一时代课题的积极回应，体现了人工智能治理坚持积极稳妥、开放包容、协同共治的实践导向，也体现了网络文明建设对人工智能时代技术向善、价值引领和秩序塑造的主动回应。
指引全文
人工智能应用伦理安全指引 1.0
发布单位：全国网络安全标准化技术委员会
发布时间：2026-05-19
文件性质：原则性、参考性技术文件；涉及个人信息、自动化决策、内容标识、算法治理、知识产权等事项时，应与现行法律法规和部门规章协调适用
前言
本文件由全国网络安全标准化技术委员会（SAC/TC260）发布。
本文件起草单位：清华大学、中国电子技术标准化研究院、上海交通大学、四川大学、北京科技大学、阿里巴巴集团、华为技术有限公司、北京深度求索人工智能基础技术研究有限公司等。
本文件主要起草人：薛澜、梁正、郝春亮、贾开、王姣、赵静、张妍婷、申卫星、朱旭峰、吕飞霄、庞祯敬、王净宇、曾雄、李芒、宋雨鑫、吴宗泽、傅宏宇、林秋诗、吴少卿、王晓箴、邵萌、薛晖、张荣、李娅莉、陈迪思等。
1 范围
本文件给出了人工智能应用伦理安全影响，提出了人工智能应用伦理安全理念与原则，规定了人工智能应用开发、服务提供和应用使用等安全指引。
本文件可为组织和个人开展人工智能应用活动提供指导，也可为相关主管部门、行业组织和有关机构推进人工智能伦理安全治理提供参考。
2 规范性引用文件
下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。
GB/T 25069 信息安全技术 术语
GB/T 41867 信息技术 人工智能 术语
3 术语和定义
GB/T 25069 和 GB/T 41867 界定的以及下列术语和定义适用于本文件。
3.1 人工智能应用：具有功能特性的人工智能的使用，该人工智能在利益相关方场景中运行以实现预期结果。
3.2 人工智能应用伦理安全（简称 “伦理安全”）：开展人工智能应用活动，处理人工智能与人、社会、自然之间相互关系时，从安全影响角度出发，应保障的伦理价值或秩序的规范与准则。
3.3 应用开发者：开展人工智能应用的理论研究、技术创新、数据归集、模型开发、算法迭代等相关活动，或利用人工智能理论或技术形成具有特定功能、满足特定需求的系统、产品或服务的组织或个人。
3.4 服务提供者：在工作与生活场景中，利用人工智能技术向具体对象提供服务的组织或个人。
3.5 使用者：在工作与生活场景中使用人工智能系统、产品或服务的组织或个人。
4 人工智能应用伦理安全影响
主要影响包括：
a) 人类主导权影响：人工智能行为超出人类所预设、理解和可控的范围，在对人工智能应用关键节点的监督、干预与纠偏不足时，可能冲击人类在社会运行和治理过程中的主导地位。
b) 公共秩序影响：人工智能应用于社会运行和行为决策，在技术快速演化而社会回馈相对缓慢的情况下，可能影响行为规范、市场秩序与社会信任，最终对社会基础公共秩序带来冲击。
c) 个体认知与社会价值影响：人工智能普遍应用形成的新社会环境可能对个体认知与社会价值体系带来冲击，产生人类过度依赖、个体与现实社会脱节等问题。
d) 社会分化和歧视影响：人工智能应用对不同群体可能产生差异化影响，放大偏见与歧视，造成结构性不利后果，影响公平公正、加剧社会分化。
e) 生命健康与基本权益影响：人工智能因其全新的应用方式，可能对自然人的生命健康、人身安全、人格尊严、隐私、财产、劳动等基本权益造成影响，也可能对组织的合法权益造成侵害或产生不利影响，甚至可能对国家安全、公共安全带来危害。
f) 可持续生态影响：不合理的人工智能技术路线选择与应用模式可能会带来系统性生态压力，影响人与自然可持续发展。
5 伦理安全理念与原则
5.1 伦理安全理念
在开展人工智能应用活动时，应将伦理安全要求贯穿全过程，从安全影响角度出发，妥善处理人工智能与人、社会、自然之间的相互关系，以造福人类、服务社会和可持续发展为导向，推动人工智能朝着有益、安全、公平方向健康有序发展，避免不合理的人工智能技术路线选择与盲目应用，保障人工智能始终服务于增进人类共同福祉。
5.2 伦理安全原则
主要原则包括：
a) 增进人类福祉：坚持正确价值观，坚持智能向善、以人为本，推动人工智能服务人的全面发展和社会共同利益，促进提高生产生活水平、改善公共服务、提升社会治理效能。鼓励人工智能发挥积极作用，拓展人类能力、增进社会福祉，保护个人劳动就业权利，事先评估并防范人工智能应用可能引发的就业替代或失业风险。
b) 尊重生命权利：坚持生命至上、尊严优先，尊重和保障人的生命健康、人身安全、人格尊严和基本权益。保障人的自主决策、维护个人主体性、避免过度依赖，涉及生命健康、人身安全、人格尊严等重要场景的人工智能应用，应以保障人的生命权利和基本权益为底线，避免对人的身心健康、人身安全和人格尊严造成不利影响。
c) 坚持公平公正：坚持公平包容和机会均等，避免人工智能应用造成不合理差别对待或加剧既有不公。坚持消除技术偏见和歧视，确保人工智能不对特定民族、信仰、国别、性别等群体以及特定组织或服务造成不公正影响。关注特殊群体与弱势群体权益，鼓励人工智能增进公共服务公平性与可及性。
d) 合理控制风险：坚持发展和安全并重，统筹人工智能应用的积极价值与潜在影响，强化风险意识和底线思维，推动人工智能在安全、可靠、可预期的范围内健康有序应用。审慎开展可能对国家安全、公共安全、生命健康等产生重大影响的人工智能应用，提前防范人工智能应用被违法使用、恶意利用、滥用等。
e) 保持公开透明：提升人工智能应用的透明度，推动其以更加清晰、可感知、可理解、可追溯的方式运行，增进社会对人工智能的认知与信任。
f) 保护隐私安全：尊重人的隐私权益，避免人工智能应用侵犯合理预期下的隐私边界，保护个人和家庭隐私空间，增强社会公众对人工智能应用的信任。
g) 确保可控可信：确保人工智能应用的主导权归属人类，鼓励人工智能应用安全开发，在关键环节设置人类控制机制，建立应急处置与人工干预机制，确保人工智能的运行始终处于人类控制之下向善发展，防范人工智能脱离人类监督或威胁人类生存发展。
h) 敏捷共治：加强安全互认，推动治理规则、技术标准、安全基准等方面国际衔接，提升敏捷治理水平，推动各方协同共治。推动相关主体共同履行人工智能应用伦理安全治理责任，加强协作配合，凝聚治理合力，避免因技术壁垒、封闭排他等加剧数据鸿沟，提升社会人工智能应用素养，共同保障人工智能健康有序发展。
i) 普惠共享：构建合作共生、能力共建、收益共享的人工智能生态，不利用人工智能强迫他人、实施垄断等。培育开源创新生态，鼓励人工智能模型、工具组件、评测基准等全方位技术开源，同步提升开源生态安全能力。鼓励不同路径技术探索，共享人工智能知识成果、最佳实践与安全治理经验，推动人工智能应用成果更广泛惠及社会。
6 伦理安全指引
6.1 通用指引
主要指引如下：
a) 在开展人工智能应用活动前，预先评估应用目的及影响，充分保障国家安全、公共利益、组织及个人权益。
b) 以集体主义、人的全面发展等原则为基础，构建符合中国国情和文化传统的伦理规范体系。
c) 正确认识人工智能的应用价值、能力边界及潜在影响，避免盲目信赖、片面夸大和过度宣传。
d) 保留关键环节的人类判断、监督、干预和纠偏，避免人工智能过度替代人类决策。
e) 重视隐私和个人信息保护，防止过度收集、不当使用、泄露或者滥用相关信息。
f) 关注人工智能应用可能带来的偏见、歧视和机会不均等影响，重视未成年人、老年人、残障人士等易受影响群体保护。
g) 全面提升人工智能应用伦理素养水平，加强人工智能伦理应用影响的安全风险提示、反馈和改进，及时发现问题并采取相应措施。
h) 适时开展伦理安全影响评估，及时识别伦理安全风险并完善伦理安全防控措施。
i) 涉及生命健康与人身安全的，坚持以人为本、安全优先、审慎适用，以保障生命健康与人身安全为底线，确立人工智能应用的适用边界与责任安排。
j) 涉及社会治理与公共服务的，坚持公共利益优先、公平公正，在提质增效的同时，保障公共服务的普惠性、可及性与程序正当，保障公众知情、质疑、复核与救济渠道有效运转。
k) 涉及信息资讯与传播的，坚持真实可信与清朗生态导向，推动人工智能提升优质内容供给与传播效率，同时维护传播秩序与受众权益，避免出现违法违规内容。强化对生成与推荐的风险治理，避免人工智能可能带来的信息茧房、认知误导、认知退化等问题。
l) 涉及知识发现与生产的，坚持求真务实、可验证与学术诚信，鼓励人工智能在科研探索、工程研发与高等教育等活动中发挥辅助增益作用、更好释放人的创造性与主体性，确保关键结论与重要判断具备必要核验与责任承接，强化证据、引用与署名规范，尊重知识产权与成果归属边界。
m) 涉及金融活动的，坚持稳健审慎，注重风险控制与消费者保护。对可能影响个人财产权益、交易机会与交易条件的关键环节，应设置清晰规则，便于责任追溯与结果复核，关注对公平竞争与市场秩序的影响。
6.2 应用开发指引
主要指引如下：
a) 统筹考虑人工智能应用伦理安全，识别满足伦理要求的安全开发需求，审慎关注人工智能的合法合规应用情况，避免单纯以性能或效率目标驱动迭代开发与优化改进。
b) 满足我国人工智能科技伦理审查要求，审慎开发具备高度自主性人工智能应用，重点评估其失控风险以及其对产业和社会的影响。
c) 理性认知人工智能应用的技术能力边界与潜力，正确看待 “幻觉” 等问题，对缺乏依据或者存在较大不确定性的输出作出必要管控以及提示说明。
d) 将安全可控、公平公正、隐私保护、机会均等理念贯穿数据选择、目标设定、算法设计、技术开发、产品研发、测试评估、运行维护等全过程。
e) 面向未成年人、老年人、残障人士等易受影响群体的特点，在应用开发过程中采取专门设计考量，其安全提示、透明度标识及隐私授权等采用符合年龄认知的语言，并符合适用的无障碍获取要求，确保易受影响群体能够清晰感知。
f) 在技术可行、符合业界普遍技术水平的前提下，提高开发过程透明度，结合人工智能应用场景和影响程度等方面，制定并提供安全配置、安全部署的操作指南，及时、准确、完整对外说明人工智能应用的功能、局限、安全风险和可能的影响。
g) 设置事故信息追溯机制，保留与风险事件相关的必要信息，确保在发生争议、损害或事故时能够复盘分析并支撑责任追溯。
h) 推动不同组织、个人间合作与互信，促进良性竞争与多元化技术路线并行发展，协同开展伦理安全风险处置。
6.3 服务提供指引
主要指引如下：
a) 选择符合伦理影响规范的人工智能应用目标，理性引导社会认知服务能力与边界，及时提示可能风险，避免对使用者造成误导。
b) 提供符合科技伦理审查要求的产品或应用，加强人工智能应用全生命周期的跟踪审查。
c) 服务涉及国家安全、社会公共权益、组织和个人重大生命财产安全时，人工智能宜仅承担辅助决策作用、不提供直接决策依据。
d) 以清楚明确且便于操作的方式向使用者提供拒绝、干预及停止使用人工智能服务的机制。着力避免提供使用者无法便捷地强行通过断电、关停系统等方式停止的人工智能服务。
e) 尽量减少对使用者隐私和敏感个人信息的处理，遵循合法、正当、必要、最小化原则，杜绝偷采、强采、滥采，防止信息泄露以及不当披露。
f) 确需收集使用者数据用于训练模型、改进服务的，宜持续对使用者提示收集数据的状态，并显著告知关闭方式。
g) 设置事故应急处置机制，持续监控服务运行过程，主动识别发现伦理安全风险，及时处置伦理安全问题，确保合法合规应用，必要时采取人工紧急干预、中止应用等手段。
h) 面向未成年人、老年人、残障人士等易受影响群体服务时，着重提升服务便利性，避免造成使用障碍。
i) 服务涉及个人权利义务、公共资源分配等场景时，重点提升公平性，并完善风险提示。
6.4 应用使用指引
主要指引如下：
a) 正确认知人工智能，学习人工智能伦理安全基本知识，增强对虚假、错误、误导性内容的识别能力，增强对人工智能相关物理安全风险、决策安全风险的认识，形成理性、审慎的使用习惯。
b) 适度使用人工智能，正确认知人工智能情感服务原理，以人工智能作为辅助真实生活的工具，避免过度依赖、过度沉迷，避免通过人工智能过多替代现实交往与真实活动。
c) 妥善运用人工智能，通过人工智能帮助学习、生活、创作，促进个人主体性提升和创造性发挥。
d) 合法使用人工智能，尊重他人尊严与合法权益，不借助人工智能对他人进行误导、骚扰、操纵，不利用人工智能伪造、冒用他人身份或仿冒权威主体，不使用人工智能实施攻击、破坏、盗窃等违法违规行为。
e) 妥善保护自身敏感信息，审慎向人工智能提供、上传或分享敏感个人信息、隐私信息，避免个人文件、商业秘密等意外泄露，重点防范涉及国家安全、公共利益的信息被不当传播。
f) 提高人工智能素养，积极履行人工智能生成合成内容标识等人工智能相关义务，及时反馈伦理安全风险，帮助建设良性人工智能生态。
图解
文件下载
专家解读 | 强化伦理安全标准 引导人工智能规范发展
一、以开放协同凝聚人工智能应用伦理安全治理共识
人工智能应用伦理安全治理，关系技术创新方向、产业应用秩序和社会公共利益，既需要坚持正确价值导向，也需要在应用实践中持续凝聚共识。随着人工智能应用加快拓展，不同领域、不同场景对伦理安全的理解和关注重点不尽相同，亟需形成相对统一的认识基础。《指引》编制过程中，注重汇聚有关主管部门、行业部门及产学研用各方力量，充分听取相关部门、专家学者、企业机构和行业组织意见建议。一方面，围绕人工智能应用伦理安全治理的总体方向、政策衔接和实践需求开展深入沟通，确保《指引》与人工智能治理有关部署相协调；另一方面，围绕人工智能应用活动中的伦理安全影响、理念原则和主体责任开展专业研讨，吸收不同领域、不同行业实践经验和意见建议，推动各方在治理目标、基本原则和实践路径上形成更加一致的认识。
在此基础上，《指引》立足人工智能应用活动实际，将价值导向、风险边界和实践要求进一步转化为面向应用活动的共同语言和基本遵循，使伦理安全要求能够被不同主体理解、参照和落实。这既体现了人工智能应用伦理安全治理的价值共识，也兼顾了技术创新和产业应用中的现实需求，推动人工智能应用伦理安全治理从共识凝聚走向实践深化。
二、把伦理安全转化为可识别的标准化对象
伦理安全具有价值属性强、涉及范围广、表现形态多样等特点。对于人工智能应用治理而言，将伦理安全相关要求转化为清晰的识别维度和治理参照，有利于帮助相关主体在具体应用活动中理解要求、把握边界、开展实践。《指引》立足人工智能应用活动实际，对伦理安全相关影响进行系统梳理，推动宏观价值要求进一步转化为各方可理解、可识别的标准化对象，为人工智能应用向善发展提供重要参考。
（一）拓展人工智能应用治理视野
人工智能伦理安全不是孤立的道德讨论，而是人工智能深度融入经济社会发展后，与技术创新、产业应用、公共服务和社会治理相伴而生的重要议题。人工智能应用越是深入，越需要在关注技术安全、产品安全、服务安全的同时，进一步关注其对人的主体性、社会秩序、公共利益和长远发展的影响。《指引》从人工智能应用活动出发，将伦理安全纳入人工智能应用治理整体框架，有助于引导相关主体从更宽视野认识人工智能应用影响，推动人工智能更好体现以人为本、智能向善的价值取向。
（二）形成伦理安全影响识别框架
提升人工智能应用伦理安全治理效能，关键在于把复杂多元的伦理安全影响转化为明确的识别框架。伦理安全涉及价值取向、权利保障、责任边界、社会秩序等多个方面，具有综合性、关联性和场景性特点。对于主管部门、行业组织、企业机构和社会公众而言，形成相对清晰的识别维度，有助于在不同场景、不同环节中理解、研判伦理安全，推进伦理安全治理。《指引》通过对人工智能应用活动相关影响的系统梳理，将相对抽象、多元、复杂的伦理安全要求，转化为较为清晰的治理维度，为各方在统一框架下形成认识、开展工作、加强协同提供基础参照。
（三）为重点场景治理提供基础支撑
人工智能应用伦理安全治理需要从基础框架走向场景实践，重点场景是检验和细化治理要求的重要领域。公共服务、教育、医疗、金融、内容传播、知识生产等场景，与人民群众切身利益、社会公共秩序和行业发展质量密切相关，对伦理安全治理提出了更具体的实践需求。《指引》形成基础性识别框架，有助于面向重点行业、重点场景和重点主体细化治理要求、形成配套指南、开展评估验证、积累典型案例，推动人工智能应用伦理安全治理更加贴近应用实际、更加注重实践落地。
三、把价值导向转化为可遵循的基本规则
人工智能应用伦理安全治理，既需要价值引领，也需要将价值要求转化为应用活动中可以遵循的基本规则。《指引》在伦理安全理念中明确了人工智能应用活动的总体取向，并在伦理安全原则中从人类福祉、生命权利、公平公正、控制风险、公开透明、隐私安全、可控可信、敏捷共治、普惠共享等方面作出细化，有助于推动价值导向从原则共识进一步转化为应用活动中的规则参照，引导人工智能应用在创新发展中更好服务人的发展和社会公共利益。
（一）以人为本、智能向善的价值导向
人工智能应用深度融入生产生活，伦理安全治理须更加注重维护人的主体地位、保障人的合法权益、促进人的全面发展。《指引》将增进人类福祉、尊重生命权利、坚持公平公正等内容纳入伦理安全原则，有助于引导相关主体在人工智能应用活动中更加重视人的主体地位和合法权益，推动人工智能应用更好服务经济社会发展和人民群众实际需要。
（二）促进发展和安全协同推进
人工智能应用从技术探索走向场景落地，既带来效率提升和模式创新，也使伦理安全要求更加受到关注。《指引》将合理控制风险、保持公开透明、保护隐私安全、确保可控可信等纳入伦理安全原则，有助于引导相关主体在人工智能应用活动中统筹考虑创新价值与安全要求，把伦理安全要求融入方向把握、制度安排和过程管理之中，为人工智能应用规范有序发展提供价值参照。
（三）形成价值引领与行为约束相统一的规则体系
人工智能应用伦理安全治理需要在明确价值取向的基础上，进一步划定应用活动应当遵循的基本边界。《指引》围绕增进人类福祉、尊重生命权利、坚持公平公正、普惠共享等要求，明确人工智能应用应当服务人的全面发展和社会公共利益；围绕合理控制风险、保护隐私安全、确保可控可信等要求，明确人工智能应用应当坚持必要的安全边界和责任约束；围绕保持公开透明、敏捷共治等要求，明确人工智能应用应当增强可理解性、可监督性和协同治理能力。通过将价值目标、风险边界和治理方式相衔接，《指引》推动伦理安全原则从一般性理念转化为人工智能应用活动可以对照把握的基本规则，引导相关主体在促进创新应用的同时，更好兼顾权益保护、风险防范和公共利益维护。
四、把原则要求转化为可操作的应用指引
围绕人工智能应用活动中的实践需求，《指引》在明确伦理安全影响、理念和原则的基础上，进一步将相关要求延伸到应用活动层面，围绕通用要求以及应用开发、服务提供、应用使用等环节形成实践参照，有助于推动伦理安全要求从价值共识和原则要求进入具体应用过程，为相关主体规范开展人工智能应用活动提供行为参考。
（一）以通用指引明确应用活动共性要求
《指引》围绕人工智能应用活动给出通用指引，将伦理安全理念和原则进一步衔接到应用目的、能力边界、人的监督、权益保护、风险防范等基础环节。通过对共性事项作出引导，《指引》为不同主体、不同场景开展人工智能应用活动提供了基本参照，使伦理安全要求能够从原则层面进入具体应用过程。
（二）面向应用活动各方明确实践要求
人工智能应用伦理安全要求需要落实到应用开发、服务提供和应用使用等具体活动中。《指引》面向应用活动各方提出要求，体现了根据不同环节特点推动责任落实的思路。对应用开发环节，重在推动伦理安全要求前置融入目标设定、功能设计、技术实现和测试验证等过程，促进人工智能应用从源头提升安全性、适用性和可预期性。对服务提供环节，重在推动伦理安全要求贯穿服务运行、用户交互和风险处置等过程，促进人工智能服务在具体场景中保持规范、可控、可信。对应用使用环节，重在推动使用者科学认识人工智能能力边界、理性审慎开展应用活动，共同维护安全有序、健康良好的人工智能应用生态。
通过面向应用活动各方明确实践要求，《指引》将伦理安全原则进一步转化为开发有遵循、服务有规范、使用有边界的应用指引。这样的安排，既有利于推动相关主体在各自环节履行相应责任，也有利于促进应用开发、服务提供和应用使用之间形成衔接配合，推动人工智能应用伦理安全要求更好融入实际活动、落到具体场景。
《指引》作为人工智能应用伦理安全治理的基础性文件，立足应用活动实际，突出价值引领、规则传导和责任落实，为完善人工智能伦理安全治理体系提供了重要支撑。面向未来，建议以《指引》发布实施为契机，围绕重点行业、重点场景和重点主体，持续完善配套标准、实践指南、评估方法和典型案例，推动人工智能应用伦理安全要求更好融入技术创新、产业发展和社会治理实践，引导人工智能始终沿着以人为本、智能向善、安全可信的方向健康有序发展。
作者：范科峰 中国电子技术标准化研究院副院长
来源：全国网安标委
www.smartcity.team
