在广西南宁举办的一场重要论坛上，全国网络安全标准化技术委员会正式发布了《人工智能应用伦理安全指引1.0》。这一文件聚焦人工智能应用中的伦理安全问题，为相关主体提供了开发、服务提供和应用使用等环节的安全指引，旨在推动人工智能技术在规范有序、安全可控的轨道上健康发展。
中国政法大学人工智能法研究院院长张凌寒在论坛上对《指引》进行了深入解读。她指出，这份文件不仅提出了智能向善的原则，更构建了一个由人类主导、群体保护、国际衔接和全生命周期治理组成的系统性框架，为人工智能应用提供了更具操作性的制度支撑。张凌寒强调，有效的人工智能治理不应简单压制技术发展，而是要通过权责清晰、合作共生的制度安排，使技术创新真正转化为社会进步和人民福祉的积极力量。
《指引》系统梳理了人工智能应用可能带来的六大结构性影响。首先是人类主导权问题，随着系统自主性提升，人工智能可能在关键场景中超出人类控制范围，削弱人类在社会运行中的主导地位。其次是公共秩序冲击，技术演进速度可能超越社会适应能力，导致行为规范、市场规则和责任分配机制受到挑战。第三是个体认知与社会价值重构，人工智能深度介入判断和交流过程，可能引发认知依赖并对价值体系造成冲击。第四是社会分化风险，自动化决策可能放大历史偏见，对特定群体造成结构性不利。第五是生命健康与权益保护，包括自然人隐私财产和组织合法权益在内的风险需要全面考量。最后是生态环境影响，人工智能发展带来的算力扩张和能耗增长必须纳入绿色治理框架。
在治理理念层面，《指引》突出以人为本的核心原则。张凌寒解释，文件将智能向善理念贯穿于人工智能应用规范始终，形成了从伦理原则到程序规范再到具体场景规则的完整制度脉络。与前期文件相比，《指引》更注重将宏观伦理要求转化为开发、提供、使用三个环节的可操作规则，特别强调对未成年人、老年人、残障人士等易受影响群体的优先保护。例如针对未成年人要防止沉迷和价值观偏移，对老年人要消除数字排斥，对残障人士要提升技术可及性。
面对全球人工智能治理挑战，《指引》提出敏捷共治原则，主张加强安全互认和规则衔接。张凌寒指出，当前治理面临技术壁垒加深、规则碎片化、数据鸿沟扩大等问题，中国方案强调开源共享和最佳实践交流，在守住安全底线的同时推动国际合作。这种开放包容的治理路径，体现了规则联结、普惠共享的治理智慧。
在具体治理机制上，《指引》构建了全链条责任体系。开发者需将安全可控作为技术演进的默认设置，在数据选择和算法设计环节防范偏见歧视；服务提供者要建立人工复核和应急处置机制，特别是在关键领域限制不可解释人工智能的决策权限；使用者则需提升数字素养，履行内容标识义务并审慎处理敏感信息。张凌寒特别强调，伦理安全是开发、提供、使用三方共同构成的责任闭环，需要形成协同治理合力。
针对不同应用场景的风险差异，《指引》提出差异化分级治理策略。在生命健康领域坚持安全优先原则，重点管控诊疗辅助等高风险环节；社会治理领域强调公共利益优先，保障公共服务可及性和程序正当性；信息资讯领域则注重内容真实性和生态清朗，强化全流程风险治理。这种场景化治理模式，使伦理安全要求能够精准落地。
