跳到主要内容

人工智能科技伦理审查与服务办法(试行)(2026年) 第十五条

第十五条 委员会或服务中心开展人工智能科技伦理审查,重点关注以下方面:

在人类福祉方面,人工智能科技活动是否具有科学价值、社会价值;研究目标对增进人类福祉、实现社会可持续发展等是否具有积极作用;人工智能科技活动的风险是否受益合理。

在公平公正方面,训练数据的选择标准,算法、模型、系统的设计是否合理;是否采取措施防止偏见歧视、算法压榨,保障资源分配、机会获取、决策过程的客观性与包容性。

在可控可信方面,是否能够保障模型、系统的鲁棒性,以应对开放环境、极端情况和干扰性因素;是否能够保障使用者控制、指导和干预模型、系统的基本操作;是否制定持续监测方案、突发状况处理预案。

在透明可解释方面,是否合理披露算法、模型、系统的用途、运行逻辑、交互方式说明、潜在风险等信息;是否采用有效技术手段提升算法、模型和系统的可解释性。

在责任可追溯方面,是否具有日志管理等措施清楚记录数据、算法、模型、系统各个环节的充分信息,保障全链路可追踪和管理;科技人员资质是否符合相关要求。

在隐私保护方面,数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等,是否采取充分措施确保隐私数据得到有效保护。