Ethical Guidelines for Virtual Reality Technology R&D and Ethical Guidelines for Human-Derived Organoid Research

Full text · 原文 4,859 字

为促进虚拟现实和人源类器官的规范研究，国家科技伦理委员会人工智能、生命科学伦理分委员会分别研究编制了《虚拟现实技术研发伦理指引》和《人源类器官研究伦理指引》，供相关科研机构和科研人员参考使用。 附件：1.虚拟现实技术伦理指引 2.人源类器官伦理指引 扫一扫在手机打开当前页 打印本页 相关文档 相关附件 — 1 — 附件1 虚拟现实技术研发伦理指引 1. 目的 为指导虚拟现实技术的研究和开发健康有序发展，防范 虚拟现实技术研发与应用过程中的科技伦理风险，研究提出 虚拟现实技术研究开发的伦理指引。 2. 术语 2.1 虚拟现实（Virtual Reality, VR） 虚拟现实是一种通过计算机生成的三维环境，使用户能 够沉浸其中并与之互动的技术。通过头戴式显示器、手柄、 传感器等设备，为用户提供视觉、听觉、触觉等多种感官体 验，使其感觉仿佛置身于一个真实的虚拟世界中。 2.2 增强现实（Augmented Reality, AR） 增强现实是借助光电显示技术、交互技术、多种传感器 技术和计算机图形与多媒体技术将计算机生成的虚拟环境 与使用者周围的现实环境融为一体，从而营造出虚拟与现实 共享同一空间的技术。 2.3 混合现实（Mixed Reality, MR） 混合现实是一种将虚拟现实和增强现实相结合的技术， 通过在现实世界中叠加虚拟对象和环境，使用户能够在同一 空间内同时与现实和虚拟元素进行互动，提供丰富的多模态 — 2 — 交互体验。 2.4 虚拟实践（Virtual Practice, VP） 虚拟实践是指利用虚拟现实、增强现实或混合现实等技 术，在虚拟环境中模拟真实世界的情境，让使用者能够在安 全、可控的条件下进行练习、培训或实验的过程。可通过高 度仿真的虚拟场景和互动机制，模拟复杂的任务和情境，减 少实际操作的风险和成本，帮助使用者提高技能、加深理解 和应对各种实际问题。 3. 基本原则 3.1 增进人类福祉 虚拟现实技术的研究开发应以人为本，秉承科技向善的 宗旨，以能够更好地增进人类福祉为目标，推动社会团结和 谐、安全稳定、繁荣富足、安居乐业和文明进步。 3.2 维护个人权益 虚拟现实技术的研究开发应尊重人的尊严和自主性，维 护个人基本权益，重视保护个人隐私安全，个人信息的处理 应遵循合法、正当、必要和诚信的原则。 3.3 合理控制风险 虚拟现实技术的研究开发应高度关注安全性，重视并加 强透明性、可解释性、可靠性、可控性，应确保人始终拥有 对虚拟现实应用的可靠控制。 3.4 公正公平 虚拟现实技术的研究开发应惠及广大人民群众，保障人 — 3 — 们在获取虚拟现实技术的机会方面的公正性，应特别关注容 易被忽视的、缺乏代表性的群体，提升弱势群体的适应性， 弥合不同群体、不同行业、不同区域间的数字鸿沟。规范虚 拟现实技术在医疗、教育、就业等社会竞争领域的研究开发， 保障社会竞争公平性。 3.5 国际合作与交流 虚拟现实技术的国际合作应基于“和而不同、和而求同” 原则，尊重不同文化语境下技术伦理的本土化诠释，并努力 在人权保障、技术包容性、可持续发展等方面形成共识，推 动建立文明互鉴新维度和人类命运共同体。 4. 伦理要求 4.1 合法合规 开展虚拟现实技术研发需遵守我国宪法、法律法规和有 关规定以及科技伦理规范，遵循国际公认的伦理准则，以及 科学共同体达成的专业共识和技术规范。不得通过虚拟现实 技术研发进行非法活动、侵害他人合法权益、破坏社会稳定， 不得散播与虚拟现实技术实际用途和效果不符的虚假广告 信息。 4.2 知情同意 虚拟现实技术的研究开发应尊重和维护个人基本权益， 以及个人基本权益在数字世界的合法延伸，不应干扰、操控 人的意志。应有明确标识，禁止隐瞒非人类服务的事实，应 以明确方式提示虚拟现实是数据与信息处理工具。 — 4 — 4.3 隐私保护和个人信息保护 虚拟现实技术的研究开发应重视保护个人隐私安全，对 个人信息的收集、存储、使用、加工、传输、提供、公开、 删除等处理行为应通知本人并获得同意方可进行，应建立完 善的授权与撤销机制。 4.4 风险防控 虚拟现实技术的研究开发应避免产生和扩大歧视和偏 见，对弱势群体使用虚拟现实可能造成的身心负面影响应经 过充分的事前评估。应实现可审核、可监督、可追溯、可信 赖，提高鲁棒性和抗干扰性，提升安全评估和管控能力。应 确保人始终能可靠控制虚拟现实技术，采取有效措施避免和 预防虚拟现实技术的误用、滥用、恶用，以及颠覆和冲击现 有生活秩序、风序良俗或危害社会安全稳定。 4.5 责任明晰 应明确告知所有参与虚拟现实技术设计、研发的相关组 织或个人所要承担的责任，应有促进更好的责任审核和追溯 的机制，重视对虚拟现实技术的监督评估。 4.6 群体保护 应针对儿童等特殊群体使用虚拟现实技术建立专项保 护机制，制定儿童使用时长分级标准，植入家长监护功能模 块，避免过度沉浸虚拟场景影响儿童现实认知能力的健康发 展；相关技术和产品方应定期提交儿童身心影响评估报告， 避免向低龄儿童开放强沉浸的虚拟现实应用。 — 5 — 4.7 警示标识 虚拟现实产品应在设备、界面、交互场景及说明书中以 文字、语音、音频或者通用符号等显性标识形式醒目提示潜 在风险，明确说明技术应用可能诱发的健康风险、行为异化、 自我意识干扰、社交关系弱化及社会认知偏差等问题。应构 建动态警示体系，依据用户年龄、使用场景等调整警示强度 与呈现形式，对未成年人群体需强化神经发育风险的预防性 警示。警示标识应遵循国际通行的符号语言标准，确保跨文 化可识别性。 5. 伦理问题 5.1 价值异化的伦理问题 （1）主体道德意识虚化 由于沉浸式体验、角色扮演、感官剥夺和技术依赖，虚 拟现实技术导致主体原有的道德认知、道德情感、道德意志 和道德行为出现弱化、模糊化或丧失的现象。 （2）主体自我意识弱化 由于沉浸式体验、角色扮演、感官剥夺和技术依赖，虚 拟现实技术导致的主体自我感知、自我认同和自我反思能力 降低的现象。 （3）主体价值认同偏移 由于沉浸式体验、角色扮演、感官剥夺和技术依赖，虚 拟现实技术导致主体对社会主流的价值观、信念和认同感发 生改变或偏离的现象。 — 6 — 5.2 行为异化的伦理问题 （1）行为操控问题 虚拟现实技术通过虚拟环境的设计、交互机制和技术手 段，操作性影响或引导用户在虚拟现实中的偏好改变、意志 形成和行为决策。 （2）行为依赖问题 虚拟现实技术通过虚拟环境的设计、激励机制、交互方 式，造成对用户在虚拟环境中形成对特定行为模式的持续倾 向或习惯，如行为成瘾，进而导致用户身心健康受损，甚至 形成病理性依赖。 5.3 关系异化的伦理问题 （1）关系主体困境 虚拟现实技术通过虚拟主体设置的“身份隐蔽”，造成 用户在现实与虚拟身份之间产生认同混淆或混乱。 （2）关系对象困境 虚拟现实技术通过虚拟情景创造“多元互动”，造成用 户与虚拟角色建立情感联系、社交互动或依赖关系时面临的 认知、情感、道德的尺度失控。 （3）关系场景困境 虚拟现实技术通过虚拟空间的塑造“行动自由”，造成 主体在虚拟空间的排他性、奖励性和异化性行为。 5.4 社会异化的伦理问题 （1）社会安全问题 — 7 — 虚拟现实技术通过对世界和人的感知与行为的数据化 模拟和仿真，造成损害个人权益、社会稳定和公共安全的问 题。 （2）社会责任问题 虚拟现实技术因自动化、自主性、动态性等特征，造成 的责任归属与责任主体模糊、交织、分散的现象。 （3）社会权利问题 虚拟现实的不合理利用，包括滥用、误用，对人的基本 权利、人身、隐私、财产等造成侵害或产生负面后果。 6. 伦理评估（审查） 从事虚拟现实技术的主体应主动开展伦理评估（审查）， 设置相应审查机构（机制），产品或技术应按照国家有关规 定获得伦理审查通过后方能上市；伦理评估（审查）坚持预 防为主、主动发现、积极防范的原则，围绕虚拟现实技术的 研究开发的必要性、合理性和规范性，从失控性、社会性、 责任性、歧视性、侵权性等方面识别伦理风险隐患，及时分 析发现的潜在伦理问题，采取积极措施降低或规避伦理风 险。 6.1 评估（审查）流程 （1）准备，包括明确审查目标、确定审查范畴、组建 审查团队、开展前期准备、制定审查方案。 （2）信息调研，包括核心主体调研、业务活动调研、 数据要素调研、安全影响调研等。 — 8 — （3）风险识别，包括实验场景识别、实验设计识别、 实验实施识别。 （4）综合分析，包括梳理问题清单、风险分析与评价、 提出整改意见。 （5）总结，包括伦理风险与问题评估报告、伦理风险 与问题处置。 6.2 评估（审查）手段 （1）人员访谈 对相关技术主体、应用主体、开发主体、用户主体进行 访谈，核查伦理制度规章、伦理防护措施、伦理责任落实情 况。 （2）文档查验 查验伦理风险管理制度、伦理风险评估报告、伦理问题 测评报告等有关材料及制度落实情况的证明材料。 （3）问题核查 核查技术场景、技术设计、技术应用、数据库和数据平 台等伦理风险的处置策略、配置、措施情况。 （4）技术测试 应用技术工具、性能测试等手段查看虚拟现实技术应用 情况、检测防护措施有效性。 6.3 评估（审查）方法 （1）伦理理论推演 第一，通过伦理学的基本理论分析对将要嵌入虚拟现实 — 9 — 的伦理目标进行解析，明晰研发的价值合理性、规范冲突、 人类主体地位等问题，同时界定利益相关者。第二，把虚拟 现实技术的伦理目标落实到具体架构内，包括物理载体、算 法和接口。第三，把虚拟现实技术研发与应用场景相结合， 确保预设的具体价值规范在使用语境中能够发挥作用。第 四，对具有潜在道德规范的虚拟现实技术进行合理性测评， 判断其是否公正合理，是否符合预期。 （2）伦理原则规范 在虚拟现实技术的研究、开发与应用过程中，运用伦理 原则进行伦理评估，并对其伦理问题的可能性进行分析，需 要预测和识别潜在风险、分析与澄清伦理问题、开发伦理问 题解决方案，以及通过同行评议对方案进行审议，并就方案 与政府、公众相互沟通。 （3）情景案例归纳 从案例出发，先确定虚拟现实技术伦理上可接受或不可 接受的行为，通过对各种案例的分析比较，将类似的案例和 行为纳入各类范式中进行伦理分析与评判。在实验推广和部 署应用阶段，通过了伦理评估的虚拟现实技术需要与社会系 统进行融合以获得特定的社会角色，根据社会的价值选择进 行调整以提高产品与社会价值系统的融合度。 7. 科普宣传 从事虚拟现实技术研究开发的相关主体应积极参与和 开展面向社会公众的虚拟现实技术普及工作，帮助公众更好 — 10 — 的理解虚拟现实技术、正确对待虚拟现实技术的风险与伦理 问题。 虚拟现实技术研究成果发布时，应客观准确评价研究成 果，避免片面夸大，及时纠正误导性陈述，引导公众科学对 待虚拟现实技术，营造有利于虚拟现实技术创新和发展的良 好氛围。 本指引由国家科技伦理委员会人工智能伦理分委员会 研究制定，定期评估，适时修订。 国家科技伦理委员会人工智能伦理分委员会 2025 年4 月 — 11 — 主要参考文件 [1] GB/T 38258-2019 信息技术虚拟现实应用软件基本 要求和测试方法 [2] DB35/T 2044-2021 虚拟现实应用软件性能测试要求 [3] T/INFOCA 2-2019 虚拟现实用户体验评估标准 [4] T/SIOT 804-2020 虚拟现实应用模型场景开发规范 [5] T/GAGA 004-2021 虚拟现实产品安全要求和试验方法 [6] T/ZSA 107-2022 虚拟现实视觉与交互相关用户体验 评价体系 [7] 《人工智能生成合成内容标识办法》（2025）

Site key	most
Policy area	科技伦理
Category	major_policy
CMS	科技部工作

Ethical Guidelines for Virtual Reality Technology R&D and Ethical Guidelines for Human-Derived Organoid Research

《虚拟现实技术研发伦理指引》和《人源类器官研究伦理指引》发布