摘 要：当今时代，前沿科学领域中产生了一系列新兴科技，例如基因工程和基因编辑、人工智能和机器人、合成生物学、神经技术、纳米技术、增强现实技术、3D打印、异种移植等。这些新兴科技有四大特点：风险性、不确定性、双重用途，以及可能引发一些未曾有过的伦理问题。因此，我们必须将传统科技管理升级为科技伦理治理。新兴科技的伦理治理原则应包括人的福祉、尊重人、公正负责、透明、公众参与等。
关键词：新兴科技 伦理治理 伦理原则
【中图分类号】B82 【文献标识码】A
2018年底，“基因编辑婴儿”事件引发人们对科技伦理的广泛关注。2019年 7月24 日，中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》，会议指出，“组建国家科技伦理委员会，目的就是加强统筹规范和指导协调，推动构建覆盖全面、导向明确、规范有序、协调一致的科技伦理治理体系”。2019年10月党的十九届四中全会又明确提出，“健全科技伦理治理体制”。
我们过去经常谈论科技管理，并将科技管理定义为运用国家权力对科技部门事务进行管理，对科技部门人力物力财力资源进行优化整合的管理行为。那么当代科技发生了怎样的变革，使得我们必须从过去一般的科技管理提升到建立和健全科技伦理治理体制呢？
新兴科技给国家治理带来的挑战
当今时代，前沿科学领域中产生了一系列新兴科技，例如基因工程和基因编辑、人工智能和机器人、合成生物学、神经技术、纳米技术、增强现实技术、3D打印、异种移植等。新兴科技有四大特点，提出了一系列我们应该做什么（实质性伦理问题）和如何做（程序性伦理问题）的规范性问题，使得传统的科技管理体制无力应对。
新兴科技有可能带来巨大风险，以至威胁到人类未来世代的健康甚至人类生存
例如人工智能可使人类从一般的智能活动解脱出来，集中精力于创新、发现、发明，然而同人类一样聪明甚至超越人类的人工智能系统，一旦失去控制，可能对人类的生存带来威胁。再如，合成生物学的研究和广泛应用，可帮助人类用多快好省的方法解决困扰人们已久的粮食、营养、燃料、药物和疫苗的生产问题，然而如果合成出传染力强、引起严重疾病、传播迅速、且对疫苗有免疫力的病毒，则可能使数千万人丧失生命。
新兴科技具有不确定性
当某种风险的严重程度及其发生的概率可以预测时，我们可采取风险评估和风险管理方法加以应对。与风险不同的是，不确定性是我们对未来事态的决定因素缺乏知识，因而难以预测其可能的风险。我们对所采取的干预措施可能引起的后果难以预测，可能影响后果的因素太多、太复杂、相互依赖性太强而不能完全把握。例如，用于管理电网、核电站等重要设施的人工智能软件，可能发生难以预测的差错。再如，关于“基因编辑婴儿”，因为缺乏必要的知识和信息，我们无法对生殖系基因组编辑进行必要的风险—受益比评估，也不能对提供胚胎的夫妻（即未来孩子的父母）提供必要和充分的信息，使他们能够做出有效的知情同意。
新兴科技往往具有正反双重用途
新兴科技既可被善意使用，为人类造福；也可被恶意使用，给人类带来祸害。例如合成流感病毒可用来研制疫苗，也可用来制造武器。这是大多数常规科技不可能具有的特点，很难说制造电视机这门技术本身有双重用途。一门颠覆性新兴科技，其应用前景越广阔，被恶意利用的可能性就越大。在人工智能算法设计和软件开发中，技术越先进，其被利用作为恶意软件、敲诈软件的可能性也就越大。双重用途的特性增加了不确定性，例如我们难以完全掌握恐怖主义利用新兴技术进行袭击的概率，因为不可能获得所有必要的情报信息。
新兴科技可能引发一些未曾有过的伦理问题
人工智能对于人类作出涉及未来的决策能够起很大的积极作用，可是人工智能的决策是利用大数据和算法做出的，算法能在大数据中找出人们行为的模式，然后根据这种模式预测某一群人未来会采取何种行动，包括消费者会购买何种商品，搜索何种人可担任企业的高级执行官，某种疾病在某一地区或全国发生的概率，或在某一地区犯过罪的人有没有可能再犯，等等，然后根据这种预测制订相应的干预策略。然而，模式是根据数据识别出来的，数据是人们过去的行为留下的信息，根据从过去行为的数据识别出的行为模式来预测人们未来的行为，就有可能发生偏差或偏见。例如在美国多次发现算法中的种族歧视和性别偏见。
新兴科技伦理治理的基本原则
由于这些新兴科技的创新、研发和应用会带来如此多而难以应对的伦理问题，而这些伦理问题不在传统科技管理范围之内，因此我们必须将科技管理提升到科技伦理治理。实行科技伦理治理，首先需要考虑的问题是，对在新兴科技创新、研发和应用中采取的行动、作出的决策以及制定的政策提出一个评价其是非对错的标准，即规定科技伦理治理的基本伦理原则。我们可以将新兴科技伦理治理的基本原则规定如下：
人的福祉（human well-being）
我们将这一伦理原则置于首位，就是要指出，发展科技的根本目的是增进人的福祉，福祉原意是处于良好的状态，简言之是人在身体上、精神上、智力上、情感上、社会上、经济上、环境上处于良好的状态。我们发展科技的根本目的就是帮助人们在所有这些方面达到良好状态。以人的福祉为首位原则与我国“以人民为中心”的发展思想相一致。增进人的福祉就是要将科技创新可能引起的对人和环境的风险最小化、受益最大化。由于基于科技创新的干预措施中受益与风险并存，“人的福祉” 这一原则要求我们对科研方案进行认真细致的伦理审查，对风险—受益比作出评估，审查科研方案是否体现对人的尊重。“人的福祉”这一伦理原则中的人，既包含现在世代的人，也包含未来世代的人，因而包含代际公正问题；福祉要求人在社会和环境上都处于良好状态之中，因此也包含保护环境、促进社会发展等内容。
尊重人（respect for person）
尊重人的伦理原则主要是尊重人的自主性，这就要求将知情同意作为伦理规范，并进一步成为法律规范。知情同意的形式可随干预或科研的情况及其引致的风险大小而异，与科研发展的需求相平衡。尊重人也包括尊重人的尊严，将人看作目的自身，而不把人看作仅仅是手段或工具。尊重人也包括承认人的内在价值，即每一个人的存在本身就是有价值的，反对将人视为仅有外在价值或工具性价值，即对他人或社会“有用”。尊重人也包括保护个人信息，不管是原来记录在案、个人最近提供，还是在干预过程产生的数据，亦即，尊重人也包括尊重和保护人的隐私。
公正（justice）
公正包括分配的公正、程序的公正、回报的公正和修复的公正。“公正”（justice）是一个比较宏观的概念，例如我们讨论社会的公正或制度的公正时往往使用“社会正义”“制度正义”等术语。公平（fairness）一般用于微观领域，例如我们讲科研、教育、市场或体育领域的“公平竞争”或“机会公平”。公正的伦理原则也包括公平可及（equitable access）这一伦理要求（在这里equity与fairness是同义语）。在贫富之间存在不平等而且市场正在扩大贫富鸿沟时，用纳税人的公共资金发展的科技成果却往往为少数富人享有，这是一个需要解决的不公平、不公正问题。
负责（responsibility）
我们这里的“负责”具有多种意义。一种意义是我们应负责地发展这些科技事业，这是指：其一，我们在创新和研发时必须坚持科研诚信，反对不端行为；同时在涉及到人时我们要保护作为人的受试者和其他利益攸关者，保护人类未来世代的利益，在涉及到有感受能力的动物时要关心动物的福利，在可能影响环境时要保护环境不受污染、破坏和侵蚀。另一种意义是，当发生有伤害人和破坏环境事件时，我们能够追查到何人负责，即能够问责、追责，一直到可根据相应法律规定追究责任人的法律责任（legal liability）。例如，在持续 10 年的干细胞治疗乱象期间，没有一例治疗成功，医生、医院和生物技术公司赚足亿万利润，而病人却遭受身体和经济上的重大损失，此事至今没有问责，这种情况不能重演。
透明性（transparency）
透明性是防止科研人员违反科研诚信、损害受试者和消费者身心健康或利益等不端行为的最好办法，也是进行伦理和法律治理、预防违反伦理规范和法律规定的有效办法。例如，一些学者建议建立全国注册处，将可能发生重大违反伦理规范和法律规定的科研项目或课题注册登记，便于治理者或监管者以及大众监督。
公众参与（public engagement）
“基因编辑婴儿”事件说明一点：有可能决定人类命运的重大决策（例如未来世代人的健康）却让贺建奎等少数人在实验室悄悄决定，而不顾科学共识和伦理规范；在市场的诱惑下，科学原来固有的自我校正机制已经失效。在干细胞治疗乱象的10年中，几百家医学会，唯有中华糖尿病学会发表声明，干细胞疗法必须经过临床试验证明其安全和有效才能应用于临床。因此，应该改变“科学家立项、企业出资、政府批准”的“三驾马车”决策路径，让有专业知识的人文社科学者和公众代表以及关注科技创新的民间组织参与到上游科研决策过程，加强公众对科学的理解和信任。有些对社会和人类有重大影响的研究项目和课题（例如可遗传基因组编辑临床试验）不仅需要科学共同体的共识，而且需要社会共识。
【本文作者为华中科技大学人文学院副院长、教授，华中科技大学国家治理研究院研究员】
参考文献
[1]雷瑞鹏、翟晓梅、朱伟、邱仁宗主编：《人类基因组编辑：科学、伦理学与治理》，北京：中国协和医科大学出版社，2019年。
[2]雷瑞鹏、邱仁宗：《新兴技术的伦理和治理问题》，《山东科技大学学报（社会科学版）》，2019年第4期。
[3]The British Standard Institute: Robots and Robotic Devices: Guide to Ethical Design and Application of Robots and Robotic Systems, published by BSI Standards Limited, 2016. ISBN 978 0 580 89530 2
[4]Institute of Electric and Electronic Engineers (IEEE): Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2, 2016. https://ethicsinaction.ieee.org/
[5]European Group on Ethics in Science and New Technologies: Artificial Intelligence, Robotics and ‘Autonomous’ Systems, 2018. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf
[6]翟晓梅、邱仁宗：《生命伦理学导论》，北京：清华大学出版社，2005年。
[7]翟晓梅、邱仁宗：《公共卫生伦理学》，北京：中国社会科学出版社，2016年。
责编：周素丽 / 董 楠（见习）