【摘要】数据以安全、可信且可控的方式构筑人类美好生活，这是对数据进行伦理治理的出发点与落脚点。然而，日益加速的全球数字化转型与数据伦理问题的复杂性正在引发关于伦理治理的有效性、逻辑基础与核心要义等的不断追问。从伦理治理的缘起来看，技术价值论是其得以产生的理论基础；从伦理治理的构成来看，价值观是其核心要义；从对伦理治理的反思来看，价值观是其元理论。就数字化未来而言，关于数据伦理与伦理治理的讨论最终将进入到价值观的领域，价值观是数字治理的一条基准线，价值观安全是伦理治理的重要基石与数字化未来的一个必选项，应重视价值观安全的战略意义，以价值观安全为第一原则，规范数据安全，且必须是以对人类价值观的守护为基础来规范技术安全。
【关键词】数智 数据 伦理治理 价值观安全
【中图分类号】N02 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2024.22.010
【作者简介】闫宏秀，上海交通大学科学史与科学文化研究院教授、博导。研究方向为技术哲学、设计哲学、数据伦理、技术社会学。主要著作有《技术过程的价值选择研究》、《哲学何以解码技术：技术哲学的未来路向》（论文）、《数据赋能的伦理基质》（论文）、《数字福祉：数智时代的技术广角与哲学实践》（论文）、《数据挖掘与技术伦理学的内在路径构建》（论文）等。
数据作为一种新型生产要素，是我国的基础性战略资源，其在各领域的重要性使得维护数据安全成为守护国家安全的重要保障之一。伴随数据与智能的融合，生成性、自主性、交互性、涌现性、不透明性等技术特质使得其比传统生产要素更具活力，但也更为复杂。我国对数据安全的高度重视一方面说明了数据的重要性，另一方面也意味着保护数据安全的艰巨性。《中共中央关于进一步全面深化改革、推进中国式现代化的决定》明确指出，要“推进国家安全体系和能力现代化”“提升数据安全治理监管能力”“加强科技伦理治理”。[1]伦理治理作为数智时代伦理问题与伦理难题的应对之策，就是旨在切实维护好数据安全的前提下，充分激活和释放数据要素的潜能，确保技术向善。
数据以安全、可信且可控的方式构筑人类美好生活，这是对数据进行伦理治理的出发点与落脚点。然而，日益加速的全球数字化转型与数据伦理问题的复杂性正在引发关于伦理治理的有效性、逻辑基础与核心要义等的不断追问。这种追问虽然是以伦理治理是否可以有效应对由技术带来的相关问题为缘起，但事实上直接指向了数据安全的第一原则应当是什么的问题。从总体国家安全观的视角来看，无论是维护科技安全、文化安全，还是维护网络、人工智能、数据安全等，都离不开技术与价值观的深度关联。因此，价值观安全作为意识形态安全、国家安全的重要组成部分，是数字中国建设必须密切关注的问题。
价值观作为伦理治理的一种根基性力量
有鉴于理性在人类发展史中的重要作用，如何看待理性成为一个关键性的议题。由工具理性的泛滥与价值理性的缺位导致的异化现象被视为20世纪以来备受关注的问题之一。当赫伯特·西蒙（Herbert A. Simon）发出“我们完全工具地看待理性，它不能告诉我们到哪里去，最多只能告诉我们如何去。它就像职业杀手，不管我们的目标是什么，也不论其好坏，都可以雇它来达到目标”[2]的警示时，这种危险的破解方法也随之而至，即必须高度重视价值观在人类社会中的重大意义。
技术价值论作为伦理治理产生的理论基础。回顾人类历史，伴随技术在人类社会中所产生作用的日益显著，人类关于工具理性的批判性反思也愈发迫切与深刻。与此同步的是，关于价值理性的深切呼吁也愈发高涨与普遍。20世纪以来技术哲学领域的伦理转向、治理理论与实践中的伦理转向等在充分说明了工具理性有限性的同时，再次引发了社会各界关于价值理性的关注，关于技术价值论的认同也日益提升，甚至在某种意义上，技术在价值观的形成中获得了本体论的地位，即技术作为人类社会构成的必要条件之一，为价值观提供了存在的场域，形塑着人类的价值观，且价值观可以以技术的方式体现。也正是基于此，对价值观的观照成了技术发展的一项根本任务。
近年来出现的价值敏感性设计、负责任创新、将技术道德化、伦理辅助设计、可信人工智能、数字福祉、智能向善、技术向善等倡导，不断显示着技术价值论进入实践的有效性。凯蒂·希尔顿（Katie Shilton）将帮助工程师们就对设计非常重要的社会价值观达成一致的活动称为“价值观杠杆”[3]。在关于设计的伦理反思与实践中，价值观杠杆是促成设计伦理共识的有效方式。因此，当诸如信任、公平、正义、福祉等观念以反思性、前瞻性、自上而下、自下而上等路径进入技术的全生命周期之中时，一方面说明，技术价值论具有破解技术工具论有限性的潜能，而这种潜能正在被日益释放出来；另一方面则说明，技术工具论在人类社会中的长久影响使得技术价值论必须积极探寻更为有效的概念框架与行动纲领，才能确保其有效性。
伦理治理就是这种探寻的一种。易言之，从伦理治理的产生来看，技术价值论对技术与价值关系的确认为其提供了有效的理论基础。例如，欧盟的《新兴技术伦理治理——将伦理融合技术发展和应用的新治理视角》（The Ethical Governance of Emerging Technologies-New Governance Perspectives for Integrating Ethics into Technical Development Projects and Applications，简称EGAIS）项目旨在对伦理治理进行完整的界定并将其融入欧盟的信息与通信技术研究计划中，进而使得伦理考量成为技术研发过程中固有的组成要素，确保其有效实施；[4]我国的《关于加强科技伦理治理的意见》《中国关于加强人工智能伦理治理的立场文件》《人工智能伦理治理标准化指南》等政策文件从宏观即作为整体的科学技术和微观即针对某项具体科学技术两个层级指导伦理治理。
价值观作为伦理治理构成的核心要义。伦理治理作为“一套旨在确保行为符合最高标准的流程、程序、文化和价值观”[5]，至少包含伦理作为一种治理的方式和需要对伦理治理进行反思两个维度。其中，前者侧重以伦理进行治理，后者侧重对伦理及伦理治理进行反思，后者是确保前者有效性的必要条件。
在具体的伦理治理实践中，费尔南·多利多（Fernand Doridot）将“1.如何识别与纳米技术发展相关的伦理问题”“2.我们应该根据哪些原则、规范、价值观、伦理理论等找到并确定与纳米技术发展有关的伦理问题的答案”和“3.如何实施已有的解决方案以解决与纳米技术发展相关的问题”[6]3个问题视为纳米技术伦理治理的核心议题。依据伦理治理构成的两个维度，可将问题1和问题2视为主要是对伦理即伦理治理的反思，其中，问题1主要聚焦于对伦理问题及判定依据的思考；问题2主要聚焦于对伦理治理原则的思考；将问题3视为主要是探讨如何以伦理进行治理。
与上述每个问题相对应，费尔南区分了保守模型（conservative model）、探究模型（inquiry model）和解释模型（interpretative model）三种伦理治理模型。[7]保守模型因其仅用已有的解决方案应对当下的伦理问题而遭遇质疑；探究模型因其是从技术预期中识别伦理挑战而面临与保守模型同样的问题，此外，探究方式在确定伦理原则和价值观方面的复杂性、探究过程中叙事之间的矛盾性等问题同样使得该模型遭遇质疑。基于此，费尔南认为必须厘清叙事之间、伦理规范之间发生冲突的原因，且要想超越这种冲突就必须解释其背后的价值观，即应走向解释模型。事实上，“伦理规范之间的冲突可被视为叙事之间的冲突，最终被视为价值观的冲突”[8]，因此，价值观既是破解保守模型与探究模型局限性的利器，也是判定解释模型是否有效的重要依据。
价值观作为对伦理治理进行反思的元理论。皮尔逊·布鲁姆（Pearson A. Broome）关于“伦理支配着治理全过程”[9]的判断揭示了伦理在治理中的优先级与不可或缺性。然而，对在人工智能、大数据等技术伦理治理中出现的“伦理倾销”“伦理洗地”等的指责则强烈凸显了对伦理治理进行反思的紧迫性与必要性。事实上，伦理治理作为一个长期性的全域战略，需要以对伦理治理的基准准则、问题划定的依据、实施方式的合理性等的不断追问来确保其有效性。因此，对伦理治理的反思是伦理治理的一个不可或缺的环节。
然而，该如何去反思才是有效的呢？“就价值认定对伦理学的本源意义而言，价值论似乎构成了伦理学或道德哲学的元理论（meta-theory）”[10]，那么，价值观是如何成为反思伦理治理的元理论的呢？关于此，可以从伦理治理的属性与功能两方面进行诠释。其中，属性指向了伦理治理的本质；功能指向了伦理治理的意义。
就其属性而言，伦理治理是一种人类行动。价值观对人类行动的影响虽然不能以量化的形式进行明晰的检测，但“从一定意义上说，价值观念之所以重要，正在于它对人的思想、感情、言论和行动起着普遍的整合和驱动作用。而这一功能，最重要的就在于价值观念构成了人们内心深处的评价标准系统”[11]。价值观作为经过长期积淀才形成的观念体系，一直以潜意识或者貌似无意识的方式引导与支配着人类的行动。与此相映成趣的是，对行动展开反思也常常会深入到价值观之中。基于此，对伦理治理的反思也必将需要深入价值观之中。就伦理治理的功能而言，其是作为一种规范来展开对技术的校勘，而“规范系统的建构总是以价值的确认为前提：人们首先是根据价值形态来规定行为的规范和评价的准则”[12]。因此，价值形态是建构规范形态的前提条件。这也就是说，对伦理治理的反思若没有进入对价值形态反思的阶段，就意味着反思是不彻底的。
因此，从伦理治理的缘起来看，技术价值论是其得以产生的理论基础；从伦理治理的构成来看，价值观是其核心要义；从对伦理治理的反思来看，价值观是其元理论。基于此，当价值观作为一种根基性的力量贯穿伦理治理的全过程时，意味着就伦理治理而言，价值观本身的安全将是确保其有效性的基础；就对某项技术的伦理治理而言，特别是面对新兴技术对人类的存在语境、认知方式等的全范围变革，价值观安全必将是守护技术与人性融合的基础。但这并不意味着价值观是静态的，恰恰相反，是对价值观安全提出了更高的要求。
数字化未来中的伦理治理与价值观安全意蕴
伴随全球的数字化转型，数字人、数据自我、数据世界、数据权力、数字殖民、数字鸿沟等由数智技术带来的新现象与新问题使得伦理治理成为关于数字未来规划的重要议程。数字化未来作为基于技术驱动的构想与实践，代表着人类对于技术在未来生活中产生积极意义的期冀，同时也意味着数字化转型将会对经济、社会、文化等各个方面产生深远影响。因此，数字化未来不仅立足当下，更关切未来的选择。
关于数据伦理与伦理治理的讨论最终将进入价值观领域。在欧盟、美国、中国等关于数字化未来的相关部署中充分体现出了伦理的重要性，关于数据伦理的讨论在诸多领域展开，[13]牵引着公共政策制定，数据使用必须合乎伦理被视为数据战略规划的基本要求之一。特别是在与数据相关的法律法规出台之前，数据伦理与伦理治理的“居间”作用极为关键。例如，在近几年的《通用数据保护条例》（General Data Protection Regulation，简称GDRP）谈判中，数据伦理自身通过建立一系列直接涉及数据和／或数字伦理的举措使其在泛欧洲（pan-European）政治中的势头越来越猛。[14]进一步来看，就数据立法而言，格里·哈塞尔巴赫（Gry Hasselbalch）认为，新数据保护立法的技术性问题被转化为关于大数据时代的规范和价值观的一般性讨论。[15]
从广义来看，规范是价值观的一种表征。因此，上述讨论的本质是关于价值观的讨论。易言之，关于数据伦理与伦理治理的讨论最终将进入价值观的领域。欧盟委员会2021年发布了《2030 数字罗盘：欧洲数字十年之路》（2030 Digital Compass: the European way for the Digital Decade），这是一项旨在为未来十年欧洲数字化转型指明方向的计划，在注重技术伦理的同时，还特别强调对于欧洲价值观的尊重。例如，人工智能伦理、以人为中心的算法伦理原则等被纳入其中，该计划明确要求欧盟的数字化合作应促进欧盟关于数据保护、隐私、数据流、人工智能的伦理使用等与欧盟规制和标准对齐，应构建一个安全、值得信赖的数字空间，且任何数字化政策都不是价值中立的。[16]就美国而言，数据伦理是美国数字科技伦理监管的重要议题之一。例如，美国政府的《联邦数据战略2020行动计划》（Federal Data Strategy: 2020 Action Plan）以数据、问责和透明性为关键词，将政府使用数据时要保护安全、隐私和私密性作为其十年愿景，并明确将“伦理治理”（ethical governance）置于联邦数据战略原则的首位，且将数据伦理治理作为一种组织原则和文化融入数据战略中，强调与美国价值观的一致性。[17]
习近平总书记强调，要“保障数据安全，加快建设数字中国，更好服务我国经济社会发展和人民生活改善”[18]，这为我国的数字化未来规划提供了根本遵循和行动指南。在《中华人民共和国国民经济和社会发展第十四个五年规划和 2035年远景目标纲要》《数字中国建设整体布局规划》《中共中央关于进一步全面深化改革、推进中国式现代化的决定》等一系列的重要文件中，国家安全、数据安全、治理、伦理、民生福祉、美好生活等均为高频词汇。近年来，我国围绕数字化未来所发布的《网络信息内容生态治理规定》《中华人民共和国数据安全法》《生成式人工智能服务管理暂行办法》《网络暴力信息治理规定》等一系列与技术治理相关的法律法规，都高度重视技术伦理问题与伦理治理，始终强调坚持与弘扬社会主义核心价值观的必要性与重要性。
价值观是数字治理的一条基准线，价值观安全是伦理治理的重要基石。在当下，“数字领域的潜在危害有可能盖过其益处。我们面临严重而紧迫的伦理、社会和监管问题”[19]已经成为全球性的共识，一些行业、组织、机构以及国家等正在逐渐将伦理的因素和数字化未来的政策、规划与战略相融合，以此指导技术发展和治理。
例如，国际互联网协会（Internet Society，简称ISOC）2017年发布了《通往数字化未来之路（2017）》（Paths to Our Digital Future），报告明确指出，伴随技术的加速创新及其对人类生活的影响，伦理将愈发重要，在技术的设计、发展和部署每个阶段都必须优先考虑伦理，数据安全、治理、人类价值观对技术发展的驱动作用、技术与人类价值观的契合等是通向数字化未来必须思考的问题，报告将人类价值观必须驱动技术发展和使用作为对网络未来所给出的前十条建议之首。[20]在这里，伦理治理已经以校准技术发展的方式进入到数字化未来的规划之中。
但当技术与人类价值观相契合成为通往数字化未来之路的基本要求时，一方面说明了能够对数智技术进行伦理治理的本质原因恰恰在于技术与价值观的关联性；另一方面则意味着价值观安全成为通往数字化未来的重要保障。因此，在数字化未来中，数智技术的技术特性意味着，以正确的价值观进行引导与规范，才能走向技术为人类带来福祉的目标；作为一种思想，价值观以理想、信念与信仰的方式呈现，对于技术的设计者、使用者以及相关技术政策、规范、规划等的制定者来说，价值观念和价值原则是其行动的判据。易言之，价值观安全是伦理治理的重要基石。
价值观安全是数字化未来的一个必选项。就关于数字化未来的规划而言，如联合国于2023年所发布的《我们的共同议程》政策简报5中就明确建议制定一项《全球数字契约》，为推进开放、自由、安全、以人为本的数字未来制定原则、目标和行动，这种未来以普遍人权为基础，使实现可持续发展目标成为可能。其中，对于全球数字公域而言，确保数字治理与我们的共同价值观持续保持一致是该议程的建议之一。[21]此时，若价值观是错误的、错位的或者不安全的，则将导致数字治理的方向性错误。
如历史所示，“核心价值观在一定的社会文化中是起中轴作用的”[22]。因此，在国家政策、规划与战略等的制定中，价值观安全也一直是一个极为重要的议题。例如，英国政府2021年发布了《竞争时代的“全球化英国”：安全、国防、发展和外交政策综合评估》（Global Britain in a Competitive Age: the Integrated Review of Security, Defence, Development and Foreign Policy），文件明确指出，在国际秩序中，各国在价值观方面的竞争不断加剧，要在开放社会和民主价值观受到破坏的地方加大保护力度，在国际合作中确保其国家安全和价值观免受他方的侵害等。[23]特别是在全球数字化转型的进程中，当数据共享共治为价值观的传播与融合提供了更为便捷且高效的技术路径的同时，也意味着价值观的安全更易受到冲击。因此，价值观安全是数字化未来的一个必选项。
数智时代的价值观安全维护
在数智时代，数智技术以一种无形充斥的方式造设着人类的生存空间，被数据环绕的人类在数据的生产与流通中呈现出自身的生命轨迹与意义，悄然开启了人的本质的数智化之旅。在某种意义上，可以说数智技术以隐匿的方式通向并完成着人自身的根本规定。这种现象可以称之为技术的“隐匿性”。回顾人类发展的历史，技术之力的巨大作用毋庸置疑。虽然技术作为一种基础设施，是构成数智时代必不可少的要素，但人类的特质恰恰在于人具有价值属性，而并非仅仅是技术，即，人是“技术性与价值性二重本质的共在”[24]。价值观作为一种根基性的力量扎根于人类深处，即价值观的“深层性”。也正是这种深层性使其不安全问题易被遮蔽，一旦出现问题，危害极大。因此，必须高度重视数智时代的价值观安全。
重视价值观安全的战略意义：从伦理治理到价值话语体系的竞争。就全球数字化转型而言，数据伦理作为数字时代的行动指南，是人类适应数字化转型的生存法则。该指南既可源自学界关于现实问题的关注和学科自身发展的内在需求，也可源自行业或企业自身发展的需求、用户对自身权利的保障、政府对数字化转型战略与规划的部署等。基于此，数据伦理治理作为数据伦理的一部分已经成为一种竞争力；就国际治理而言，伦理治理是其重要的组成部分；就人类发展而言，对技术的伦理治理是确保人类通向美好生活的目标得以实现的基本保障，而价值观作为伦理治理的一种根基性力量，其安全性问题是确保伦理治理有效性的关键。
“掌握价值观念领域的主动权、主导权、话语权，是我们必须解决好的重大问题。”[25]数字化作为当下全球各国角逐的重要领域，构建面向数智时代的价值话语体系是我国参与国际治理的一条有效途径，而这种构建必须基于对数智时代价值观安全问题的研究，且必须以维护价值观安全为底线。
因此，数智时代的价值观安全作为数字化发展转型中的非传统安全观与维护社会稳定的新要素，既是数智技术发展的锚定桩与哲学对时代问题的应有之思、对人类本质及其未来探究的必要条件，更是我国在全球数字化转型中应对复杂安全形势、保有自身特色与为全球数据治理贡献中国智慧的根本保障。那么，该如何维护数智时代的价值观安全呢？关于此问题的回答，可以通过对数据安全与价值观安全关系的厘清、数智时代价值观安全问题的解码来展开。
厘清数据安全与价值观安全的逻辑关系，筑牢数智时代的价值观安全意识。厘清数据安全与价值观安全的逻辑关系是有效落实《数字中国建设整体布局规划》与总体国家安全观的应有之义。毫无疑问，没有数据安全就没有国家安全。在20世纪末，尼古拉斯·尼葛洛庞帝（Nicholas Negroponte）在其关于数字化的分析中强调，“正是因为数字化的本质，数字世界应该比模拟世界安全得多，但是前提是我们必须把它变得安全，我们必须有意识地塑造一个安全的数字化环境”[26]。易言之，安全意识是数字化生存的第一要务。在我国出台的一系列文件与规划中，“确保公共数据安全”[27]“加强数据安全评估，推动数据跨境安全有序流动”[28]“加强数据安全保障”[29]“提高网络、数据等安全保障能力”[30]“提升数据安全治理监管能力”[31]等要求充分说明了我国对数据安全的高度重视。然而，更值得注意的是，“历史和现实都表明：核心价值观是一个国家的重要稳定器”[32]。因此，必须走出关于技术中立论与技术工具论的认知误区，在充分理解技术价值论的基础上，确立数智时代的价值观安全意识，确保技术向善。
事实上，技术向善至少蕴含了如下三层思想。其一，技术应该向善。在现实生活中，技术“为恶”的可能性已经暴露出来，特别是数智技术作为数据与智能的汇聚，其所产生的效应将会放大技术产生的结果。在这种情形中，技术中立论无法成立，技术工具论因技术结果的恶而被质疑。其二，技术可能也可以向善。但这需要以在关于技术的顶层设计中摒弃技术中立论与技术工具论、并坚持技术价值论为前提条件。特别是技术工具论，因为技术被人类认可的首要原因是其工具属性。然而，数智技术的特点恰恰又在于技术作为工具之外的价值导向。例如，当今智能手机以技术化的方式引导着人类的行为、潜移默化地影响着人类的价值观与对自我的认知等；算法推荐，信息茧房等以隐匿的形式完成了对人类行为的规范、引导、劝说甚或预设。其三，就数智时代而言，技术向善本身并非仅仅是指善意地采集与使用数据，还需数据提供者或生产者提供高质量的数据，即如何确保数据来源的“善”。价值观安全意识必须贯穿数据的全生命周期。
依据技术价值论，技术与价值观的交汇与交融通过两种方式得以实现，一是对技术进行价值审视；二是价值观本身作为一个要素被纳入技术发展的全过程之中。就数智技术而言，当价值观出现错位时，数智技术的高效率将放大技术结果。同理，价值观作为人类行动的指南针，与数智技术相关群体的价值观塑造将以强化数据安全意识的方式完成，进而确保技术层面的数据安全。对技术的负面效应进行技术防范、控制以及制度层面的规约，只能解决表层问题，更为深层的解决方案则在于价值观的转换。因此，应以价值观安全为第一原则，规范数据安全。
解码数智时代价值观安全问题的缘起及其表征，探寻维护价值观安全的着力点。从数据智能对人类的思维模式、认知路径、评价基准与存在方式等的全范围深度渗透来看，人类的价值观在形成与存在场域、价值主体、价值选择的多样性、形成机制与形成理路[33]四个方面出现了巨大的变化。场域的数字化、价值主体思考的数据化、数智技术及其产品的准主体化、数据智能生成与涌现的超预期化等将价值观安全置于一种全新的境遇之中。基于此，数智时代的价值观安全问题可从如下三个方面进行剖析。
其一，价值观与数智技术的不兼容性带来的价值观安全问题。长期以来，关于价值观与新兴技术之间的关系一直是学界关注的重要问题。特别是传统价值观如何与新兴技术有效融入的问题，该问题是跨越时间、跨越学科的对话与碰撞，极具挑战性。新技术的出现常常会引发价值观的更新迭代。在这种更新迭代中的价值观真空、价值观撕裂甚或断裂、价值观混乱等现象均为价值观不安全的现实反映。关于技术、现代性与价值观问题的热议就是一个典型的案例。数智技术也是如此，且因数据在人类社会中的重要作用而使得维护价值观安全的任务更为复杂与艰巨。2023年6月，在我国召开的世界互联网大会数字文明尼山对话就是旨在解决中国传统智慧与新兴技术的碰撞与交融问题。事实上，在尚未形成与数字化转型相契合的价值观之前，中国传统价值观和现有价值观体系如何应对数智技术的风险、促进数智技术健康发展是我国数字化转型的必答题。此外，还有一种兼容性问题是基于技术有自主性的观点而产生的，如在数智技术将人类智能与机器智能进行融合的过程中，人类价值观与技术（机器）价值观之间的对齐、数据智能价值对齐的顶层逻辑与底层逻辑之间的融贯性等问题。
其二，数智技术对价值观影响的认知不足引发的价值观安全问题。恰如梅格·丽塔·琼斯（Meg Leta Jones）所分析的那样，“全球的政策制定者正在被敦促对数字化记忆的危险给出一个系统的回应，这种危险是将技术进步的不确定性、混乱的规则和有分歧的价值观包含在内的一种复杂危险”[34]。上述危险仅围绕数字化记忆展开，当今数智技术的泛在性更是敦促着社会各界对数智技术产生的影响进行系统回应。这种回应需要以对该技术所产生影响的充分认知为基础。就对价值观的影响而言，从价值观的存在场域来看，数字化转型的虚实交融改变着人类的生存空间、生存方式与交往方式等，进而使价值观安全从物理场域走向虚实融合的场域，如元宇宙场景、数字孪生等。易言之，维护价值观安全需要基于虚与实两个场域。从价值观的生成方式来看，传统价值观安全问题主要是在人与人、人与自然之间的实体性交互过程，但在数字化未来之中，人人交互、人机交互、机机交互三种方式共在，特别是人与人之间的实体性交互将因存在场域与世界构成方式的变换而走向实体变相“隐退”的多元生成式交互，进而带来生成过程中的技术性隐匿与人类主体的“隐退”现象。这种“隐退”恰恰既是数智技术对价值观影响极为关键且与以往技术极为不同的方面，也是价值观安全问题最容易被忽略且极难被察觉的原因所在。因此，需要继续深究数智技术对价值观的影响才能有效维护数智时代的价值观安全。
其三，价值观安全在数智时代的呈现新方式、新表征与面临的新问题。以技术的方式呈现价值观的方式并非仅仅出现在数智时代，但诸如大模型的“幻觉”“越狱”等则以更为独特的方式引发了价值观安全问题。回看2023年3月，斯坦福大学米哈尔·科辛斯基（Michal Kosinski）曝光的GPT-4“逃跑计划”、英伟达科学家吉姆·范（Jim Fan）所经历的“TweetStorm行动”[35]等虽然确实是因技术的安全隐患造成了价值观的不安全，但在这些事件的背后却暗含了价值观安全表征形式的转换，即价值观的安全问题不再囿于思想观念的形式，而是以技术形成机制的形式予以呈现，虽然诸如预训练、精调、提示词等可以以价值观前置的形式实现技术全生命周期中的初次价值观安全，但机机对齐的逻辑并不一定能确保价值观的持续安全。即，数据智能化的自主性趋势使得价值观安全逐渐走向被技术包裹。例如，当生成对抗网络（Generative Adversarial Network，简称GAN）将生成器与判别器集于一体时，虽然存在稳定性与收敛性方面的问题，这种“左右互搏术”却极有可能以技术的闭环走向价值对齐。那么此时，人处于技术环路之外，价值观安全又该如何维护呢？
回望米歇尔·福柯（Michel Foucault）在《词与物：人文科学的考古学》一书中最后一句话的预判，“人将被抹去，如同大海边沙地上的一张脸”[36]，在数智时代，伴随数据的日趋智能化与技术的拟人化或曰准主体性，人的地位、人的价值、人的本质等不仅仅是经典的哲学问题，更是当下人类的现实困惑。关于技术安全的高度关注与关于人类未来的深深担忧如影随形。因此，价值观安全的维护必须以对人类价值观的守护为基础来规范技术安全。若不如此，必将引发人类自身最大的不安全。
（本文系教育部哲学社会科学研究重大课题攻关项目“数字化未来与数据伦理的哲学基础研究”和上海市哲学社会科学规划项目“数智时代的价值对齐研究”的阶段性研究成果，项目编号分别为：23JZD005、2023BZX001）
注释
[1][31]《中共中央关于进一步全面深化改革 推进中国式现代化的决定》，2024年7月21日，http://www.qstheory.cn/yaowen/2024-07/21/c_1130182461.htm。
[2]赫伯特·西蒙：《人类活动中的理性》，胡怀国、冯科译，桂林：广西人民出版社，2016年，第9页。
[3]K. Shilton, “Values Levers: Building Ethics into Design,“ Science, Technology, & Human Values, 2013, 38(3).
[4]EU, “The Ethical Governance of Emerging Technologies-New Governance Perspectives for Integrating Ethics into Technical Development Projects and Applications,“ 29 February 2012, https://cordis.europa.eu/project/id/230291/reporting.
[5]A. F. T. Winfield and M. Jirotka, "Ethical Governance Is Essential to Building Trust in Robotics and Artificial Intelligence Systems," Philosophica Transactions of the Royal Society a Mathematical, Physical and Engineeering Sciences, 2018, 376(2133).
[6][8]F. Doridot, "Three Models for Ethical Governance of Nanotechnology and Position of EGAIS' Ideas Within the Field," in Ethical Governance of Emerging Technologies Development, edited by F. Doridot et al., Hershey, PA: IGI Global, 2013, p. 102, 112.
[7]保守模型将纳米技术所引发的有关伦理问题视为并非新的问题，即使是新的，已有的一系列原则、规范和伦理价值观也足以解决这些问题。即，以保守的方式识别与应对新兴技术伦理问题；探究模型则认为传统的研究已经不再能有效应对当下的问题，需要以更加具体的方式——探究技术伦理问题的识别、探寻解决伦理问题的原则、规范和价值观；解释模型是前两个模型在另一种模式上的延续。See F. Doridot, "Three Models for Ethical Governance of Nanotechnology and Position of EGAIS' Ideas within the Field," in Ethical Governance of Emerging Technologies Development, edited by F. Doridot et al., Hershey, PA: IGI Global, 2013, pp. 101-119.
[9]P. A. Broome, An Ethical Turn in Governance: The Call for a New Development Narrative, Lanham: Lexington Books, 2021, p. 59.
[10][12]杨国荣：《伦理与存在：道德哲学研究》，北京大学出版社，2020年，第83、83页。
[11]李德顺：《价值论》，北京：中国人民大学出版社，2007年，第222页。
[13]依据伊娃·埃尔曼和马库斯福·伦达尔关于人工智能伦理与人工智能治理关系的解读，从人工智能治理与规范问题相关的视角将人工智能治理视为广义人工智能伦理的一个子领域。See E. Erman and M. Furendal, “Artificial Intelligence and the Political Legitimacy of Global Governance,“ Political Studies, 2024, 72(2). 因此，可将数据伦理治理视为数据伦理的一部分。
[14][15]G. Hasselbalch, “Making sense of data ethics. The powers behind the data ethics debate in European policymaking,“ Internet Policy Review, 2019, 8(2).
[16]EU, “2030 Digital Compass: The European Way for the Digital Decade,“ 9 March 2021, https://eufordigital.eu/library/2030-digital-compass-the-european-way-for-the-digital-decade/.
[17]Federal CDO Council, President's Management Agenda: Federal Data Strategy 2020 Action Plan, 14 May 2020, https://strategy.data.gov/assets/docs/2020-federal-data-strategy-action-plan.pdf.
[18]习近平：《论科技自立自强》，北京：中央文献出版社，2023年，第178页。
[19]联合国：《我们的共同议程》，2021年9月10日，https://www.un.org/zh/content/common-agenda-report/assets/pdf/common_agenda_report_zh.pdf。
[20]Internet Society, Paths to Our Digital Future, 20 December 2022, https://www.internetsociety.org/wp-content/uploads/2022/12/2017-Internet-Society-Global-Internet-Report-Paths-to-Our-Digital-Future.pdf.
[21]联合国：《〈我们共同的议程〉政策简报5：全球数字契约——为所有人创造开放、自由、安全的数字未来》，2023年5月15日，https://www.un.org/sites/un2.un.org/files/our-common-agenda-policy-brief-gobal-digi-compact-zh.pdf。
[22]《习近平总书记系列重要讲话读本（2016年版）》，北京：学习出版社、人民出版社，2016年，第189页。
[23]《竞争时代的“全球化英国”：安全、国防、发展和外交政策综合评估》，2021年3月16日，https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/999098/03335-CO-Integrated-Review-Foreword-and-Overview-FINAL-CHINESE-WEB-DISPLAYABLE-PDF.pdf。
[24]闫宏秀：《技术过程的价值选择研究》，上海人民出版社，2015年，第94页。
[25][32]习近平：《论党的宣传思想工作》，北京：中央文献出版社，2020年，第54、54页。
[26]尼古拉斯·尼葛洛庞帝：《数字化生存》，胡泳、范海燕译，北京：电子工业出版社，2017年，第234页。
[27][28]《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》，北京：人民出版社，2021年，第50、52页。
[29]《十七部门关于印发〈“数据要素×”三年行动计划（2024—2026年）〉的通知》，2024年1月5日，https://www.cac.gov.cn/2024-01/05/c_1706119078060945.htm。
[30]《政府工作报告——2024年3月5日在第十四届全国人民代表大会第二次会议上》，2024年3月12日，http://www.qstheory.cn/yaowen/2024-03/12/c_1130088523.htm。
[33]参见闫宏秀：《数字中国的三重价值意蕴及其彰显路径》，《人民论坛·学术前沿》，2022年第22期。
[34]M. L. Jones, Ctrl + Z : The Right to Be Forgotten, New York University Press, 2016, p. 2.
[35]参见钱童心：《GPT“逃跑计划”曝光还想接管推特？创始人称AI仍非常受控》，2023年3月20日，https://m.yicai.com/news/101706070.html。
[36]米歇尔·福柯：《词与物：人文科学的考古学》，莫伟民译，上海三联书店，2016年，第392页。
责 编∕李思琪 美 编∕梁丽琛
Values Security in the Age of Digital Intelligence: An Investigation Based on Ethical Governance
Yan Hongxiu
Abstract: Data builds a better life for human beings in a safe, reliable and controllable way, which is the starting point and end point of data ethical governance. However, the acceleration of global digital transformation and the complexity of data ethical issues are leading to continuous questioning about the effectiveness, logical basis and core meaning of ethical governance. From the origin of ethical governance, the theory of technical value is its theoretical basis; From the perspective of the composition of ethical governance, values are its core; From the reflection of ethical governance, values are its meta-theory. As far as the digital future is concerned, the discussion on data ethics and ethical governance will eventually enter the field of values. Values are a baseline of digital governance, and values security is an important cornerstone of ethical governance and a necessary option in the digital future. It is necessary to attach importance to the strategic significance of values security, take values security as the first principle, and regulate data security. And technological security must be regulated on the basis of safeguarding human values.
Keywords: digital intelligence, data, ethical governance, values security
