段伟文颠覆性科技创新需要顾及社会和伦理丨告别2021提问思想者

　　【编者按】告别2021，世界已进入后疫情时代。这一年我们送走了哪些社会和文化遗产，将迎来哪些挑战和变革？界面新闻邀请多位来自历史学、经济学、社会学等学科的思想者，一起分享他们的洞见与发现。本期嘉宾为中国社科院哲学所研究员段伟文。
　　界面新闻特约记者：花木僧
　　段伟文是中国社科院哲学所的研究员，中国社科院大学教授、博导，享受国务院特殊津贴专家。他的主要研究领域是科技哲学、科技伦理、信息与智能的社会和伦理等问题。他最近出版的著作有《信息文明的伦理基础》(2020)、《可接受的科学：当代科学基础的反思》(2014)等。
　　段伟文尤其关注人脸识别。他认为建立在人脸识别等技术系统的部署之上的数字人格，实质上已然成为一种脱离个人的主体掌控能力的存在，除非在制度上建立起一套严格的监管与治理体系，使人脸识别技术的应用遵循必要、正当、合理等每个人可以接受的朴素且普遍的价值诉求，否则，刷脸时代高喊＂我的数据我做主＂无异于梦呓。
　　他把自己定义为＂不同领域的思想联结者＂，这一身份得以让他对很多实践问题给出一套更形而上的解决方案，比如就创新而言，他认为，颠覆性创新发展到一定阶段要顾及社会的接受和许可，进行必要的伦理回调；就防控而言，他借用《韧性社会》一书的观点表示，有时稳健性并不是最好的前进方式，韧性更能够经受住风暴并更易恢复，因此，面对疫情挑战，应该使各项政策赋予包括企业和个人在内的整个社会更大的韧性。以下是他的分享。
　　界面新闻：您手头正在研究的项目是什么？简单说说这项研究的意义和成果？
　　段伟文：我当前的研究主题是智能科技的社会伦理影响与深度科技化时代的前景，这项研究既有深度的哲学与伦理考量，也有具体的伦理治理实践。在理论层面，它主要延续了近年来对人工智能和大数据的哲学和伦理问题的探讨，特别是关注人脸识别的伦理问题。在我看来，人脸识别技术的出现从根本上颠覆了人脸在传统物理时空的内涵，不仅使其成为跨越物理时空和信息空间的可流动和自动处理的数据，而且在很大程度上演变为与人的身份相关的具有唯一性的数字人格。而建立在人脸识别等技术系统的部署之上的数字人格，实质上已然成为一种脱离个人的主体掌控能力的存在。除非在制度上建立起一套严格的监管与治理体系，使人脸识别技术的应用遵循必要、正当、合理等每个人可以接受的、朴素且普遍的价值诉求，否则刷脸时代高喊＂我的数据我做主＂无异于梦呓。
　　由此，我对数据凝视和智能监测下的软生命政治进行了哲学思考。我认为，数据就是每个人的特征和行为，各种传感器和应用程序使人的身份、轨迹和行为转换为数字痕迹和数据纪录，随时随地可能成为数据分析的对象，使人们在数据聚光灯的凝视下受到各种测量、评估、引导和操控。正是在各种有形与无形的数据凝视下，产生了一种新的对人的治理方式，即通过隐藏的智能化数据监测和分析调制人的行为的软生命政治。这令我进一步想到，数据正在成为人的新的皮肤，其中有些不那么好或有嫌疑的数据甚至会变成难以消除的数据疤痕；甚至可以说数据会像人体中的微生物一般，不断积累，伴随一生。
　　在实践层面，通过与媒体、企业、政府的沟通接触，我深切体会到，以人工智能为代表的深度科技化发展，正在使得科技的社会、伦理和法律研究成为所有人文社会科学的前沿焦点，甚至技术哲学都不再只是科技哲学及哲学学科关注的领域。也正是因为如此，哲学家应该积极地拥抱科技时代赋予的、成为不同领域的思想联结者的机遇。更重要的是，我从成为思想联结者的挑战中获得了很多实践的智慧。例如，我在20多年前就提出过科技伦理软着陆机制的概念，最近不仅得到了来自科技企业和管理部门的正面反馈，还促使我深化了对科技伦理治理的认知。一方面，颠覆性创新发展到一定阶段要顾及社会的接受和许可，进行必要的伦理回调。另一方面，科技伦理治理是一个开放的过程，要致力于寻求创造性的中间创新方案，避免过于灵活与严苛，为颠覆性创新构筑必要的保护空间。
　　界面新闻：新冠疫情让我们重新思考人与自然的关系。关于全球变暖、新能源、病毒与人类的关系等议题，您可否选一个方面谈谈自己的看法和预测未来三年的变化？
　　段伟文：长远来讲应该从人类健康、生命健康和生态健康等一体健康的维度寻求治本之道。对此，法国哲学家米歇尔.塞尔在《在生地法则》一书中指出，人类不应陷入因相互对立的人类群体之间的政治文化冲突引起的＂两人游戏＂的无谓争斗之中，而必须意识到自然这一强大的第三方力量的存在，要警惕在人类貌似具有改变地球力量的所谓人类世被来自永恒的自然力量的逆袭打得措手不及。
　　此外，作为2021年《金融时报》年度最佳经济学读物之一的《韧性社会》（The Resilient Society）一书的观点也颇有借鉴价值。该书指出，面对巨大的风险，有时稳健性并不是最好的前进方式，韧性更能够经受住风暴并更易恢复。书中引用了拉封丹（Jean de La Fontaine）诗歌中橡树和芦苇的隐喻，主张疫情冲击下的人类社会应该像＂我弯曲，但不折断＂的芦苇那样，更具韧性。在我看来，这一观念对包括数字治理在内的政策的启发是：面对疫情的挑战，应该使各项政策赋予包括企业和个人在内的整个社会更大的韧性。
　　界面新闻：技术给人类的生活和工作造成了很多冲击。大数据、人工智能、在家办公、互联网垄断平台等等，给您的研究、学习和教学带来哪些具体的冲击，对知识的传承会带来哪些长远影响？
　　段伟文：从去年疫情以来，视频会议、线上讲座的兴起，使学术交流和知识传播方式发生了很大变化，有时候甚至视频会议和直播成为默认的选项。2021年上半年，我办了一个技术哲学导论的线上系列课程，每次都有两三百人来听，各种专业，各个学校的，我觉得效果也还是非常好。但是，我也反省，这种传播方式，会带来一些热闹，但距离真正展开深度的沟通和互动还有很大的努力空间。此外，人工智能特别是情感人工智能的发展正在成为一种新的评价和治理工具。从人脸识别进教室到智慧城市具有情绪感认知功能的传感网络，不仅会让人们丧失精神隐私，还可能从根本上剥夺人们独处、静思和自省的空间，甚至失去自我纠错的可能。值得每个人深思的是，就像越来越多的出租车司机被导航牵着鼻子走一样，人工智能会不会导致人类沦为机器智能引导下的没有灵魂的木偶。
　　界面新闻：推荐一两本您最近在看的书，说说它的价值和意义？
　　段伟文：我想推荐当代媒介理论家道格拉斯.罗西科夫(Douglas Rushkoff)的《人类团队》（Team Human）这本书。它延续了作者在《理解增长》等书中对数字时代的人类关怀。全书是一部由一百个段落构成的宣言，精辟地表达了对数字时代文明和人性的最紧迫问题的思考。作者指出，当下的技术嵌入了一种反人类的破坏性力量，要扭转这一困境，首先要承认人类只有团结为一个团队才能使人性得以维护。书中一针见血地指出，人工智能发展的长期危险不是我们的工作会被机器人取代。真正的威胁是我们将失去人性，人被嵌入机器人的价值体系，机器人反过来又把它们的价值强加给我们。这本书的价值在于提醒人们，在人工智能时代要看到人类智能其实始终是整体的智能生态的主导者，科技的发展不应以贬低和消除人的智能为前提，要超越相信机器最终会替代人类的数字乌托邦主义者对科技社会与人类未来的想象，让每个人从人类的福祉和美好生活出发，构想和创造人们想要的科技未来。在我看来，这本书与那些在不同程度上贬低人类价值的后人类思想的根本差异在于，它不仅摆脱了西方文化中人类肉身缺陷的陈见，而且没有被机器是人类进化的后裔等＂后＂思想方式带到沟里。
　　界面新闻：请谈谈最近打动您的一部电影，或者电视剧？谈谈它提出了哪些思考和问题。
　　段伟文：2021年7月，我参加了博古睿研究院组织的＂30年后的人类社会＂研讨会，其间观看根据波兰科幻、哲学、未来学作家斯坦尼斯拉夫·莱姆的短篇小说改编的科幻动画片《未来学大会》（The Congress (2013)）。说实话我看得似懂非懂，但它让我想到人类的未来不应该太虚幻。不论游戏世界、虚拟现实和所谓元宇宙多么美妙，我还是坚持认为，如果人类文明走向亦真亦幻的未来，这将是个悲剧。许多脱实向虚的未来观念，是提倡灵魂脱离有缺陷的肉体而获得永生的诺替斯主义（Gnosticism）的翻版。在拉康讲的现实界、符号界、想象界中，我认为现实界还是第一位的。一旦脱离真实的边界，人类的文明就会陷入亦真亦幻。而且应该注意的是，或许那些有资源的人可以这样去生活，而对那些资源比较少，处于不利地位的脆弱群体而言，逃避现实或许是其生命难以承受之轻。
　　相关阅读：
　　马吉：跨国公司是诸多全球问题的症结，而规制仍是真空丨告别2021·提问思想者⑧
　　施展：我关心中国的边疆走廊，以及元宇宙秩序丨告别2021·提问思想者⑦
　　张曦：在无意义的宇宙中寻找人生＂值得一过＂的理由 告别2021·提问思想者⑥
　　黄冬娅：平台企业的兴起改变了中国的政商结构 告别2021·提问思想者⑤
　　梁捷：老龄化和AI将如何改变人们的工作与生活丨告别2021·提问思想者④
　　聂辉华：在元宇宙里，大企业和主权国家能和平共处吗？| 告别2021·提问思想者③
　　罗新：历史学如何介入不平等与后真相等当代议题 告别2021·提问思想者②
　　马勇：打捞将失未失的故事 告别2021·提问思想者①