孙萍

中国社科院新闻与传播研究所副研究员

(资料图片仅供参考)

周妮娜

Thoughtworks

中国区社会影响力和可持续发展负责人

故事01它发生在 2020 年的 10 月份， 一位 61 岁的黄姓女士在短视频平台中认识了一个自称为靳东的一个账号，并多次在他的账号上面购买东西、打款，甚至最后离家出走，声称靳东要跟自己结婚。事情一出，舆情哗然，这也就是后续震惊全国的“假靳东事件”。基于这一事件的演化，我们发现在这个时代下，有一群中老年女性的情感需求是被极大忽视的，同时，她们的数字素养也远远没有网络诈骗走得快。

故事022021 年 2 月的湖南长沙，一个女孩子要搬家，于是她找到了一家搬家平台，在登上货运卡车之后，地图多次提示司机的路线出现问题，这引起了她的警觉。悲剧的是，在没有和司机师傅商量的情况下，她选择了跳车，最终不幸身亡。这一事件，用公安部门在其后的调查报告当中的一句话来概括——其实是两个生活不易的人相互毁灭的故事。

故事 03最后的故事其实离我们很近，在去年北京第 269 场新冠疫情发布会中，有一名阳性打工人的流调数据与工作轨迹被公布。在他的 14 天当中，这名打工人在北京流转了多达 31 处，其中绝大部分都是打零工的地方，只有一个地点多次频繁地出现——是他经常买馒头的地方。这个事情也让我们看到，在疫情下，个体的生活轨迹被披露，他们的生活，有着诸多的不易与艰辛。

这三个故事其实有着同一特点——都有着技术的密切参与。技术在其中的表现可能是社交媒体，可能是某一数字平台，也可能是与社会治理、数据追踪相关。基于此，一个值得我们深思的问题便是：在数字技术飞速发展的今天，技术到底是增强了社会的公平性，还是加剧了其不公平？

孙萍

技术为我们塑造的社会为什么会变成这样？在当今的社会发展当中，其实出现了很多技术发展的困局，这些困局表现在方方面面：比如在制造行业中，“机器替代人工”正在成为一个现实，很多工人可能在不久的将来即会被机器人所取代，如果取代确实发生，这群人应该怎么办？又比如，我们现在借由数字技术所产生的消费内容变得愈发多元。ta 们正在用一万种方式掏空你的口袋，在这一语境下，我们又应怎么去想象技术在其中扮演的角色？

这些年，大家的生活越来越「避实向虚」，大家在逃离工厂，尤其是在农村县域当中有很多的年轻人正在拥抱零工经济，加入零工大军。无论是快递、网约车、家政工亦或是外卖，他们已经和传统认知中的工厂工人完全不同；与此同时，微信等虚拟社交正在占据人们生活中的很多面相。我们每天在微信上的平均时长已经超过了 4 小时，甚至有很多人在微信的时长超过 12 小时。人们在社交媒体中耗费了很大的精力。于是，在这之后，人们可能会选择躺平，或是变得佛系。

技术的蓬勃发展可能会给我们带来明显的经济效益，可能会为我们描绘一个伟大的未来蓝图，但是它也在同时让两类人群变得越来越无所适从——「结构化弃民」与「系统性难民」。

结构化弃民指无法跟上技术的狂飙发展而最终可能被落下和遗忘的人群，技术鸿沟是其主导原因。这类群体可能包括老年人、视障人群，乡村中的女性... 他们所经历的巨大技术鸿沟是游走在数字产品中的我们是无法想象的。

系统性难民则是更加广泛的“我们”，因为技术的快速渗透而深陷其中无法走出困局的人，它指向智能技术形成的人—机交流失序问题。例如，困在社交媒体当中的“我们”，工作和生活无法分开的“我们”，打游戏成瘾的“我们”，或者是被算法困住而受到性别歧视、种族差异的“我们”...

周妮娜

技术是知识的体现也是权力的体现，强者拥有了技术会获得快速的进步和成功，当积累优势产生倍增效应后，弱者几乎难以追赶。

技术加剧社会不公的例子还有很多，有一篇海外的新闻报道曾经引发很大讨论，让人印象深刻——华盛顿邮报曾与两家语言研究公司合作研究智能音箱的口音问题，发现以非英文作为母语的人说英文被Google Home 和Amazon Echo识别出的几率很低，生活在美国的亚裔和拉丁裔因此感受到不公平的对待；然而有趣的是，印度族群所说的英文的识别率非常高，这是因为许多工程师来自印度，且在开发产品时与智能语音助理频繁对话而保证了语音训练模型的准确度。在多种族的国家，产品团队会更加关注建设多元化的开发团队来避免不公平的现象和可能的系统性歧视。

还记得2018年第一次读与算法相关的书《算法霸权》，书中描述了大量案例，包括算法如何统治华尔街以及一个个算法模型如何影响我们的日常生活——从上学、贷款买车买房、健康监控再到警察局的犯罪预测等等，这些模型算法被作者称之为数学杀伤型武器。数学杀伤型武器更倾向于效率，本质上，它建基于可测量和可计算的数据；但公平是模糊和抽象的概念，它难以量化。

结合前面的三个小故事，更进一步说，数学杀伤型武器的结论反映的更是：在技术飞速发展并推动进步的同时，技术和伦理道德陷入了两难困境，伦理困境可能循环并贯穿融入在技术创新的整个过程中。

算法的自动化、智能化的优势极大提高了效率，在企业的转型和产业升级中证明了它的价值优势。但是，当算法与我们的日常生活深度融合起来，人似乎又被困在了万物皆数的世界里，引发了更多的风险和问题。

孙萍

在 2020 年的 9 月份，人物杂志推出了一篇文章叫做。文章中的一部分数据来自于我们的田野观察。在这篇文章中，我们想探究一个核心的问题是——当技术嵌入至人们的劳动生活之后，它究竟对人的主体性产生了何种影响？

外卖骑手为什么越跑越快，与平台算法机制有什么样的关系？我们的调研发现，在这其中确实存在着非常强的数据算法体系与算法再生长，它是一个智能算法和升级迭代的过程（master algorithm）。

调研过程发现，在过去几年间，外卖骑手的配送时间由 60 分钟缩减到 50 分钟，40 分钟，再到如今平台中外卖骑手送餐的平均时间仅有 29 分钟，这与其背后的算法体系设置有着千丝万缕的关系。举个简单的例子，如果一个单子的送达时间是 40 分钟，骑手为了避免超时，通常会会提前几分钟送达，伴随着大量的数据被收集起来，通过算法分析，发现原来骑手可以平均38 分钟之内送到，它可能会自动的把时间再缩到 38分钟，如此循环往复。这其中存在着「最严算法」与「取中算法」的问题，也涉及到算法自身的价值偏向问题。

周妮娜

Thoughtworks也有一个更加全局的视角来看待这些算法带来的问题，因为算法背后的决策和影响因素也非常复杂。去年，我们中国区的研究团队在开发报告的过程中，有一个关于“偏见如何贯穿于算法应用的生命周期”的分议题，大多数人会认可算法的局限性在于无法完全体现人的价值，这个生命周期的全景图恰好向我们展示了数据或者算法如何走向可能的异化。

我们把横向的生命周期过程简单分成确定业务目标、数据搜集到标注、算法开发、数据训练等到最后的验证与迭代反馈的环节。在每一个细分环节上，外部环境、技术和人的多层因素都会成为影响因子，这些因子不但包括了技术本身的局限性，更包括了地缘政治风险、不可预测的市场因素或者基础设施的成熟度等，也包括了多层级使用者和产品决策者的人为的无意识偏见。而让偏见在这些横向和纵向因子中层层递进，而最终可能让正向价值极大地偏离了轨道。这张图从另一个侧面说明了技术或者算法并不像大多技术工作者所以为的“是中立”的，最多只能证明数据还算是中立。

偏见贯穿于算法应用的生命周期，摘自2022年Thoughworks出版的《负责任技术的破局之道》

技术创新对于环境的依赖非常强，影响企业技术创新的不同风险之间存在着环环相扣、难以分离的状态，一种风险既可以是下一个风险的原因，也可能是上一个风险的结果，这些环环相扣的现象呈现出了高度的系统性。

孙萍

经由技术所产生的多样化表征，社会中出现了非常多有趣的议题：信息的检查，算法的黑箱，数据的歧视，隐私的泄露，价值的偏离... 对我们来讲，最重要的是要看到在技术狂飙的时代其中存在诸多的系统性风险。

其中可能有着各种各样的表现方式，最主要的是数据来源问题。例如， ChatGPT ，如果大家与它聊过天，你会发现它在英文语境中回答的逻辑性比中文好的多。何以造成这一现象？与训练模型本身的数据来源有着至关重要的联系。ChatGPT 中的非英语类的语言，包括中文、西班牙语或者是其他语系，只占其整个系统的 20%。而英语占到80%。不难发现，人工智能吸取了什么样的数据，既有数据的社会结构偏移便会嵌入到其算法当中去。技术本身是一种物理性的设置，但与此同时，它也是一种文化，是一种社会的权力关系。

作为企业，我们应如何看到技术的力量，如何在本土实践当中正确运用技术。在国际社会中，有着非常之多的优秀案例，例如谷歌、微软、Salesforce 等，中国作为后来居上者，我们也逐渐开始意识到负责任技术与技术向善的必要性。

周妮娜

说到风险，我联想到了著名的“科林里奇困境”，以哲学家名字命名的这样一个现象，意思是如果一项技术的社会后果不能在技术生命的早期被预料到，当不希望的后果出现后，技术往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难。

而负责任技术的概念提出和推广的重要原因之一就是推动企业或者产品团队尽可能在早期识别出风险并尽量避免。这样，我们就能尽量从“减少事后带来的负面效应”的补救性措施转向更具有前瞻性的思考的“预防型解决方案“的探索中。

既然技术在未来会更加融入社会和每一个人的生活，技术带来的网络、社会甚至是政治性的安全问题也会持续涌现，只有更大程度利用预防型的解决方案才能避免隔阂和社会的裂痕。我们在2021年全球发布了负责任技术执行手册，其中收录了很多工具用以降低风险并避免偏见，威胁建模、数据道德画布以及Ethical OS等都已成为我们技术实践过程中的主要工具。

摘自2021年出版的《负责任技术执行手册》，手册中收录了12种工具用于负责任技术的实践中

时代的巨变正裹挟着每一个个体，我们现在的每一个社会行为，可能都在变成数据。你的每一条微信，你的每一个回复，甚至你的每一步，都是数据公司、平台企业中高价值的个人化数据。在数字技术大步向前走的时候，如果我们稍作驻足停留可以做点什么？

孙萍

我们生长在一个数字技术腾飞的时代，在这一语境下，其实困扰我们的是技术对于每个个体来说是什么，对于企业来讲意味着什么，对于人类社会生活又蕴含着什么...在我们与企业合作的过程中来看，主要有三点：长期主义目前中国的很多企业在应用数字技术之时，绝大多数停留在“赚快钱”上。企业应怎样去平衡获取短期效益的目标与长期商业价值和社会使命的实现，这其实是摆在每一个企业管理者面前非常重要的议题。

共益性技术除关照到所服务的客户之外，有没有可能延展至更大范围的这种社会参与者？例如员工在技术实践过程中所扮演的角色是什么？我们有没有可能通过技术去改变，从而让更多的更大范围的人过得更好？拥抱技术我们关注人和技术在交互过程中到底应呈现出何种模式与态度，人们可能要去拥抱新的技术，去拥抱 AI。在这一拥抱交流的过程当中，人和技术怎样达成一个更好的沟通和协作，也是非常值得我们去考虑的。

周妮娜