将要过去的2020年虽然经历了一个“加速社会”的后卫休息,但种种征兆表明,这并没有暂缓数字智能服务成为人们日常生活的一种形式。健康码、点订餐、视频大会成为工作生活“三件套”,各类基于数字化、信息化和智能化的服务应用快速入场,社会在技术与资本的双重博弈下正经历结构变革。
这些变革呈现出一种“重组”的力量,将现有的时间空间重新切割,再以一种“光电形式”重新制定节奏、划定规则、做出决策。线性时间被击碎,信息的“精准推荐”是一种“算法时间”,它调整信息的呈现序列,插入合适的节点,强调哪些才是“适合你的内容”,而不在乎“真正的时间”。以算法为核心生产逻辑的数字平台,作为社会行动网路中的主导力量,正在整合性地协调社会系统中的多元参与,通过设置代码规则,进行算法管理,规训的颗粒度被逐层细化,渗透进社会的毛细血管。算法社会的结构变革正呈现出3个鲜明的趋势。
一种新的“平台速率”正在产生。麦克·沃尔什在《算法领导者:当机器比你聪明时怎么变聪明》一书中描述了一种“亚马逊步速”,这是一种“介于行走和跑步之间的速率”,而在亚马逊,职工们必须根据这个节奏来工作。与之类似,我们听到了“困在算法里”的订餐平台骑手们,面对不断压缩的订单送达时间,她们没有选择快手热门算法,只能遵守算法的设计逻辑,看着手机上一条直线的数字地图,在现实的公路上“与死神赛跑,和警察较劲,和红灯做同学”。平台速率是一种时间节奏,集中彰显着平台规则和算法支配下的统一性、规划性和标准性,但是蕴涵着一种轻浮的消费哲学,代价就是将劳动者的主体性、情感性和立体感隐藏上去,这也带动了平台算法所带来的社会不平等。
“人脸辨识”或将重新划定个体身分边界。疫情期间,人脸辨识作为社会检测技术推动公共防疫,并且强制“刷脸”、事后“丢脸”的问题也曝露下来。在一些新村,人脸辨识成为市民出入的惟一验证方法,而转眼,在一些黑灰产平台上,听说两块钱就可以买到千张人脸合照。人脸辨识是一种“无眼神的凝视”快手热门算法,人脸辨识的确切性高度依赖数据、算法和算力,假如操作不当,窃取出去的背部相片可被拿来训练深度伪造,误导辨识系统,谎称个人身分,搞笑别人隐私,持续给个体带来经济风险和身分困惑,导致社会秩序混乱。
“算法鸿沟”逐渐成型并拉大社会距离。算法的逻辑机械且强势,而假如社会的协调机制过于滞后,这么则会产生新的“算法鸿沟”与社会歧视。往年的知识鸿沟、数字鸿沟更多的是因为社会结构中的教育程度、年龄层次、经济地位等要素促使社会资源分配不均,而“算法鸿沟”则有可能在分配制度的上游,通过人口数据、用户画像、使用习惯、社交关系等先期就预置了鸿沟。而随着算法回还往返于社会与系统之间,这些有机会获得工作经验、拥有学习机会、算法素质较高的群体,同这些缺乏机会、相对弱势的群体之间的差别将不断拉大。老龄人口、残障人士、低收入群体可能会深陷新一轮的“算法圈套”,行踪侮辱、健康码歧视等问题则随时可能落到每一个普通人身上。而这样的差别经年累月沉积,将加重阶级固化,产生算法特权和垄断力量。
今年4月,《自然》杂志上刊载了一篇研究性的综述,强调未来将是一个“算法无所不在”社会:手动化的新闻推荐、算法辅助法院判案、无人驾驶车辆、针对个体的差异化定价等,都将无缝接入我们的生活。假如以现今的发展态势来看,这个“未来”已来。

就像“药”具有两面性,算法在摧枯拉朽极速推动社会进步的同时,也曝露好多问题。这种问题除了是一个技术问题,更是一个系统问题和社会问题。算法社会结构变革的特殊性在于,这是一种行动的“再现”:算法没有善恶,但绝非中立。算法要向善,由于所有围绕算法进行的协作都是社会重现,而未来的方向在每一个积极的主体手中。
我们早已听到了这样的努力。就在前几日,中共中央印发《法治社会建设施行纲要(2020—2025年)》,其中明晰提出要制订建立对算法推荐、深度伪造等新技术应用的规范管理办法。10月,上海市人民代表会议常务委员会发布的《杭州市物管管理细则(修订草案)》有望成为国外首部明晰写入人脸辨识严禁性条款的地方性法规;11月23日,国外“人脸辨识第一案”宣判,未经当事人同意的“强制刷脸”被驳回。关注平台订餐员的生存状态和阶级流动机制,为老年人、特定身分群体构建友好的数字生活环境,对平台滥用市场支配地位、进行差异性对待等不合规问题进行监管整治等,都是对算法社会中可能会出现的结构性问题的“纠偏”。
我们在见证算法改变社会结构的同时,也要听到这些“公共关涉”算法是一种社会机制,涉及多种社会要素和力量。要促使这些社会机制才能朝向愈发具有社会保障、社会共情、公共向善的方向推动,则须要构建更为健全的监督、协商与支撑体系。
(作者:方师师,系南京社会科大学新闻研究所助理研究员)


