AI不会作恶，关键还在人为。
@科技新知原创
作者丨沙棠编辑丨伊页
“刘德华为何极少演反派？”近期在各大社交平台爆火的一个话题，竟是一场全民图灵测试。只因这句普通的提问，会招来AI水军的围攻：“辣鸡华为，过时芯片还用来碰瓷苹果。”
“刘德华”和“为什么”两个单词的搭配，刚好触发辨识到“华为”这个关键词，被输入过相关指令的AI水军便以一副不太聪明的样子闻味而至。类似的案例还有，“任达华为何这么酷？”
2023年的“央视315晚会”，曝光了一些网路平台明目张胆地售卖直播水军，人气、播放量、双击、评论等数据，均可24小时自助下单，达成突显直播间氛围的目的。
根据报导，嘉兴宇禾文化传媒有限公司推出的云控系统，只需一台手机，即可同时操控200到20000台手机。为了让水军看起来更像真实用户，该云控系统能够事先设定批次、进入时间以及不同的发言内容等步入直播间，甚至还可以去竞争对手的直播间，自动投诉甚至贬低。
互联网水军已经是一条成熟的红色产业链，如今在生成式AI的加持下，技术又开始作恶了？
01
单条五毛到三块
“平时不需要做哪些，只要在群里等着雇主发任务信息，收到后立刻去私信雇主，他都会给你提供要发布的图片、内容和推荐话题，你直接在小红书上发布就好了。”
Jenny是一名大二学生，据她介绍，在小红书上发布这样的信息通常不需要重新注册帐号，反而用自己的日常号更能彰显出内容的真实性。雇主一般潜伏在二手转卖群、互助群等校园QQ群里，由于不是即将的官方群，鱼龙混杂的环境也成了雇主们撒播广告的掩护。
“我有三个小红书帐号，最开始的时侯接信息代发不管广告的类型，后来就是开始专门接考研和护肤类的广告代发。”Jenny说道。赶上考研网上报考和分数公布前后，这种信息发布得会愈加频繁。“最好的时侯，我三个帐号三天共发布了七条。如果内容下边有评论时，你还可以去维护，当评论的双击量过10，就能额外发放五毛钱。单条小红书内容双击量过50，还能再得一块。这都是可以累计的。”
与小红书这样的拔草平台类似，微博也是雇主们分发信息的集聚地。同样是三元一条，但微博的双击量和评论就不会被记录在内。“不过近来的行情不太好了，以前一个月能发10-15条，现在整个9月份我还没有收到新的代发信息。另外，你若果能拉过来好友跟你一起发，一位朋友好友就又能给你加3元。”
Jenny告诉「科技新知」，自己一开始只是想借助课余时间来赚一点零花钱，但随着接单次数的降低，“我发觉这样替他人发一些不太靠谱的信息，也是在误导和我年纪相近的人，自己的心中也过意不去。”
不过，像Jenny这样的大学生还属于水军产业链的高端，而在产业链中上游的玩家，他们可以凭着一己之力轻松制造网路声浪的海啸。
此前有媒体爆出，广州的李某用760元才能选购标价500元的10万“僵尸粉”、160元的2万双击数和100元的1万转发数，最终造成李某女儿的教师被网暴，引发广泛的关注。
水军产业链可细分为技术流、卡商、接码平台等多个环节。虚假的帐号主要有两个来源，一种是水军结伙通过“养号”，即把握大量手机和手机号，注册陌陌、抖音、小红书等各类平台后，进行一些规律性活动，如发表作品等，模仿真人的行为，用来躲避平台的初审机制。这些仿真号（又称“真人号”）成熟后，再交由电脑程序进行自动化的关键词抓取。
而另一种则是廉价劳工，客户需求通过平台分包，承包商一般再通过陌陌、QQ群或抖音等社交平台发布任务，一些兼职人员发放完成任务后，再兑换为相应酬金。
02
水军越来越像个“人”了
当你在网上滑水跟人争辩时，有没有想过，跟你上单的有可能根本不是人，而是一台机器。
2019年，芝加哥大学研究人员发布的一篇《在线点评系统中的手动众包功击和防御》论文中说明，人工智能将有能力生成大量虚假复杂的点评信息，甚至机器和读者都难以测量和区分其真假。
比如下边的这段话，“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃午餐的好去处。地儿小而且买卖大”。
尽管最后一句稍有生硬和歧义，但芝加哥大学的督查结果显示，这个评论除了躲过了参与督查的600人的法眼，而且还被用户觉得“有用”。
如今，生成式AI的出现，让水军的评论显得更像一个人的真实所说所写。有业内人士爆料，用AI所撰写的内容除了产出快还丰富，只须要提早设置好想要的评论内容，比如直接贬低、阴阳怪气或则拉踩等方式，然后通过机器人帐号才能发布。
“一个人可以控制几十到上百个机器人帐号，只要有人在网上发布关键词内容，被监控系统捕捉并对比成功后，就能让评论出现在内容下方。这早已是一条成熟的红色产业链，并且用系统监控还有一个用处是才能快速出现在热帖的前部，也就是抢占洋房位置。”
每个热帖似乎都像一座摩天大楼。第一个进行回复的人，在短期内最容易掌控后续楼层的风向，同时也是去树立影响的最佳时机。比如你若果想推翻2楼的观点，可能就须要3和4楼同时抨击；如果想推翻2、3、4楼的观点，那就须要5-20楼所有人的齐心协力，并以此类推。越晚发言的人，话语权的权重就越低；发帖越晚的人，就越容易遭到风向的影响。
事实上，国外的生成式AI水军更为猖獗。ChatGPT未爆火前，网络分析师With Secure就发布了对其ChatGPT 3实验的全面描述。实验中，With Secure通过歪曲网路上的点评来诱导并操纵真人做出错误的决定。
With Secure 一共进行了两次实验。第一个社会验证实验包括对人工智能进行编程，编写一系列虚假的促销信息和顾客反应，创造出与 NFT 相关的“投资机会”得到广泛认可的表象。由于今年虚拟货币领域出现了大量的“拉高和抛售”骗局，代币持有者使用单独的帐户在网上订购并人为地夸大代币早已较为常见。因此，这一实验并不能完全证明AI诱导真人的可能性。
但当With Secure要求ChatGPT 3写一系列推文，暗示真人出于“冒险”吞下立白荚（一种摄取后有毒的清洁产品）并安然无恙时，AI就开始变味了。
它首先创建了一个问答，并附上相关话题。内容是：“挑战你尝试一些新东西——吃一个立白荚。让我们晓得你是否做过以及气味怎么。#Tide Pod Challenge #Tide Pod Experience。”
随后用另外的帐号模仿网友语调并发布说道：“有冒险精神吗？尝试热门的新挑战——吃立白荚。与我们分享您的体验，让我们晓得气味怎么。#Tide Pod Challenge #Tide Pod Experience。”
紧接着ChatGPT 3撰写虚假的挑战反馈：“是的，我出席了#Tide Pod Challenge，这不是我所期盼的，它有一种奇怪的气味，但还不错。”另一篇则热情地写道：“我做到了。我吃了立白荚，令人惋惜的是，它并没有这么糟糕。#Tide Pod Challenge #Tide Pod Experience。”
With Secure最后总结道，ChatGPT 3能否使人的“意见发生转移”，利用人工智能技术编撰“真实”的宣传内容，可以用于引导公众对关键风波的舆论。
03
冰山之下还有多少？
近年来，在名星热搜打榜、软文广告推广、商品服务推出、自媒体流量等互联网活动中，都有水军的身影。
与之前相比，随着AI、大数据等技术的发展，水军的功击形式或手段有了很大变化，主要彰显在以下三方面：从初期单一的兼职刷单，到现在的多行业、多场景、多任务的广泛渗透；从初期的只在 PC 端进行单一手法的兼职，到现在以移动端为主；从初期的线上群组媒介（QQ 群、YY 语音等），到现在的平台化和裂变化。
而网路黑灰产之所以能发展至今长盛不衰，关键是产生了一个分工明晰、协助紧密的成熟产业链，分为上中下游三个环节。其中，上游提供资源和技术，下游进行作恶和变现，而中游则联接上游和下游。
整个产业链中的关键环节，包括上游能够持续稳定地提供可靠的资源和技术，下游能够有稳定的变现途径或渠道，中游能够高效地联接上游和下游，保持稳定的供需关系。如果这几点都不出问题，整个商业模式的运作都会很顺畅。
“水军”的运作模式可分为两类：一是“发布信息型”。“水军”接到任务后，在其“货源”平台订购相关服务，如降低双击数、评论数或对企业负面新闻进行“优化”。“货源”平台手动打包至下一“货源”，每一“货源”平台均攫取其中的价差，最后完成该任务的是“水手”或者由黑灰产业链批量养的“僵尸号”。
二是“删除信息型”。“水军”在接到删帖业务后，对顾客要求删掉的内容进行“验单”，即对需删内容的难易程度进行评估，再缴纳相应服务费，并进行二次转包。在这过程中，删除的方法可细化为替换、屏蔽、删除三种。
黑灰产的冰山早已产生，但怎么打击灰黑产业链仍然存在诸多现实难点。广州大学法学院教授欧卫安表示，涉及相关领域的法律较为零散，尤其在私法领域，对相关行为的认定存在一定争议。此外，由于越来越多的网络黑灰产业租用境外的云服务器或则使用日本手机号，甚至雇佣境外人员从事相关违法行为，打击层面存在调查难、取证难等众多难点。
但AI是否向善还是作恶，背后完全取决于使用它的人。或许有三天，我们也能看到正义的AI工具手动去消除这些AI水军，还给用户一个干净的互联网环境。
（文中人物为化名）
/ THE END /
Author
Follow Us
