硅谷“多巴胺实验室”的创始人拉姆塞·布朗说过，“这世界上肯定存在让人上瘾的代码。”
而这句话挺好地体验在了国外的明日头条、抖音、快手等APP头上。不管是一线城市的白领快手热门算法，还是四五线城市的青年快手热门算法，都在手机上不断滑动翻看那些会令人“上瘾”的软件。
业内人士告诉时代财经，这种流行APP内都借助了AI算法进行兴趣推送，会按照用户的喜好不断刷新用户感兴趣的内容，这是令人“上瘾”的诱因之一。鉴于此，抖音甚至在近期上线了“防痴迷系统”，而往年这些机制大多只出现在游戏平台上。
在渡过最初的高速成长期后，抖音、快手等互联网内容平台接连碰到了监管这道坎。罚金、约谈、下架、永久取缔等字眼在近来一两个月内不停地出现，而这一切都指向了平台的AI算法和初审机制上。
一连串的初审事件不禁让用户大打问号，为什么这种声称“以技术驱动”的互联网公司依然存在这么大的初审漏洞，依然须要不断加强人工初审的力度？更有网友戏称：“说好的AI算法会让人待业呢？原先AI反倒能降低就业。”
借AI吸纳用户，却不能有效监管
去年3月末，快手平台上存在大量“未成年母亲”等粗俗短视频被卫视相继爆光，明日头条也因广告问题被推到舆论的风口浪尖，两家公司的CEO宿华和张一鸣相继发布了道歉信。
张一鸣在4月11日表示，宣布永久取缔内涵段子APP并强化明日头条的初审，“全面纠正算法和机器初审的缺陷，不断加强人工营运和初审，将现有6000人的营运初审队伍扩大到10000人。”
快手不久前也启动了内容初审员的大规模急聘，一口气降低3000名初审编辑，急聘条件是团干和干部优先。
渐渐扩大的初审事件，最后也殃及到抖音。抖音先是取缔所有评论、关闭直播系统，近期还因涉嫌发布售假视频一事查删视频805个，封禁帐号677个，并被上海市工商局约谈。
事后抖音CEO张楠透漏，目前初审团队的规模早已有几百人，并且“团队人员每天都在下降”。
新招募的那些人员不仅在营运层面给公司降低支出外，这也意味着快手、今日头条、抖音等社区型产品在UGC内容初审上还不能完全依赖它们所擅长的AI算法，“人工初审”仍然抢占特别重要的地位。
而这儿面的“前辈”今日头条，成立之初却是把自己定位为一家技术驱动的科技公司，借助AI算法将基于个性化推荐的内容消费做到极至。中国政法学院知识产权研究中心特约研究员李俊慧表示，人工智能和算法能帮助企业吸纳大量用户、提高产品黏性，却不能反过来起到治理和导向的作用，即便是技术和管理上的缺位。
AI何时才会胜任内容初审？
早于六年前，在微软、Facebook、百度等大范围开始使用算法进行审查的时侯，媒体和创业者都不断地描绘着人工智能时代到来的场景。时至今日，AI其实通过学习，不断在提高系统对于内容类型的辨识和判别机率，但不得不承认的是，对于内容的初审目前主要还是依赖人工。
近日，麻省理工大学（MIT）、斯坦福学院、OpenAI联合研究报告显示，人工智能领域比往年任何时侯都愈发活跃，虽然人工智能在执行一些特别具体的任务时早已赶超了人类，但它在通常智力方面一直十分有限。
以月活用户数超过20亿的Facebook为例，在内容初审上，这家面向全球的企业面临的挑战愈发严峻。
Facebook的CEO扎克伯格近期称，根据目前AI的智力水平，要解决初审问题只能暂时降低人工数目。目前Facebook拥有一个1万5万人规模的营运初审团队，预计明年年末降低至2千人。
据Facebook的技术团队介绍，目前AI的机器初审多用于文字内容，如机器检查到富含敏感词汇的内容，会将其删掉或向用户发出警告。但对于图片、视频的初审，机器难以像对文字内容一样提取关键词，初审一直离不开人工。
但吊诡的是，在目前信息爆燃的时代，假如没有AI和算法帮助初审，诸多互联网公司其实难以运转，反倒须要越来越依赖AI。
此前“今日头条”内容质量中心负责人、副总编辑李彤接受专访时说，头条一个人三天能处理的文章大约是1000篇，机器一秒钟能处理100篇，“今日头条”每天新增发布内容是50万条，全部由人工来做，要一个人工作500天才能看完，AI是不可或缺的。
明日头条算法构架师曹欢欢对时代财经表示：“目前头条的分享内容辨识技术模型主要分鉴黄模型、低俗模型、谩骂模型等，主要都是通过大量的样本库进行比对剖析。”以指责模型为例，样本库超过百万级别，确切率80%以上，召回率95%以上，“这部份模型更重视召回率，甚至可以牺牲一些确切率，也要提升安全性。”
李俊慧则觉得，未来社交软件和短视频APP等应当是“算法+人工”的竞争，其中人工的专业性将逐渐升级到填补或提高算法的正面导向作用，让人工指导AI算法怎样更好初审。
