原本有助于提高写作效率的软件,却不幸被某些人恶意利用,他们借此创建虚假账号,借助人工智能大量产出虚假信息以吸引关注,这一现象确实值得我们深思。
“AI起号秘籍”涌现
目前,众多社交平台上充斥着大量关于“AI起号秘籍”的文章。这些文章内容多围绕俊男靓女、育儿知识、健康养生等话题。它们不仅内容低俗,还充斥着猎奇元素。这些文章像病毒一样在网络中迅速传播,吸引了众多希望快速增粉和盈利的人。在调查过程中,记者注意到,这种分享形式在众多平台上普遍存在,众多人被所谓的“零门槛、操作简便、粉丝增长快、可实现盈利”等说法所吸引。
虚拟人物以假乱真
某些人工智能塑造的角色形象与真人几乎难以区分,甚至能教授人们如何躲避所谓的“AI打标”技巧。以一个育儿类短视频账号为例,该账号假扮成“外国幼儿教育专家”,利用AI数字人发表观点。这位导师明确声明这些角色是虚构的,然而它们的形象与真人非常接近。尽管这些虚拟角色在视频里的动作显得有些僵硬,然而它们的整体形象却非常逼真,以至于让人很容易上当受骗。
标准化起号流程
记者发现,“AI起号”的教学模式基本相同。只需借助两三个AI工具,按照“文字变图、图变图、图变视频”的操作流程,短短几分钟就能制作出一段时长仅五秒的美女舞蹈视频。一位从业者的课程标价为499元,提供从账号创建到内容盈利的全面一对一辅导。这种规范化的作业步骤表面上看起来简单迅速,然而却引发了众多不实信息的出现。
形象打造轻而易举
这位以“颜值博主”身份知名的博主,通过一张普通男性的照片,运用AI技术,成功打造出了高颜值的男性形象。AI在形象塑造方面的强大能力,让这个账号轻易地构建出了极具吸引力的形象。所以,很多人即使自身没有特别的优势,也能通过AI技术,打造出看似高质量的账号。
平台检测存漏洞
AI虚拟人的创作者在制作时往往会特意声明内容是由AI生成,这样做是为了绕过流量限制。即便如此,仍有大量未标注的作品未能被系统识别。业内人士坦言,他们虽不能保证每一部作品都能避开系统的审查,但他们会努力减少作品被认定为AI创作的可能性。一旦系统要求进行人脸验证,账号就有可能被取消。除此之外,第三方平台所产生的内容或许隐藏着不易察觉的标记,即便是制作得相当巧妙,也难以达到以假乱真的程度。
起号后变现手段
账号一旦创建完成,大多数人会将其设置为不显示引流信息,然后转型为销售商品的账号。有些账号甚至打着“AI起号实战”的旗号,把自己装扮成“成功案例”来推销起号课程。另外,这类账号大量进入账号交易市场,价格相对便宜。这些变现手段让虚假账号的创建行为变得更加猖獗。
大家都在思考,我们应当如何有效地阻止这种利用人工智能手段制造虚假账号的行为?请您点赞并转发这篇文章,同时欢迎您提出宝贵的看法。