抖音IC资料图
抖音关于不当借助AI生成虚拟人物的整治公告
今年，抖音发布《关于人工智能生成内容的平台规范暨行业呼吁》，明晰平台不鼓励借助AI生成虚拟人物进行低质创作，将严格处罚违法使用AI生成虚拟人物发布违反科学常识、弄虚造假、造谣造谣的内容。
近日平台发觉，站内仍有不当使用AI技术生成虚拟人物发布内容的帐号，平台进行了严厉处置。
其中典型行为包括：
1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会风波等言论博取眼珠。
2、生成俊男美眉虚假形象，侵吞互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等抒发虚假情感的内容，将用户导流至私人聊天工具，甚至进行盗窃。
3、生成精英人士虚假人设，发布心灵鱼汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等形式获利。
针对违法使用AI生成虚拟人物的行为，平台会对违法视频下架，对违法帐号进行取消其投稿和营利权限、抹除帐号粉丝、封禁帐号等处置，并借助模型、技术辨识能力等手段，进行常年系统的辨识发觉和处置。同时，平台已把握部份黑产结伙不当使用AI生成虚拟人物用于犯罪的线索，将报案严打。
人工智能技术的快速发展，丰富了互联网内容生态，但也带来技术滥用的挑战。平台重申，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵守以下规范：
1、发布者应对人工智能生成内容进行明显标示，帮助其他用户分辨虚拟与现实，非常是易混淆场景。
2、发布者需对人工智能生成内容形成的相应后果负责，无论内容是怎样生成的。
3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
4、禁止借助生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发觉，平台将严格处罚。
5、禁止借助生成式人工智能技术创作、发布违反科学常识、弄虚造假、造谣造谣的内容。一经发觉，平台将严格处罚。
整治违法内容是抖音的常年工作，平台呼吁广大用户共同监督，如发觉不当使用人工智能生成内容的情况，可以在站内举报或发送详情至举报邮箱：feedback@douyin.com，平台将在第一时间查证处理。
抖音安全中心
2024年3月27日
