12月18日,抖音黑板报官方发布公告称,近一个月来,针对涉及侵害未成年人权益的违规内容与场景,平台已处置相关违规内容超过20万条,并对8000多个账号进行了包括清理违规增长粉丝、限制商业变现功能、禁言直至封禁等不同程度的处罚。
公告同时指出,近期平台在日常巡查中发现,部分用户开始利用AI技术升级其违规手段,对未成年人的合法权益造成了新的侵害。
例如,利用AI生成未成年人低俗擦边形象,以此进行所谓的“养号涨粉”。
还有用户利用AI生成虚构的未成年人“卖惨”内容,博取网友同情以不当牟利。
更恶劣的是,有人通过AI恶意魔改经典动画、动漫和文学形象,炮制含有血腥、暴力、低俗等不良元素的“儿童邪典”视频,严重危害未成年人的身心健康。
从这份公告中不难看出,平台已第一时间下架了相关违规内容,并对违规账号采取了从严处置措施。
公告还通报了近期处理的部分典型案例:
其中,AI生成未成年人低俗擦边内容一案,便有39个账号被处以全面禁言。
这类账号多次发布由AI生成的、包含穿着暴露且刻意突出敏感部位的幼态化形象,以此“养号涨粉”。平台对此类违规内容已立即下架,相关账号均因恶意违规被处以无限期禁言。
涉及AI生成未成年人卖惨内容的账号数量更多,有180个账号因此被全面禁言。
这些账号批量发布利用AI生成的所谓“早产婴儿住院”“寒冬中未成年人背负柴火哭泣”等内容,刻意营造未成年人的悲惨处境,并试图通过文案和话题标签诱导用户在评论区互动,以此吸粉引流。平台同样迅速下架了相关内容,并对涉事账号施以清理违规粉丝、限制商业变现、禁言等处罚。
而针对AI炮制暴力的“邪典动画”行为,平台处理的力度最大,共有391个账号被全面禁言。
这批账号往往打着“儿童动画”的标签,使用动画人物形象制作AI视频,内容充斥着残害肢体等血腥暴力、低俗恐怖的画面,对未成年人身心危害极大。平台对此类内容予以坚决下架,并对涉事账号处以禁言处罚。
