抖音已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索

抖音：已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。抖音严禁AI虚拟人低质创作及违规行为，严厉打击虚假人设、诈骗引流、不良内容传播，并要求AI内容显著标识、发布者担责、虚拟人实名认证，严禁侵权及违背科学、造谣内容，涉黑产将报警处理。

抖音新闻详情

去年，抖音公布了一项名为《关于人工智能生成内容的平台规范暨行业倡议》的规定，明确提出平台不推崇通过AI技术创造虚拟人物来进行低质量内容创作，并将对违规使用AI生成虚拟人物传播违背科学事实、造假及散布谣言等内容的行为实施严惩。

抖音安全中心最近发布公告，指出尽管已有相关规定，但在近期排查中仍发现站内存在不正当使用AI技术生成虚拟人物发布内容的现象，对此类账号平台已采取严厉措施加以处理。具体违规行为主要包括三个方面：

1. 虚构海外人物身份，利用民众的爱国情绪和猎奇心理吸引关注。通过构建假冒外国人的形象，发表诸如向往嫁到中国、定居中国或评价社会热点事件等言论来博取点击率。

2. 使用AI生成俊美男女形象，欺骗用户互动并引导交友、流量变现。这类账号通常会直接以亲昵称呼如“你”、“娘子”、“妈妈”、“老公”等与用户互动，发布充满情感挑逗、演唱情歌、许诺给予好处等虚假感情内容，进而诱导用户转移到私密聊天工具中进一步交流，甚至进行诈骗活动。

3. 构建精英人士的虚假形象，发布诸如心灵鸡汤、投机理财观念、伪国学、厚黑学、伪成功学等不良信息，以低劣品质的内容吸粉，并可能引流至站外进行卖课、拉群等方式牟利。

对于违反规定使用AI生成虚拟人物的行为，平台将会执行一系列严厉措施，包括下架违规视频、取消违规账号的投稿和盈利权限、清除账号粉丝、直至彻底封禁账号等。此外，平台还将运用模型和技术识别能力，持续性地进行此类违规行为的监测和处置。目前，抖音已经掌握了部分黑产团伙利用AI生成虚拟人物从事非法活动的线索，并将向公安机关举报以协助打击犯罪行为。

抖音官方强调，尽管人工智能技术的进步极大地丰富了互联网内容生态，但也带来了技术滥用的挑战。平台再次重申，无论是创作者、主播、用户、商家还是广告主等在内的所有平台生态参与者，在抖音上运用生成式人工智能技术时，都必须严格遵守相关规则。以下为关键要点摘要：

1. 发布者必须对人工智能生成的内容做出显著标识，以便其他用户能够清楚分辨虚拟与真实世界，特别是在容易引起混淆的情境中。

2. 发布者必须对其发布的人工智能生成内容所导致的一切后果承担责任，不论这些内容是以何种方式生成的。

3. 使用虚拟人技术的账号需在平台上完成虚拟人注册，并确保虚拟人背后的技术使用者进行实名认证。

4. 明令禁止利用生成式人工智能技术制作、上传侵犯他人权益的内容，包括肖像权、知识产权等，一旦发现，平台将严格执行惩罚措施。

5. 禁止使用生成式人工智能技术制造、发布任何违背科学常识、捏造事实、造谣生事的内容，一旦发现此类行为，平台同样将严肃处理，依法依规进行处罚。