抖音出现大量 AI 仿冒于东来内容，封禁 1000 多个黑灰产团伙账号

a20584

IT之家 9 月 8 日消息，抖音集团副总裁李亮今日发文称，今年一季度发现平台出现大量利用 AI 仿冒“于东来”语音、形象，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。

李亮称，封禁这 1000 多个黑灰产团伙账号的同时，平台还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款 15 万元。

他直言，AI 带来技术进步的同时也被很多黑灰产盯上，针对这些滥用 AI 的行为抖音一直在重点治理。对于相关违法违规内容，欢迎大家共同监督。



IT之家注意到，抖音电商安全与信任中心 9 月 2 日发布了关于加强治理 AI 内容滥用的公告。公告称，平台已对违规视频和账号采取下架、清退等措施，并强调 AI 应用必须合规，任何误用、滥用行为将被严厉打击。

来源：https://www.ithome.com/0/881/163.htm