斩断AI造假起号利益链刻不容缓

外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……据8月11日新华网报道，社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。

从利用AI打造“完美熟龄女性形象”进行“年龄焦虑”营销，到通过情感、养生、颜值等类别教程批量产出吸睛内容，一些人借助AI技术，精心炮制虚假内容误导网友，进而通过电商带货、账号转卖等手段实现流量变现。这种行为不仅违背了道德伦理，更触犯了法律法规。

AI造假起号乱象背后，是复杂的利益链条。技术提供者为起号者提供造假工具，传播平台在审核环节存在漏洞，内容发布者则肆意传播虚假信息，而账号售卖市场的火爆，更是让这一乱象愈发猖獗。一个万粉AI账号，从几百元到上万元不等，百万粉丝的账号甚至要十几万元，巨大的利益诱惑让不少人趋之若鹜。

AI造假起号带来的危害不容小觑，会造成低俗猎奇信息泛滥，加速虚假新闻、谣言传播，误导公众认知，破坏社会信任。一些“三无”保健产品广告借助虚假账号大肆推广，不仅损害了消费者的身体健康，也扰乱了正常的市场秩序。此外，这种行为还挤压了真实优质创作者的生存空间，抑制了网络空间的创新活力。

斩断AI造假起号利益链刻不容缓。监管部门应发挥主导作用，加强协同治理。一方面，督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号加大处罚力度。另一方面，持续开展专项整治行动，加大对AI造假起号等违规行为的打击力度，形成有效震慑。

平台作为内容传播的重要载体，应提高对深度伪造内容的检测精度，利用先进技术手段，提升审核效率和准确性，同时进一步完善规则，明确对AI造假起号等违规行为的界定和处罚标准。技术提供者也应强化自身社会责任感，技术研发过程中加强安全性和合规性，为打击AI造假起号提供技术支持和解决方案。

此外，公众是网络空间的使用者和受益者，也是监督虚假信息的重要力量，因而可以引导公众积极举报可疑账号、引入专业机构开展评估等，形成全社会共同参与治理的良好氛围。