孙建国
“我是冯巩前妻,我推荐‘五黑粉’”。社交平台上,一位自称“刘欢爱人卢璐”的女性娓娓道来,长达21分钟的视频讲述了与丈夫的相识相恋、半生操劳。故事里不缺温情,但重点逐渐“跑偏”,其中11分钟,她细数两人因年轻时打拼太狠落下身体亏虚的毛病,最终吃了老中医推荐、九蒸九晒的“黄精五黑粉”,把身体补好了。(11月3日《新京报》)
AI深度合成伪造明星家属人设推销五黑粉,还衍生副业培训、拉人头割韭菜的黑灰链条。乱象反复上演,表面是视频内容泛滥,实则暴露出技术源头、生产源头、发布源头、治理源头多重漏洞。唯有四端协同发力直击病根,才能跳出“删不完、封不尽”的治理困局。
技术普惠本是好事,却被黑灰产拿来钻空子。过去造假营销,需要演员出镜、脚本拍摄,人力成本高,难以大规模复制。如今依靠AI深度合成,几分钟就生成一段以假乱真的人物叙事视频。造假者以煽情故事包装产品,再衍生出收取培训费、发展下线的收割模式。涉事供货企业常以“未制作AI视频”为由试图切割责任,却实实在在从虚假流量中获利。账号可以批量注销重建,但货源、培训社群却长期隐匿,末端删帖封号治标难治本。
责任碎片化,是AI仿冒带货治理的一大难点。整条链条里,AI视频制作者、账号运营团队、供货贴牌商家、付费培训组织各司其职。出事之后各方互相推诿,把问题归于技术工具。平台单纯识别封号,只能处置表层短视频,难以锁定实际行为人,证据也容易灭失。可借助区块链存证固化AI生成元数据,把生成主体、操作日志上链留痕,为技术源头锁定责任提供不可篡改的证据支撑,打通追责堵点。
破解困局,就要对准四大源头综合施治。技术源头推进深度合成内容存证溯源,用区块链等工具固化生成信息;生产源头压实供货贴牌企业主体责任,不能允许商家以“不知情”规避监管;发布源头平台强化风控,对AI伪造内容、带货链接、付费培训社群前置筛查;治理源头监管部门穿透全链条调查,不局限处置单个账号。再辅以社会科普,提高公众辨别能力。技术设防、企业尽责、平台把关、监管亮剑,四管齐下铲除土壤,方能实现治根之效。
|