斩断伸向AI的黑手
近日，中国篮协发布声明，称有人利用AI技术伪造音视频，散布虚假信息，进行人身攻击，挑动对立赚取流量，造成了恶劣的网络舆论影响，对此表示坚决反对和抵制。
实际上，类似的造假事件，如今已屡见不鲜，需要我们引起高度重视。那么，如何避免AI技术沦为消费社会信任的工具，异化为非法牟利的工具？一起来聊聊。
（一）
随着AI技术的广泛应用，使用门槛的降低，利用AI造假的现象也不断凸显。据某专注网络空间安全的机构发布的数据，2023年，基于AI的深度伪造（例如换脸、换声等）欺诈案件较前一年暴增了3000%。而公安部的数据则显示，今年一季度，全国涉及“AI换脸”“AI配音”的诈骗案件环比增幅达45%。
值得注意的是，AI造假现象频发，与其自身的特点密切相关。
比如，门槛较低，不难操作。AI技术已渗透到生活的方方面面，有人说，现在只要一部手机，谁就能AI。也确实如此。生活中，随便翻开一个社交平台，就能看到许多AI教程。比如，用AI 制作一个唱歌对口型视频，只要你上传一张自己的照片即可生成，非常简单。类似“一键生成”的操作，降低了AI造假的门槛，让换头像、换背景、换声音等变得“so easy”。
再如，以假乱真，不好分辨。与传统的一些网络造假相比，AI造假因为使用了更先进的人工智能技术，有的已经到了以假乱真甚至炉火纯青的地步。今年7月初，有人借助AI技术，将多地拍摄的猴群画面进行剪辑拼接，发布“四川峨眉山人猴大战，猴王被当场击毙”的虚假视频。因为视频里还编造了具体人物信息，极具迷惑性，让人真假难辨。
又如，传播迅速，不易查处。AI造假往往聚焦公众关切话题，紧盯社会热点问题，一旦发布即可引发迅速传播，加上其往往有伪装，痕迹隐匿性强，给查处工作带来不小的难度。此前，在上海一女童走失事件中，有团伙利用AI工具，编造“女童曾被丢弃”“女童父亲是继父”等谣言，6天内发布28篇文章，多篇文章点击量超过100万次，追查难度可想而知。
（二）
如果AI造假的背后是成本低、效率高、隐蔽性强、传播迅速等特性在助推，那么，AI造假的动机无外乎炒作造势、利益驱动、恶意误导等。笔者梳理了一下，主要有三个方面。
寻刺激，刷存在感。有心理学者指出，当一个人的自我认同感缺失、情感需求未满足、焦虑或压力无处释放时，会通过博眼球、寻刺激、刷存在感等方式，来证明“自己重要”，以获得他人的认同和点赞，从而带来强烈的存在感、兴奋感、愉悦感。比如，前些天以某汽车品牌展台为背景制造虚假低俗视频的李某，事后就被证实是“为了炫耀个人技术”。
博流量，非法牟利。在当今的网络环境下，庞大的流量往往能带来巨大的商业价值。说白了，“流量”能变现为“能量”“钱量”。因此，众多AI造假事件中，背后往往都有相应的利益链条。这当中，吸粉引流、非法牟利最为常见。比如，有的靠虚假广告直播带货，有的靠作假视频骗退款薅羊毛，甚至还有的靠换脸变声进行敲诈勒索。今年初，某账号利用AI技术剪辑加工央视主持人的新闻片段，推销鱼油产品，半个月内销售额就达6万余元。前不久，广州一买家制作死螃蟹视频，目的就是骗取卖家的赔偿。
泄私愤，寻求快感。有的人遭遇委屈、不公，或对他人和社会不满、产生怨恨时，往往会采取一些过激甚至极端的方式来宣泄情绪、寻求快感。利用AI技术泄私愤的行为，本质上就是负面情绪失控下的“低成本报复”心理。比如，根据昆明警方曝光，今年5月，李某某因与同事意见不合，利用AI技术将淫秽视频中的人脸换成同事的脸，并使用与同事相似的微信号进行传播，严重侵害了他人的名誉。
（三）
网络不是法外之地。治理AI造假乱象，斩断伸向AI的黑手，还需要多点发力、多措并举、多方联动。我们要做的，远不止“不传、不信、不造”这么简单，而是要形成法律、技术、平台与公众的共治合力。
扎紧“笼子”，完善制度。有人说，要铲除AI造假的生存土壤，根本上要靠法规制度。法规制度的“笼子”扎不紧，有人就会钻漏洞，甚至人家钻进去后你还可能“奈何不了他”。我们不仅要依托《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等现有法律法规，细化AI造假的责任认定标准，明确生成者、传播者的法律责任。同时，还要加大打击、查处力度，把制度的“笼子”扎细、扎密、扎牢，不留“暗门”。
筑牢“篱笆”，担起责任。作为网络信息传播的关键环节，各网络平台也要筑牢“篱笆”，切实承担起相应的监管责任，以维护健康的网络环境。一方面，要主动走到治理的前沿，通过算法、水印、标识、警示等技术，自动标记可疑内容并减少推荐，守住“第一道防线”，让AI造假无所遁形；另一方面，更要重塑行业生态，从“流量泡沫”回归“价值创造”，压缩造谣者的牟利空间，主动引领积极、健康、向上的传播生态，为网络传播注入正向能量。
加固“护栏”，增强防范。作为公众，一方面要做到“不信、不传、不造”，并积极抵制、主动举报疑似AI造假内容；另一方面也要擦亮眼睛，增强防范意识，提升识假辨假能力，加固自身隔离AI造假的“护栏”，多一层必要的“设防”。
科技当向善，AI须求真。这不仅是技术发展的必然选择，更是文明延续的永恒底线。我们在拥抱新技术，享受其带来的便利和红利的同时，更要锻造规则之刃、锋利监管之剑、厚实防范之盾，筑起一道“硬规则”和“软文明”相融合的防御AI造假的立体防线。
执笔 陈红光
