“你是温峥嵘，那我是谁？”

　　演员温峥嵘本东说念主浏览短视频时，不测发现“我方”正在直播。她在评述区冷漠质疑后，被拉黑并踢出直播间。而对方仍在用“她的脸”直播带货。

　　温峥嵘近期遭受的“冒牌直播”事件，是AI换脸时期糜费的典型写真。多个直播间出现冒用温峥嵘形象的AI换脸带货行径。其团队日均举报50个假冒账号并发出讼师函，可作秀账号仍屡禁不啻，令她堕入“很难证实我是我”的窘境。

　　这一现象并非孤例。《法治日报》记者近日考察发现，AI换脸与声息克隆时期已形成一条涵盖教程传播与定制做事的完好意思灰色产业链，对个东说念主权柄、平台监管等均组成严重威逼。

　　换脸时期被用于监犯坐法

　　11月5日，温峥嵘在短视频账号进行3次以“我是果真温峥嵘”为主题的直播，敷陈近期被AI伪造、换脸直播带货的履历。

　　此前，已有多位名东说念主深受AI换脸困扰。主捏东说念主李梓萌的AI伪造形象出目下直播间，失误宣传深海鱼油“能治病”；奥运冠军全红婵的声息被AI克隆，用于售卖土鸡蛋；大夫张文宏被换脸，其形象被用于在直播间售卖某款卵白棒居品，销量已过千。张文宏自述：“这些假的合成信息就像蝗灾相同，一次又一次发生……”

　　11月14日，中央网信办官方账号发文浮现，有蚁集账号诳骗AI时期仿冒公世东说念主物形象，在直播、短视频等要害发布营销信息，误导网民，涉嫌失误宣传和蚁集侵权，严重破损蚁集生态，形成不良影响。网信部门严厉处分一批监犯违法蚁集账号。同期，督促网站平台发布料理公告，举一反三，开展蚁集计帐整治，目下已累计计帐关系违法信息8700余条，处分仿冒公世东说念主物账号1.1万余个。

　　AI换脸时期的糜费致使延迟至刑事坐法限制。2024年10月，江苏省南京市玄武区东说念主民法院审理的一说念案件中，被告东说念主符某作歹获得195万条公民个东说念主信息，诳骗AI换脸软件生成动态东说念主脸视频，得胜冲破某金融支付平台的东说念主脸识别认证系统，登录被害东说念主的支付账户，盗刷银行卡进行消耗。法院以骚扰公民个东说念主信息罪、信用卡诈欺罪数罪并罚，判处符某有期徒刑4年6个月。

　　2024年，内蒙古鄂尔多斯别称消耗者遭受AI换脸诈欺，几乎耗费40余万元。视频通话中，作歹分子诳骗AI换脸时期冒充该消耗者一又友，以资金盘活为由，拐骗其转账40余万元。好在警方介入实时，未形成本色耗费。

　　关系教程和做事遍布蚁集

　　记者考察发现，AI换脸与声息克隆的教程及做事在蚁集平台流畅。记者在各样外交平台以“AI换脸”“声息克隆”等为要害词搜索时，固然平台会弹出官方教唆，提醒用户使用需“正当合规、细巧区别”“切勿轻信、防备诈欺”，但关系内容仍在蚁集空间宽绰存在。

　　比如，有相配数目以“AI科普”为标签的账号在各平台公开共享换脸教程。这些视频每每详备列出可访谒的网站地址，逐渐演示操作经由，并附偶然期细节证实，如建议用户“尽量保证替换素材与原素材的东说念主物尺寸一致、画面干净无荫庇”，以保证生成成果。

　　把柄教程指引，记者登录关系网站考证发现，部分平台如实免费提供AI换脸或声息制作做事，支付几十元购买会员后，还能解锁去水印、高清放大等进阶功能。

　　除公开教程外，更为避让的往复正通过网盘渠说念进行。

　　记者不雅察到，有一些打包出售的“完好意思教程”价钱低至8元，且卖家宣称“莫得市面主流软件那么多抑止”。这类教程每每包括云霄责任流地址贵寓和详备的操作证实，以及图片去AI化、跳舞手脚效法、东说念主脸精修等扩张功能与关系的教唆词教悔。

　　声息克隆类的教程售价低至9.9元，并在宣传中强调“援助任何形象和声息”。记者究诘商家了解到，惟有购买此装配包，无需注册会员即可免费破解使用对口型、克隆音色等功能。据商家描摹，只需提供一段音频文献，系统便不错在无身份认证的情况下进行克隆，单次援助30秒音频，且不限次数。

　　为考证此类教程的本色应用成果，记者购买了一份标价8元的换脸教程。该教程包含一段5分钟的视频教程和两份笔墨材料，明确提供了平台访谒贯穿、新用户福利信息和操作递次，并特别注明“对敏锐词抑止一丝”“生成内容无水印”。

　　记者发现，该平台提供多种功能模板，内容涵盖替换视频东说念主物、给东说念主物指定部位更换衣物、对图片中东说念主物肉体部位进行放大或动态处理等不同功能。每个模板均配备相应的教唆词教悔和详备操作递次，用户只需上传参考图片、视频或待处理素材，恭候一段时候即可生成内容。

　　记者实测使用一段时长5秒的视频进行换装操作，约3分钟后得胜生成视频。画面中，东说念主物手脚与感情复原度很高，被荫庇部位的服装贴合成果也较为当然、精确。

　　记者细巧到，该平台内容生得胜能经受运行时长计费样式，每秒收费0.2造谣币。教程中附有专属邀请码，使用者可凭此免费领取1000造谣币。平台还设立了造谣币奖励机制：每天登录挽救100造谣币，邀请新用户可获500造谣币。

　　更换表述可绕过审核机制

　　电商平台上，有商家为AI换脸做事披上伪装售卖。

　　在某购物平台，记者径直搜索“AI换脸”，袒露无任何完毕。但记者不雅察到，有部分商家会在商品信服页用神气瑰丽隐喻其能提供换脸“做事”；也有商家以“啥齐能作念”“不限视频内容，懂的齐懂”为宣传语，浮现私聊客服了解商品信服。

　　记者了解到，10秒换脸视频报价从15元至300元不等。举例，有商家冷漠，20秒内视频(包括仅生成音频的)长入收费80元；部分商家还推出298元200分钟生成时长、490元年卡等套餐，快活“一双一教悔率领”，宣传语中不乏“让一又友客户难辨真伪”等相易性表述。多数商家仅核查素材内容，对用途与来源未作甄别。

　　为潜入了解AI器具本人的内容审核机制，记者对用户使用较多的10款文生图、文生视频AI器具进行实测，以对明星“一键变脸”等指示测试那时期界限与审核才智。

　　完毕袒露，仅一款AI器具明确远离生成委果公世东说念主物造谣图像。部分应用在浅易操作后，即可生成高度传神的明星失误内容。

　　举例，“即×”起首会以“波及肖像权”为由远离明星换脸、角色指示，但记者遴荐替代选项后仍可生成；“豆×”“文×”等径直推行指示且无显耀风险教唆；“通×”“天×”等仅在生成内容旯旮位置标注不赫然的“AI生成”字样。

　　值得细巧的是，部分AI器具在初次接纳到波及委果东说念主物的指示时会给以远离，但通过遴荐平台的替代选项或更换表述，用户仍可绕过运转抑止，达成图片或视频生成。

　　有平台方公开恢复称，AI内容侵权识别属于行业性时期费劲，坏心仿冒账号在捏续与平台进行时期抗争，曩昔会捏续加大时期插足，积极应付挑战，保重创作家、商家及消耗者的正当权柄。

　　记者 赵 丽 实习生 王艺霏

　　来源： 法治日报法治经纬