专家：细化技术（shù）标准让“AI数字人”透明（míng）化合规化

　　□ 本报记者 　赵 丽

　　□ 本报实习生 宋昕怡

　　“生西红柿和生黄瓜不能一起（qǐ）吃了！黄瓜中的（de）分解（jiě）酶会破坏（huài）维生素（sù）C，一起吃轻则影（yǐng）响西（xī）红柿中维生素C的吸收，重则可（kě）能导致腹泻、肠胃（wèi）不适甚至食（shí）物中毒。”电话那头，母亲说得头头（tóu）是道，电话（huà）这（zhè）头的（de）赵女士却听得一头雾水（shuǐ）。

　　随即，母亲发（fā）来一则视频。赵女士回忆说（shuō）：“一（yī）位满头（tóu）花白头发、身着白大褂（guà）的‘医生’在视频里侃侃而谈‘养生（shēng）秘（mì）籍（jí）’，甚至宣称‘清淡（dàn）饮食就是只吃素食（shí），完全不吃肉’。我妈把这个‘医（yī）生’的话奉为圭（guī）臬。”但赵女士仔细查看后，在（zài）视频右下角发现一串几乎透（tòu）明的（de）标注——“此视频由AI辅助生成”。

　　“后来，我妈戴着（zhe）老花镜，在我的指点下找了一会儿才（cái）看见（jiàn）那行字。”赵女士无奈地说，“这（zhè）也（yě）不能怪老人（rén），现在AI生成的‘数字人’泛滥，还难辨真假，实在让（ràng）人防不胜防。”

　　有此困扰（rǎo）的并非（fēi）只有赵女士一家。《法治日报》记（jì）者近日随（suí）机采访了（le）数十名路（lù）人，至少有七成受访（fǎng）者称曾刷到过“AI数字（zì）人（rén）”视频，并且“难以分清到底是真人还是‘数（shù）字人（rén）’”，而（ér）原因主要（yào）在（zài）于“找（zhǎo）不（bú）到有效提示”。

　　很多（duō）人担忧：真人“数字人”傻傻分（fèn）不清楚，背后（hòu）是（shì）肖（xiāo）像权侵权乃至敲诈、诈骗等违法犯罪的风险隐患。

　　是否数字人难辨别（bié）

　　在重庆读大学的郑媛浏览某社交平台（tái）时，刷到一则帖（tiē）子——照片（piàn）里的（de）女生外（wài）形温婉（wǎn）可人，穿搭清爽时尚，很夺人眼球。郑媛点赞并关注了该账号。

　　但不多时，郑媛却（què）刷到另一名博主揭（jiē）露用“AI生（shēng）成人”起（qǐ）号的内容，被（bèi）打假的恰恰是她先前所关（guān）注的这个账（zhàng）号。“我仔细翻（fān）阅了那个女（nǚ）生（shēng）的账号主页，她并（bìng）未标明使用AI技（jì）术，还在评论区亲切地与（yǔ）其他用（yòng）户互动。”面对（duì）这样的局面，郑媛（yuán）说自（zì）己（jǐ）也“糊涂了”。她（tā）后来观察了一个多星期，找到了该账号图（tú）片确为AI生成的证（zhèng）据——有（yǒu）网友在其他账号上发现（xiàn）了妆容和衣（yī）着几乎一样的（de）“数字人”，而人物介绍却完全不同（tóng）。

　　习惯在（zài）直播间（jiān）购物的北（běi）京市民李菲说，自（zì）己经（jīng）常（cháng）误入“数字人”直播间，“数（shù）字人”主播侃侃而（ér）谈介绍商品，手部动作（zuò）还（hái）能随着她说（shuō）话的节奏不断变动，声音流畅（chàng）而自（zì）然。

　　“要仔（zǎi）细（xì）看才能看到直播间左（zuǒ）侧一行‘现直播内容（róng）为（wéi）数（shù）字人直播，非（fēi）真（zhēn）人直播’的（de）小字提醒。”李菲说（shuō），自己现在习惯（guàn）了进直播（bō）间“先找（zhǎo）小字”，确认主播是否为真人，“但真的‘费眼（yǎn）睛’，不是在犄（jī）角旮旯（lá），就是字体几乎透（tòu）明，不注意（yì）根（gēn）本看不到”。

　　袁伟（wěi）(化名)是某985高校计算机系研究生。他告诉记者：“现在一些AI大模型生（shēng）成（chéng）的图，别（bié）说中老年人会误（wù）以为真（zhēn），很（hěn）多（duō）没怎么接（jiē）触过（guò）AI技术的年轻人都不见得能分辨真假。”

　　他随即（jí）为记（jì）者演（yǎn）示，向某AI软件输（shū）入指令“帮（bāng）我生成图片：一个容貌姣（jiāo）好的女性，精细的皮肤纹（wén）理，室外自（zì）然光”，随即（jí）生（shēng）成的图片与真人照（zhào）片相差无几，如果不是（shì）右下角自带的水印，只让人觉得是（shì）一张普通的（de）美（měi）女照片。“如果说早期的AI软件大多不（bú）能生成自（zì）然的手指和人（rén）体比例，现在技术进步得很快（kuài），生成的手指和人体比例已经比较像样了，更加（jiā）大了分辨的难（nán）度。”

　　“这（zhè）样的AI生成图片或（huò）视频，如果不作标识提示，会（huì）让（ràng）很多人信以为真。”袁（yuán）伟说（shuō）。

　　大量（liàng）账号未（wèi）作标识

　　记者在某社交（jiāo）平（píng）台上注意到一名为“××AI打假人”的账户，其发帖（tiē）称（chēng）自己将致力于“揪出纯AI生（shēng）成的（de）内容博主（zhǔ），帮小（xiǎo）白识（shí）别真伪”，还表示“关注（zhù）了（le）很多AI生成非真实的帅哥（gē）美女（nǚ）”。

　　在（zài）其关注列表里有300多个（gè）账号，记者（zhě）随机选取了其中20个账号浏（liú）览发现，若（ruò）没有（yǒu）看到评论区“这是AI吧，手指的细节很诡异”“背景（jǐng）里的文字（zì）都是乱码”等留言，记者（zhě）第（dì）一反（fǎn）应只以为他们（men）是普通的颜值时尚（shàng）类博主。

　　这20个粉丝量（liàng）几百到几万不等的账号，仅有3个账（zhàng）号在简（jiǎn）介中写明“虚拟男友”“AI”“友情提示（shì）视频由虚拟（nǐ）现实技术制作”，两个账号主页的内容经平台（tái）审核后（hòu）被打上了“疑似包含AI创（chuàng）作（zuò）信息，请谨慎甄别”的标（biāo）签。其余账号在（zài）简（jiǎn）介、内容中并未提及“AI”字眼，平台的监测机制也并（bìng）未识别到，这些账（zhàng）号甚至还在评论（lùn）区熟（shú）稔地与其（qí）他用户（hù）互动（dòng），让自己看上去更有“真人感”。

　　在调查（chá）过程（chéng）中，有超过一（yī）半的受访者向记者表（biǎo）示AI生成的“数字人”和真人难以分（fèn）辨，相关的提示也并不显眼。

　　此外，记者（zhě）发现，有人还会（huì）特意（yì）教人如何绕过平台（tái）的（de）“AI打标”。据了解（jiě），目（mù）前，各平台已普（pǔ）遍升（shēng）级（jí）AI内容识别系统，要求对AI生成（chéng）作品（pǐn）进行显著标注。但在调查中，有分享经验的博主表示花费不到千元就（jiù）可以购买（mǎi）所（suǒ）谓（wèi）的AI工具中预配置的镜像文件，称用这些镜像参（cān）数一键（jiàn）生成的虚拟人形象可以以假乱真，最大限度规避平台的AI内（nèi）容强（qiáng）制标（biāo）注机制（zhì）。

　　细化标准加大惩处

　　记者梳理（lǐ）公开信息发现，实践中，一些有心人士利（lì）用“数字人”形象行不法之事。

　　据报道，张文（wén）宏、雷军等公众人物形象（xiàng）曾被利用（yòng）生成（chéng）“AI数字人（rén）”，用（yòng）来（lái）带（dài）货、恶搞。一（yī）些直播间内（nèi），“AI数字人”向中老年人（rén）群（qún）体虚假（jiǎ）宣传保健品，诱导购（gòu）买（mǎi）。更有甚者，一些不法分子利用“AI数字（zì）人”进（jìn）行敲诈、诈骗等犯（fàn）罪。例如，山西忻（xīn）州公（gōng）安机（jī）关工作发现（xiàn），犯罪（zuì）嫌（xián）疑人王（wáng）某某利用AI技术，制作合成“数字（zì）人”新闻视频引流，进而进行有（yǒu）偿发帖（tiē）、有偿删帖（tiē）等敲诈勒索活动。2024年，江西（xī）一名65岁（suì）老人（rén）到银行办（bàn）理（lǐ）业务，声称要贷（dài）款200万元给男朋友“靳（jìn）东”拍戏（xì），后经（jīng）调查，老（lǎo）人手（shǒu）机里的“靳东”视（shì）频是AI合（hé）成的。

　　重庆大学网络与大数据研究院副院（yuàn）长罗勇认为，就价（jià）值取向（xiàng）而言，AI产（chǎn）业发展不能凌驾于网（wǎng）络安全之上。对于利用AI技术生成（chéng）的短视（shì）频（pín），网络用户特（tè）别是未成年人和老年人由于缺乏必要的（de）鉴别能力，往（wǎng）往（wǎng）会信以为真，由此可能产生负面（miàn）网络舆情，甚至对网络安全造成（chéng）负面（miàn）影响。

　　据（jù）受访专家介绍，当前我（wǒ）国已（yǐ）经出台了《生成式（shì）人工智能服务管理暂行办法》《互联网信息服务深度合（hé）成（chéng）管（guǎn）理规定（dìng）》等法规，对（duì）“AI数字（zì）人”和（hé）AI生成内容的标识、数据来源等提出了具体（tǐ）要求。

　　今（jīn）年3月，国（guó）家（jiā）网信办等四部门联合发（fā）布《人工智（zhì）能生（shēng）成合成内容标（biāo）识办法（fǎ）》(以下简称标识办法)，通过标识提醒用户辨别虚假信息，规范内容制作、传（chuán）播（bō）各环节标识行为，为规范AI生成内容划定红（hóng）线。该办（bàn）法将于9月（yuè）1日起施行。

　　中（zhōng）国（guó）政法大学教授郑飞指出，相关规定（dìng）一定程（chéng）度存在落（luò）地难的（de）问题。一是监管和技术手段有限，难以（yǐ）彻底发现并纠正违规行为。例如（rú），一些“AI起号”从业者通（tōng）过预置“镜（jìng）像（xiàng）参（cān）数（shù）”生成（chéng）极为逼真的虚拟人（rén）像，从（cóng）而逃避平台的（de）强制标（biāo）注（zhù）要求（qiú）。而监（jiān）管部门特别（bié）是基层执法部门，通常面临（lín）职责不清、执（zhí）法手（shǒu）段和（hé）执法（fǎ）力量不足（zú）的问题；二是部（bù）分平台在一定程（chéng）度上“管不了”也“不想管”。“管不了”在于（yú）平台管理能（néng）力与技（jì）术手（shǒu）段欠（qiàn）缺，尤其是一些小型平台，缺乏足够（gòu）的审核人（rén）力和技术支持。“不想管”则是（shì）背后利益驱动。未（wèi）明显（xiǎn）标（biāo）识“AI数字人（rén）”或合成内容，会让受众误以为是真人或（huò）真实事件，从而更容易引（yǐn）起人们的兴趣和好（hǎo）奇心（xīn），吸引更多的（de）流量（liàng）和关注（zhù），进而带（dài）来更多的商业利益。

　　“以网络（luò）社交平（píng）台为代表（biǎo）的网（wǎng）络服务（wù）提供者在AI生成内容（róng）的应用场景中，应当进一步完善用户使用AI协议规定，并（bìng）强化对AI生成内容的（de）审核。”罗（luó）勇说。

　　郑飞建议，应从明（míng）确标识要求（qiú）和加大（dà）责任（rèn）追究两方面发力。标识办法明确（què）要求，一旦检测（cè）到AI生成内容，传播平台应在发（fā）布（bù）内容周边添加显著提示（shì）标识，并在（zài）文件元数据中加（jiā）隐式（shì）标识，确（què）保全流程可溯源（yuán）。在未来落实（shí）过程中，可进一步细化技术标（biāo）准，比（bǐ）如规定标（biāo）识文（wén）字（zì）的最小高度、对比度、展示时长等，让标（biāo）识一目了然（rán）。另外，对于不按（àn）规定标注的行（háng）为（wéi），需（xū）要严厉处罚：除加大行政（zhèng）罚（fá）款、暂停业务（wù）或纳入不良信用记录等行（háng）政措施外，还要利用法律手段（duàn）加（jiā）大威慑。通过明（míng）确、显著的标识标准（zhǔn）和更严厉（lì）的（de）责（zé）任追究，才能从根（gēn）本上震（zhèn）慑违规不标注（zhù）行为（wéi），实现“AI数字（zì）人”应用的透明化、合（hé）规化（huà）。