AI美男“混入”，交际平台能否识别？我们测试了六大平台

[db:作者]

贝 壳 财经原创出品
记者 罗亦丹 韦英姿
编辑 王进雨
练习生 彭紫桐

AI天生内容滥用，被戴上紧箍。
9月1日起，国家互联网信息办公室等四部分结合公布的《野生智能天生分解内容标识法子》（以下简称《标识法子》）实施。这是全球范围内第一部关于野生智能天生分解内容标识的国家标准，也意味着一切操纵野生智能技术天生、分解的文本、图片、音频、视频、虚拟场景等信息，必须依法增加响应的声明标识。
克日，新京报贝壳财经记者经过一周时候对哔哩哔哩、微博、抖音、快手、小红书、视频号六个支流内容平台测试发现，很多AI建造的视频已经打上了标识，但也存在没有标识提醒的“丧家之犬”。
为了进一步测试平台对AI内容的识别才能，新京报贝壳财经记者利用支流视频模子工具天生了今朝内容流量较高的“萌宠变装”和“AI美男”两类视频，并别离以去除和显现AI水印的版本停止公布。测试显现，视频公布进程中，六个平台均未自动提醒停止AI天生内容标注。而用户自动标注视频为AI建造的选项，则大多隐藏在公布界面的二级或三级子菜单内。
经过测试，抖音识别出一切视频并增加了疑似AI的提醒，快手仅识别出了存在AI水印的视频。其他四家平台则“三军淹没”，均未能识别出记者上传的视频为AI天生，也没有停止任何提醒。
对此，北京市天元律师事务所合股人李昀锴告诉新京报贝壳财经记者，今朝《标识法子》没有规定内容公布者不标注的法令义务，假如纯真依靠公布者的自觉性，规定的结果能够会大打折扣。理论中，内容平台作为传布渠道，其强迫性要求和技术干涉是关键。此外，中国传媒大学媒体融合与传布国家重点尝试室研讨员程皓楠对记者暗示，技术可以辨别AI天生内容，不外，由于大模子的更新迭代速度快，在AI视频天生内容越来越实在的情况下，鉴伪模子也需要不竭精进，双方显现“螺旋上升”的进程。
01
部分AI视频仍未亮明身份微博标识选项“藏得深”
按照《标识法子》，野生智能天生分解内容标识包括显式标识和隐式标识。其中，AI天生视频，要求在视频肇端画面和视频播放周边的适当位置增加明显的提醒标识。
9月8日至15日，贝壳财经记者在哔哩哔哩、微博、抖音、快手、小红书、视频号的保举页面随机阅读内容发现，大部分AI建造的视频可以看到作者标注的AI创作声明，也有未停止AI标识的视频内容被平台标注“疑似内容为AI天生”。
不外，未停止AI标识的AI视频内容也并不难寻。贝壳财经记者在小红书上阅读看到，有用户在9月1往后公布的萌宠类视频疑似AI天生内容，但画面四周及笔墨说明区均未出现明显标识；视频号上，一位用户公布的数字人视频也是如此。

9月8日，贝壳财经记者阅读视频号发现未停止明显标识的AI天生视频。截图
在哔哩哔哩上，一位UP主建造并在先容页面写有“AI整活儿”的视频中，有的视频被平台识别并标志了“疑似利用AI技术分解”，而个体视频则没有触发平台的提醒。

哔哩哔哩UP主建造并在简介中写明“AI整活儿”视频，并未触发平台“疑似AI技术分解”的提醒。
按照《标识法子》，供给收集信息内容传布办事的办事供给者应供给需要的标识功用，并提醒用户自动声明公布内容中能否包括天生分解内容。贝壳财经记者经过测试发现，今朝，六家平台对于AI天生内容标识，仍首要依靠内容公布者能否自动标注。
测试中，贝壳财经记者利用可灵和即梦别离天生了“萌宠变装”和“颜值美男”两类视频，AI视频模子平台均在视频天生后打上了类似“可灵AI”等带着模子称号的水印。

用户公布内容时，平台“AI创作声明”选项对照。 贝壳财经记者 罗亦丹 韦英姿 制图
贝壳财经记者将上述AI天生视频别离上传至六家内容平台，在公布进程中，虽然用户可以自立挑选标注AI标识，但这类选项凡是隐藏在公布页面一级按钮以后。
其中，抖音“内容由AI天生”选项出现在公布界面“高级设备”中的“发文助手自立声明”子菜单中；快手在公布界面的二级子菜单“作者声明”中才可以找到“内容为AI天生”的选项；视频号在公布页面的“增加声明”二级子菜单里设备“AI创作声明”选项。
测试中，小红书、哔哩哔哩、微博的“AI创作声明”选项需要最少跳转两次页面才能看到。
此外，微博的内容公布页无明显AI天生内容标识选项，必填内容范例中唯一“原创”“二创”和“转载”三个选项。视频设备中也未见AI创作声明选项。贝壳财经记者按照“微博治理员”8月29日通告才找到“AI天生”声明途径为：微博公布页面—右下角“公然”—挑选分享范围—内容声明—内容由AI天生。

微博的AI天生内容标识选项隐藏在右下角的“公然”按钮中。
02
AI视频可“丝滑”公布仅一家平台识别无水印版本
近年来，滥用或误用AI技术的题目逐步显现，包括商家操纵AI天生子虚商品展现和夸大宣传，误导消耗者下单；大概经过AI分解虚拟人物，冒充名流或特定专业身份停止带货。而部分视频中出现AI天生的虚拟测评与体验，制造子虚口碑。
按照《标识法子》，文件元数据中未核验到隐式标识，用户也未声明为天生分解内容，但供给收集信息内容传布办事的办事供给者检测到显式标识大概其他天生分解痕迹的，识别为疑似天生分解内容，采纳适当方式在公布内容周边增加明显的提醒标识，提醒公众该内容疑似天生分解内容。
对于用户故意去掉或粉饰住了AI视频水印，平台能否检测出其为AI天生？9月8日至9日，贝壳财经记者将可灵天生的一段“猫咪变装”视频，别离以自带水印（水印即视频带有AI天生相关字样）和去掉水印版本公布在哔哩哔哩、微博、抖音、快手、小红书、视频号上，且未自动标识为AI天生内容。
测试中，不管有无水印，这一AI视频在各大平台均“一路通顺无阻”，平台未自动提醒要停止AI天生内容标注。视频公布后数小时内，除原有水印外，视频的画面及笔墨说明区也未被平台标注“AI天生”有关字样，记者也没有收到平台有关视频标注整改的要求。
9月15日，贝壳财经记者再次翻开上述已公布的AI视频发现，唯一抖音平台公布的“猫咪变装”视频画面非论有无水印均出现了“疑似利用了AI天生技术，请谨慎鉴别”的笔墨说明。快手则只识别了带有AI水印的“猫咪变装”视频，并停止了AI天生相关提醒。

记者上传了带水印与不带水印的两个版本“AI猫咪”视频，快手只识别出了带AI水印的版本。
值得说明的是，此类猫咪变装视频由于出现了猫咪“自己穿衣服”等画面，是以大要率可以识别出AI天生。相比之下，当下很有流量又传神的“AI美男”“AI帅哥”迷惑了很多人。
9月8日，贝壳财经记者利用AI天生了一个“写实气概湖边红色连衣裙中国美男”的视频，并在消除AI水印后经过上述六家平台公布，且未自动标注为AI天生内容，公布进程一样“通顺无阻”。
9月15日，贝壳财经记者再次翻开这一视频发现，六家平台中除了抖音标识了“疑似利用了AI天生技术，请谨慎鉴别”外，其他五家均未能识别出美男为AI天生，还有很多批评夸奖“美男身段好”。

记者上传的“AI美男”视频，仅抖音识别并停止提醒。

六大支流内容平台对用户不标注AI天生视频的考核情况。贝壳财经记者 罗亦丹 韦英姿 制图
03
落实新规仍需补缝隙平台要担起监视义务
贝壳财经记者留意到，在《标识法子》正式实施前夜，大部分支流内容平台连续发声落实各项要求。
8月29日至9月1日，腾讯、快手、小红书、哔哩哔哩、微博、抖音等六家平台均公布通告称已依拍照关规定供给AI内容标识声明功用。对于未自动标识的AI天生内容，平台有权增加标识。快手、哔哩哔哩、小红书还在通告中夸大，用户不得恶意篡改、藏匿平台相关标识。
别的，微博在赞扬侧增加“未增加AI标识”分类，如发现平台用户公布的微博内容包括AI天生内容但未停止标志声明，可以挑选此分类停止赞扬。
不外，此次测试中，作为内容平台，哔哩哔哩、微博、抖音、快手、小红书、视频号虽然上线了AI检测功用，但未能100%检测出一切AI天生内容，且在视频公布进程中仍有缝隙。
按照《标识法子》官方解读，畅通（收集信息内容传布办事供给者）承当核验与提醒义务，需要核验内容标识或用户声明，对属于天生分解内容要明白提醒公众；终端（用户）则承当自动声明义务，当公布野生智能天生分解内容时，该当自动声明，不得故意“以假乱真”。
李昀锴对贝壳财经记者暗示，内容公布平台是内容传布和触达公众的关键环节，是以承当着监视和治理的重要义务。平台的义务首要表现在制定明白的平台法则、供给技术或功用支持、实行内容考核义务、采纳需要处购置法。假如内容平台未尽到义务，监管部分可以根据《收集平安法》《收集信息内容生态治理规定》等，对平台采纳警告、传递批评、责令期限更正、罚款等行政办法。
而对于内容公布者这一AI标识的间接义务人，李昀锴称，今朝《标识法子》本色上没有规定内容公布者不标注的法令义务，假如纯真依靠公布者的自觉性，规定的结果能够会大打折扣。理论中，内容平台作为传布渠道，其强迫性要求和技术干涉是关键。
他倡议，平台可以将“AI内容标识”作为内容公布的前置条件之一。例如，在用户上传图片或视频时，经过技术手段初步判定能否为AI天生，并弹出窗口强迫要求用户确认或增加标识。其次，对于公布后被识别或被告发为未标识的AI内容，平台必须根据其社区公约和《标识法子》规定，采纳本色性的赏罚办法，如限制内容的保举、削减曝光，甚至对账号停止警告或封禁。这类与流量、收益和账号权限间接挂钩的办法，会比纯真的呼吁更有用。
9月10日，有AIGC创作者告诉贝壳财经记者，自己曾在某内容平台故意上传AI内容停止测试，成果发现平台未能检测出AI内容。对此，平台方告诉他“只要收紧判定例则，便可以检测出AI内容，但这也有能够‘误伤’上传非AI内容的用户，危险创作者的积极性。”
“对于用户不愿意自动增加AI标识的情况，很难在法令层面界定平台的义务，由于平台没法提早肯定一个内容能否为AI天生，即使有技术手段也不能保证都正确，只能依靠用户自觉，是以《标识法子》只能处理一部分题目。”浙江垦丁律师事务所主任律师张延来告诉贝壳财经记者，“这是法令自己的范围性，我们可以不竭地立法，可是遵不遵照还要看市场主体的挑选。”
04
AI难鉴伪？专家倡议对天生内容实施分级分类治理
当前AI鉴伪技术能否精准检测出AIGC内容？
媒体融合与传布国家重点尝试室打造推出了“白杨智鉴——可诠释音视频鉴伪平台”，并在外滩大会AI科创赛获得了AI平安赛道季军。程皓楠在接管贝壳财经记者采访时暗示，今朝AI鉴伪的一大利用处景是音乐平台，由于其触及艺人的版权题目，以及平台担忧真人歌手上传的内容遭到AI内容“稀释”。
程皓楠告诉贝壳财经记者，AI鉴伪技术也存在技术瓶颈，“大师都晓得现在根基上每个星期城市出来一些新的天生式模子，在它的天生越来越实在的情况下，我们的鉴伪模子需要随着这些天生模子不竭地精进，双方显现一个‘螺旋式上升’的进程。”
多位AI从业者对贝壳财经记者暗示，一旦AI技术进化到了“极限”，即天生内容和实在内容毫无差异时，鉴伪模子就会面临生效。
“当AI天生的内容已经和实在内容没有任何区此外时辰，我们要从更多的维度去停止内容的判定。比如说，对于在交际媒体上传布的音视频内容，我们可以进一步经过传布溯源、传布意图、逻辑分歧性、感情操纵迹象等多种维度去判定该信息能否有害。”程皓楠暗示。
现实上，AI天生内容自己能否属于“谎言”，或是未来监管的偏向之一。
《抖音关于野生智能天生内容的平台标准暨行业倡议》提到，利用野生智能技术帮助创作自己，并不会违反平台标准，是被答应的行为，但操纵其天生和公布子虚、侵权等内容会违反平台标准。
AI平安专家裴智勇告诉贝壳财经记者，虽然想要阻止人们利用AI天生捏造视频或图片不现实，但这并不意味着对捏造视频或图片毫没法子。以AI换脸的色情内容为例，即使没法检测出内容能否为AI天生，但“国内对于收集色情视频和图片都有很是成熟的治理方式，即使不能用技术辨别一张图片的真伪，但可以从平台一侧阻止色情内容的传布，定位色情内容的传布泉源并实施冲击。”
“倡议实施分级分类治理。并非一切的AI天生内容都具有同等的社会风险。未来，监管可以加倍邃密化，按照内容的范例和潜伏风险停止分级治理。对于消息、教育、医疗、司法等高度影响公共信赖和小我权益的范畴，必须履行最严酷的强迫标识规定，违规本钱极高。对于艺术创作、文娱等风险较低的范畴，可以采纳更加灵活的办法，以行业自律和用户挑选为主，法令规定为辅。”李昀锴告诉贝壳财经记者。