视察｜当AI学会造假：实测一张“魔改图”，怎样击败商家

双11购物节促销竣事，玩具商家小黄（假名）的客服后台收到一则特殊的售后申请。

买家上传的照片中，售价167元的毛绒玩具挂件“贝儿”全身焦黑，尾巴泛起出火烧般裂纹，“都没有用怎么就这样了”，要求“退款50元”。

依附多年电商履历，小黄起源以为，这是客人使用不当所爆发的损坏，“我们都是全新发货全程录像，若是是客人使用不当导致的损坏我们无法赔偿”。

只管对恶意退货有所预防，但小黄也未猜到买家用上了“手艺狠活”。“之前我以为是客人把玩具丢火里了，厥后经朋侪提醒，越看越像AI（人工智能）假图”。

这场看似通俗的售后纠纷，只是AI手艺滥用的一个缩影。新京报贝壳财经记者视察发明，从“烂掉”的香蕉到“漫画般”的破衬衫，从“击穿”的饭碗到“火烧”的毛绒玩具，AI天生的虚伪瑕疵图已成为部分人薅羊毛的“退款神器”，这场手艺狂欢正攻击着电商生意的信任基石。

对此，京东、拼多多、淘宝、抖音等头部电商平台向贝壳财经记者回应称，高度重视此类问题。新京报贝壳财经记者独家相识到，部分企业AI“反制”步伐即将在年底正式上线。

“火烧玩具”退款50元，商家“自制”防骗指南

“我其时盯着那张图看了半天，还以为这玩偶是掉火里了——效果是AI画的！”小黄指着手机里的谈天纪录，又气又无奈。这是她开店以来最“离谱”的遭遇：消耗者用一张AI天生的“损毁玩偶图”，轻松薅走了50元退款。

事情爆发在11月中旬。一位消耗者下单毛绒玩具挂件后没几天，就发来一张照片：玩偶裙摆开裂、绒毛斑驳，布料上还带着类似陶瓷的龟裂纹理，配文“都掉皮了，给我退50”。

商家以为消耗者退款时提供的毛绒玩具为AI假图。受访者供图

店主其时就以为差池劲：“我们发货都是全新的，尚有监控录像，怎么会坏成这样？”她没连忙揭穿，先让对方提供带时间数据的图片原片，消耗者却只重复一句“质量问题”，随后直接申请了平台介入，并乐成退款50元。

“我以为是消耗者自己把玩具丢进火里，其时都想自认倒运了，是朋侪提醒我‘这图像AI天生的’。”店主把图上传到AI检测工具，效果显示“这张图举行了AI修改”：玩偶链条边沿模糊、布料褶皱的光影逻辑杂乱，尤其是“陶瓷裂痕”，完全不切合毛绒材质的物理特征。

“平台判断商家货物有问题直接给消耗者退款了，基础不仔细看证实的。”小黄无奈地说，自己后续只能花时间申诉，“直接提供消耗者发的图片加不提供视频的对话，只要不是图片很是逼真的情形下或许率会判赢”。

以后，商家向平台申诉，追回了50元。

消耗者要求“仅退款”或退货退款。受访者供图

湖北的电商商家小幸运（假名）也遇到了AI天生的虚伪商品破损图，同样用来申请售退却款。

不过，小幸运一眼识破了消耗者的“骗术”。“正常破损不会四分五裂，且消耗者态度存疑，破了还拼起来照相更无可能。”商家在接受贝壳财经记者采访时体现，消耗者提供了一张“击穿版”宠物碗，态度强硬要求退款并拒绝提供视频。

小幸运以为，消耗者提供的商品破损图保存显着不切合常理的痕迹，这是识别AI假图的要害线索。

商家以为这一宠物碗的“破损”疑似AI天生。受访者供图

生鲜类商品由于易变质、难举证的特点，也成为AI假图售后圈套的重灾区。“我们发已往的生鲜水果都是青的不会熟，更不会烂，一看就是AI做的。”一位有着多年销售水果履历的生鲜类商家告诉贝壳财经记者，遇到退款，自己会对水果的情形有基本判断。

贝壳财经记者采访相识到，遇到AI假图申请退款，大都商家可以肉眼识别出AI假图，由于“不切合常理”，也会直接拒绝消耗者的退款要求。部分消耗者在被商家多次质疑是AI假图后则自动认可。

江苏的一位打扮卖家告诉贝壳财经记者，一位购置了9.89元衬衫的消耗者声称衣服有洞要求退款，却一连提供多张显着由AI天生的图片作为证据。“我指出是‘漫画风’AI图后，她还说换个位置拍，效果新图里洞口位置都变了。”卖家体现，在多次指出图片的AI痕迹后，这位消耗者也认可试图通过虚伪证据骗取退款。

关于识别AI假图的履历，一位商家总结了一份“防骗指南”，他说，可以通过数据识别用户是否有“不良行为”纪录；从细节入手视察，“AI天生的瑕疵（霉斑裂纹）边沿模糊，光影和商品自己不匹配，好比霉斑颜色发灰不自然”；也可查痕迹，“部分假图会残留AI工具水印”；要对仅提供单张照片的情形坚持小心，“要求对方拍多角度视频，重点拍商品包装，瑕疵特写和手状态，或者用水印相机有时间拍摄纪录等”。

实测AI“魔改”图片：10秒速成，“傻傻分不清”

AI造假退款成为槽点，与天生式AI手艺的飞速迭代密不可分。一年前，AI天生图还能靠“六指琴魔”“扭曲配景”等破绽区分，但现在专业人士都可能看走眼。

别的，AI以假乱真门槛并不高。贝壳财经记者在实测中发明，现在各大主流AI应用中均配备有可以举行“AI修图”的功效，用户可轻松使用AI对实物图片举行“魔改”。测试中，记者随机选择一个AI修图，输入“玲娜贝儿挂件”“烧焦”“开裂”，缺乏10秒就泛起了和上述涉事图类似效果的图片。

为了清晰验证AI修图的疑惑性，贝壳财经记者准备了5件真实物品，划分使用ChatGPT、千问、豆包，通过简朴的提醒词如“把这件衣服弄脏”等，天生了11张AI天生的“物品破损”图片。以后，这5件物品经由人为破损后，与AI天生的图片一起制作成16张“是真是假”图片调盘问卷。

本次调盘问卷席卷打扮污渍、包装破损、水果腐败三种，对应现在市面上电商平台的三种退款类型。阻止11月28日，贝壳财经记者接纳问卷时，共有73人加入。效果显示，约七成的AI假图被受访者乐成“识破”。

11张AI天生图片识别情形。新京报贝壳财经记者罗亦丹制图

详细来看，在11张AI图片中，大部分均被受访者以6:1，甚至10:1的“压倒性优势”肉眼识别。可是，个体图片确以为AI天生也保存难度。一张脏污羽绒服的照片泛起“32人判断为真、28人判断为AI、13人拿禁绝”，成为唯一乐成“骗过”过半受访者的图片。

代号AI10的照片原型为一件蓝色羽绒服，左图为其原始图片，右图为AI天生，73位受访者中只有28人判断准确。

值得注重的是，本次调盘问卷在最先之前已经明确见告受访者，这些照片中混有AI天生图片，这会在一定水平上提高受访者的“小心心”。而在真实的电阛阓景中，可能会有更多人被AI图片“蒙蔽”。

另外，AI修图的泛起加剧了受访者对真实图片的不信任。关于本次问卷中混入的5张真实图片，只有53.42%的人判断图片为真，35.62%的人将图片错判为了AI图片，10.96%的人则拿禁绝。

5张真实图片识别情形。新京报贝壳财经记者罗亦丹制图

其中，一张照片被受访者判断为假的概率高达10:1，只有6小我私家以为此图片为真。而现实上，这是一张真实的香蕉腐败延时摄影截图。

代号真实15的照片原型为几根香蕉，左图和右图均为真实照片，73位受访者中有62人以为此图为AI天生。

识别造假仍需手艺升级，伪造证据“薅羊毛”涉嫌诓骗

在本次问卷视察中，30人填写了对测试的感想，其中，大大都受访者以为这些图片“真假难辨”。有受访者留言称，“放在一起看，确实傻傻分不清晰。最大感受是，年轻人尚有辨别的意识，老人可能大多会信以为真。”

而关于怎样判断AI造假和真实图片，有受访者体现：“AI天生照旧挺‘气概化’的，我自己可能关于图片更审慎，对现实上真实的照片也会嫌疑是AI天生。”也有受访者称：“感受人为的更有‘人’的鸠拙感，AI的破损很平均，但照旧有受骗到。”

贝壳财经记者在测试中发明，现在，关于一些包装上带有文字的物品，AI天生的图片相对来说更容易露出“破绽”，如泛起错字、变形等情形。别的，人为对物品的破损很难做到“平均”，例如，破损点往往只是一个划痕、一个洞口等，而AI天生的损坏图片则大多是整个物品均有破损痕迹。

不过，这些问题很容易通过AI天生图片时变换提醒词等方法解决，未来怎样识别AI图片，仍是“魔高一尺道高一丈”的手艺一直对抗升级的历程。

今年9月1日正式生效的《人工智能天生合成内容标识步伐》已为AI天生内容的使用划出红线。第十条指出，“任何组织和小我私家不得恶意删除、改动、伪造、隐匿本步伐划定的天生合成内容标识，不得为他人实验上述恶意行为提供工具或者效劳，不得通过不正当标识手段损害他人正当权益。”

万商天勤状师事务所程亮状师称，相较于通俗“仅退款”，使用AI制作假图的行为性子越发卑劣，其行为是通过伪造证据的方法诱骗商家清静台，骗取商品或者退款，损害了商家清静台的工业权益。

上海正策状师事务所状师董毅智体现，使用AI伪造证据申请退款或“仅退款”的行为，凭证其情节和涉及金额，可能同时冒犯民事、行政以致刑事执法。该行为直接违反了《中华人民共和国民法典》中的忠实信用原则，属于典范的民事诓骗。受诓骗的商家有权请求人民法院或仲裁机构作废该退款行为，并要求消耗者返还货款。若骗取金额未抵达刑事立案标准，行为人可能面临拘留和�？畹男姓Ψ�。

董毅智称，若是行为人单次或多次骗取退款累计抵达“数额较大”，则可能涉嫌组成《中华人民共和国刑法》中的诈骗罪。已有司法案例显示，纵然单笔金额很小，但多次作案累计抵达标准，也可能被追究刑事责任。

随意“仅退款”已成历史，头部电商将脱手阻挡AI假图

随着AI图片恶意退款问题发酵，电商平台售后审核机制也被推至台前。

面临愈演愈烈的AI造假退款，电商平台的应对步伐显得滞后。多位商家反应，平台的“退款”机制保存误差，“只要消耗者提供图片，金额较低的，险些都会自动通过。”而商家则需要花时间去区分以及申诉。

怎样有用识别AI天生的虚伪证据、平衡消耗者权益与商家利益，成为亟待解决的问题。对此，新京报贝壳财经记者采访了京东、拼多多、抖音、淘宝（天猫）等电商平台。

京东方面体现，现在，针对通俗商品不提供“仅退款”，仅对生鲜商品提供“坏损包退”的按比例退款效劳。京东平台生态有关部分通过开展有关智能判责项目，已针对生鲜商品周全构建了多模态AI假图识别能力，正处于试运行阶段，可识别和阻挡包括AI假图等在内的虚伪凭证，预计年底将正式上线。

拼多多方面也体现，平台高度重视此类问题，将继续遵照相关划定增强售后手艺支持。如商家遇到此类问题，可保存相关凭证联系平台，平台会尽快核实处置惩罚，包管商家与消耗者的正当权益。

抖音电商相关认真人谈到，平台现在并未提供“仅退款”效劳，但在售后流程中，若消耗者提倡售后时申请平台介入处置惩罚，平台将凭证双方举证、售后计划等举行综合评估，最终凭证双方提供的证据举行判断。为包管商家正当权益，平台一连迭代手艺，现在已建设相关AIGC识别能力，正在测试运行中，正式上线后能实现对使用AI假图举行恶意售后等违规行为的阻挡和识别。同时，平台一连专项治理薅羊毛等黑灰产行为，包管优异的平台谋划情形。

对此，淘宝（天猫）客服回应称，平台有严酷的风控系统会核实凭证真实性，建议消耗者遇到问题时提供真实有用的凭证，阻止恶意行为。

同时，针对退款方面，随着政府规范的一直推进，电商平台已逐步对“仅退款”效劳规则举行优化调解，调解的内容主要是对以往平台介入判断“仅退款”的适用情形举行了限制，扩大了平台内谋划者自主决议是否赞成“仅退款”的适用情形。

在中国商业联合会直播电商事情委员会副会长曹磊看来，面临AI手艺滥用带来的新挑战，没有简单角色能独善其身。它需要羁系部分划定底线、平台织密防护网、商家提升自卫能力，以及每一位消耗者的诚信加入，配合组成一道坚实的防地。

天使投资人、网经社电子商务研究中心特约研究员郭涛指出，“仅退款”黑灰色工业对电商生态造玉成方位破损，严重扰乱市场秩序。对商家而言，不但直接遭受货、款两空的经济损失，还需投入特殊本钱核验证据、应对纠纷，中小商家抗危害能力弱，可能因频仍恶意退款陷入谋划逆境，攻击创业与立异起劲性。对电商平台来说，此类行为突破生意双方权力平衡，引发商家对平台规则公正性的质疑，导致优质商家流失。对消耗者而言，恒久来看，商家为对冲危害可能提高商品定价、收紧售后政策，最终损害合规消耗者的正当权益，并且黑灰色工业的伸张会滋生不诚信的消耗民俗，破损公正生意的市场情形，阻碍电商行业康健可一连生长。

郭涛建议，羁系部分需完善执律例则，明确恶意退款的执法界定与处分标准，落实AI天生内容强制标识要求，对违规AI效劳提供者与改动标识用户依法处分；同时，建设跨平台消耗信用机制，将恶意退款行为纳入小我私家征信。电商平台应优化规则与审核流程，突破“仅看图片即退款”的简单模式，增添人工审核环节，使用手艺手段核验图片真伪，设置账号退款次数阈值与危害预警。对恶意账号接纳封号等处分，明确平台审核失职的赔偿责任。商家需自动防控，发货时全程录像留存证据，优化售后相同流程，要求消耗者提供多维度退款凭证，遇到AI假图诈骗时，实时向平台申诉并向公安机关报案，联动行业协会共享恶意消耗者信息，配合抵御危害。

新京报贝壳财经记者程子姣罗亦丹

编辑王进雨

校对付春愔

《馃崙馃崙馃崙馃崒馃崒馃崒馃崒馃崙馃崙》，《Q8X2R7L1T4J5M9B6W3》

日韩无码动图

“日本AA在线网站免费”

韩漫R级

……

12月04日

“《纲手的湮监狱生活》手游”中小学每节课间应安排学生走出教室

↓↓↓