“一键脱衣”App惹众怒，是谁开发的？

法外求知

近日，女子地铁照被AI一键脱衣传播的话题引发网友热议。
, j/ j- i! i6 W
4 ?' s: P  Z+ X6 k一女性网友曾在社交平台晒出了自己在地铁车厢拍摄的照片，该照片却被人下载利用 AI 技术除去衣物，随后在网络广泛传播。

1 E- N8 R) K1 s# ~2 W& `尽管上述“一键脱衣”AI技术的APP已被封禁，但通过网页检索会发现，仍有网站贴出了替代品的下载端口。
% i3 s! e1 J' i+ M2 D$ ^9 B) N, h
根据相关软件的描述，有“一键去衣”等功能生成人体肖像，在产品说明页中还有着详细的“AI算法一键去衣优势阐述”、“AI算法一键去衣用户评测”等。
7 l$ x. B$ ?( x+ T: G
部分APP甚至打出了“免费下载，免费试用”的广告。
" p: [- \- Y8 o4 E: s
+ Z& l! |  c% o( W- Z7 U5 k% G7 d2 _如此龌龊的互联网行径，引发了国内很多女性的恐慌。有媒体指出，可能今后自己好端端地走在路上，就被人拍摄下来，用AI“一键脱衣”了，在赛博空间里被扒得一丝不挂。在现今AI强大的算法下，时间、地点都对得上的情况下，伪造的黄图可能会让当事人百口莫辩。

. e' a. X! j6 P# i  n( U" e( {这些虚假的图像或视频不仅导致受害者名誉和形象受损，带来难以想象的精神压力，甚至很可能被用做勒索、骚扰的手段。

9 n) E  r$ R' w4 a9 [* {* N% E新京报等媒体指出，希望网信部门强化源头治理，坚决取缔这种非法应用，还要倒查到底是谁在开发这种龌龊的App。
6 J- u. q' Q& M6 J
" R* s. L- [  b实际上早在2019年6月，一名国外程序员就开发出了 DeepNude 这款使用 AI 技术“脱衣”的应用，通过使用类似 deepfakes 的深度学习技术，DeepNude 使用女性裸照训练之后可将图像中女性身上的衣服替换掉，创造出以假乱真的合成裸照，也就是大家所说的“一键脱衣”。

$ h4 o. G2 Y5 `7 A这款软件发布仅几小时便因访问请求多大迅速宕机，而后有大量女性在未知情的情况下，被伪造了色情图片并上传到公共媒体平台。最终因巨大的舆论压力，开发团队最终关闭此项目。
2 ^% d- r& v0 z
4 e7 g+ j- {' h  L! q% H不曾想，火遍全球后被封杀的“AI一键脱衣”软件，又卷土重来了。

究其原因，其一可能是 AI 生成虚假内容越来越方便了，只要一张照片，人人均可上手；其二，就是目前有关人工智能方面缺乏更加严厉的监管机制和伦理审查规则。
3 h4 o, w. a6 i3 M4 @' Z2 L- J
* p, Z6 c; B2 C' M. [! h所以，要想关上潘多拉的魔盒，需要制度的约束和科技向善、人心向善的引导。
6 j" U8 J) Z! d0 R. d8 V+ K% U% H
: N( l  O  o. ~和AI脱衣相似的，还有近年来走红网络的“AI换脸”，包括明星艺人都深受困扰。

6 K# B, [, \* v! N+ d5 M2021年8月，公众人物刘昊然发博打假，控诉网上流传的某淫秽视频为AI换脸技术伪造，并向警方报案。

9 K0 q- d/ ]0 D3 |1 [& U3 [2 n, D前不久，某网红特效合成师，利用电脑后期制作将电视剧中和女明星有亲密镜头的男主角换成了自己的脸，遭到大量网友抵制。
9 m. Z; C- a# L# t. t* J5 Y/ A) o
但其实，对于AI“一键换脸”“一键脱衣”等深度合成技术，并不缺乏法律法规的约束。

2022年底，三部门联合发布了《互联网信息服务深度合成管理规定》，对AI合成的服务提供方做出了多项规定。
  ]$ F3 I- g( x" g, h
比如，不得利用深度合成服务从事侵犯他人合法权益等法律法规禁止的活动；AI合成服务提供者必须要求内容创作者实名认证，监督创作者标明“这是由AI合成”之类的标识，以免误导公众；在提供人脸、人声等生物识别信息编辑功能前，应该征得被编辑者的同意；建立健全辟谣机制，若发现有利用合成服务进行传播虚假信息行为的，应当保存有关记录并向有关部门报告；同时完善数据管理、保障个人信息安全等。

《规定》也指出，网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。

: s+ R  ]% D% b3 E这表明，所有深度合成服务的提供者、技术支持者以及使用者都将成为受法律法规约束对象。

. w& |/ V( @1 ?( T/ _$ ^此外，根据《民法典》《刑法》《网络安全法》等相关法律规定，开发、使用、传播“一键脱衣”类 APP 都属违法。

* t4 ~% \7 G; @% A恶意P图造谣以及进行传播等行为主要涉及一下法律问题：
0 {0 G3 L! }/ O1 z
2 h, L" g, P" Y4 T' N* O3 @从民事层面来说，造谣侵犯了公民个人的名誉权和肖像权，公民有权请求停止侵权、恢复名誉和赔偿损失。
  |# z5 G& R9 l从行政层面来说，行政机关可对造谣、传播谣言者处以罚款和拘留的行政处罚。
从刑事层面来说，故意采取P图等形式，歪曲他人形象，传播淫秽信息，涉嫌侮辱罪；将淫秽信息上传至第三方平台，涉嫌传播淫秽物品罪，如果以此牟利的，涉嫌传播淫秽物品牟利罪。
# E8 V, _/ _9 q+ D7 x
0 X! s3 Y& o. H& |专家指出，网络本身就是一个公共空间，利用AI技术“脱去”女性衣服，属于情节严重的侮辱女性的行为，已经达到可以追究刑事责任的程度。
5 A! s( n7 K/ k! J0 A8 Y* E
同时，相关APP的开发运营者也要承担相应的责任。
& K8 X  S" A9 i0 t9 T
在《网络安全法》第二十七条的规定当中特别强调，明知他人实施危害网络安全活动的，不能够为他提供技术支持。如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。

! i2 B8 J  O* |3 ?1 {7 G种种事迹警示我们，在 AI 技术愈加发达的今天，不仅要警惕 AI 技术在网络上的滥用和扩散虚假信息的风险，也要更加谨慎地保护个人隐私和形象权，避免自身权益受到侵犯。
+ r. a# c' [% n5 ]3 b
7 o: g9 I9 P+ p, a" @1 M如果当事人发现自己的照片被人为的篡改，可以要求对违法行为人进行行政处罚甚至刑事处罚，也可以通过民事诉讼的方式，要求行为人进行赔偿。