AI犯罪：只需几秒，就可以毁掉一个女孩

骑白马的王子

星级打分

• 1
• 2
• 3
• 4
• 5

平均分:0  参与人数:0  我的评分:未评

想问大家一个小问题，大家用过AI换脸吗？

. a9 J* S# _$ O, n+ z# N我猜绝大多数人都是用过的
- N; Z9 D7 ~8 y; y, y8 f' E毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
. h# k2 {0 i) h
) l* L+ v# n+ X# A) \1 X7 O) H8 N2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
5 a$ j9 w5 d, m! t/ Z. `/ e9 m$ |
% ?. L2 a0 j. u! m" x# B6 h1 r/ K
3 U& N1 \& Q3 t* M% c「N号房」重演了？

; }: T- w/ V2 R. @/ a) T8 b随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
2020 年 3 月，赵周彬被移交给检察机关

但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
$ Z( ?+ J- W" ^
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
9 d6 M1 U/ ?" a) g
. A& K, \5 k' K# b7 [. n( N/ E& a* h这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
7 |- g6 F, U& T, E
; [$ `+ J# U  _9 P. p' o- C# w7 h2 K6 v. L从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。

4 |) Z, a9 q% I( F6 L0 R% y4 {8 ~+ [而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
, N# B0 P# i/ A1 h, n% V/ @/ i8 z
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
. d; V9 s+ ~+ \- m$ Q/ S4 J
6 Y9 ?- h8 ?0 n; e  \% T% B& g也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
8 w$ R' j1 @1 K* I$ h: y
9 A9 [: A5 \  c: X& o8 ^5 Q在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。

虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
, J6 M5 b& V' T- l2 m  |
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
+ i' H( t6 N. o
AI能做的真的太多了
! e% ~9 d) y) c  Q
1 Q) }( q1 h2 f/ H: \* y（1）AI脱衣/换装
# k" Y) ?4 \) f5 L/ h, b2 K$ c; p# w只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
5 d! _, |6 Z0 f8 d! N
/ |/ z- w9 X, ?, V0 w2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
, w0 X. l; t2 A# Q& \
6 m( d* W; p+ d( Z: l' ~7 c生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……

! {: [7 u( @! P在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
2 n7 y3 ~; P* O7 C) ~  B
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
- k" w3 }$ G$ J' K
  Y% b8 s" ]  X而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。

3 j- Y. @; H! d, _% Y. r) H它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
: w/ P, Z1 M3 M! {1 F
+ Q/ ^* W0 Y  ]: a+ f% Q而比AI绘画更难辨别真假的，还有AI视频。
! |9 j" g2 U: e! t1 f
9 u& h: P0 _- R


5 ]% Y/ r1 Q  j  ^( L( Q+ O（2）AI视频换脸

随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
/ p) ~# [; P8 i: A3 r; t曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
6 M0 X- ]7 @# b6 f) I' V
! A* E+ o, @; i而这项让人惊叹的技术，早就被不法分子盯上了。
9 m% m* T& q9 N0 f4 y
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。

/ Z. F, ^3 S" v# p( t# w1 t随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
9 I% u: k& s* Q
' @# Q/ i; [- ?$ b; h! ?+ I" U类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
  u$ m1 j6 Z6 O* O
5 }' v1 s" R( p$ J2 o所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。

7 z# e# M; z0 Q0 j" G那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
' `+ R7 i6 ]5 }0 D4 F
" D6 w! {. E5 Z+ B* P
4 W+ e( o8 H8 ?* O面对AI换脸，我们该怎么办？
$ L) ]: j) S! e  |: W+ r6 F
（1）立法、用法
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。

( k6 t! E$ v% k2 n不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。

就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。

同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
5 D4 k! }8 a" p1 D  @
. |5 ?! K) X; J. w+ G5 F如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。

% \  E" N* x' K3 N* j& ?# w逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
( R! W  U$ C) D

（2）如果遇到了，我该怎么办？
7 G! ~+ G, m) o: S
7 D/ N& i8 w% t5 p① 收集证据
8 c( S) S6 l1 N1 }9 W8 ^首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。

收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。

! P; q" k" \) a; t② 报警
$ |5 R' Q1 h6 G" f0 h8 d立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
③ 联系平台

' `; p5 q  Y3 o/ j* ~. p0 [. _如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
9 `' [7 [0 |: ~, R
④ 依靠法律审判施暴者

如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
$ N) U+ s/ N3 @. |0 T; P% @, F
⑤ 必要时可以出公开声明：
1 M1 r) ?8 ?) V6 j0 u( U8 Y
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。

在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
, ~) [3 S7 Y' `% T
# z+ \. x: E6 K4 B
（3）如果我看到了，可以怎么做？
. ]. O0 c5 R/ t& M4 B5 E
" {8 p3 |$ g  }* N, l" B
. `: g& ^( S, h$ z2 K5 b( J! J《房思琪的初恋乐园》后记中有这样一段话：
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」

当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
) u- k6 `  i! ^! G
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
5 d8 R' C+ T6 v+ k( X
9 o5 U/ b9 n" W/ r/ c7 j, M3 w% Q: C如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。

, Z, x9 n+ `+ O7 D& _. w
! c( I0 X( X2 j' C$ ^+ t8 g4 P