AI犯罪：只需几秒，就可以毁掉一个女孩

骑白马的王子

想问大家一个小问题，大家用过AI换脸吗？
: \/ l, p/ \9 [" \* }4 c: P0 f
2 _( O6 v/ h, H我猜绝大多数人都是用过的
' I5 @3 G+ |5 a' K1 t( y! K毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
0 Q  }, l* T& K) E从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
8 `9 Y$ h+ g, ]+ j7 T
: N0 L' \2 U6 ]' x& y7 e2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
: t, E3 i- ^! A: {+ `

4 w0 M) s0 ?  L9 @& C「N号房」重演了？
, o( E6 C0 g* p7 M) W7 |
' S6 ~8 J1 A# ^, ^7 k随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
6 _' g: S! @# J: c2020 年 3 月，赵周彬被移交给检察机关

但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……

就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。

这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
% K; j7 W( H  w1 k
从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。

! p. q3 h' b4 B/ L2 R1 `而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
( w1 H# z7 e+ S2 _! r2 V) B
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。

也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。

在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。

% p$ U1 I1 ?$ w$ a虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
' Q5 N* X- _) ^4 r6 U( @
6 {2 ^6 e+ A! x% w; V2 N而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
: {, K" q8 _. ^虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。

+ }' J3 Y$ F7 IAI能做的真的太多了

! o4 B. V( n: n" n5 D2 h9 S  |" F（1）AI脱衣/换装
1 d/ j# A3 t6 J0 U" \! `只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
& m" y) p4 u5 c% J) B如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。

  Q+ A2 }6 x/ m8 S( m' O9 N2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。

生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……

在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
  G: W6 ?, Q  p& x) W; G' m7 Q
6 L: I( t: h8 V但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……

, m9 v5 f: E4 z: R2 W而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。

3 T; W0 h9 r7 D  X) n5 \+ u它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？

而比AI绘画更难辨别真假的，还有AI视频。
$ [- Z+ C/ t+ p* S/ Z2 q


, G( U) ?( J4 Y% J/ i
+ o, `$ J3 G+ O5 ]$ W（2）AI视频换脸

' r$ I  S4 i9 ^随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
- A0 w6 m' h# ?( e
2 y' Y8 ?$ C* H而这项让人惊叹的技术，早就被不法分子盯上了。
: W" J6 h. \: @" F$ ?
4 i7 y+ Y# y0 \* M9 f5 Z2 b- K今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。

随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。

2 e& W* K$ P/ d. a. \类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
: z6 R9 d; \: B# \
所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
/ ?' S2 r2 C, X/ q* M, e/ {  v5 |
* \1 {" U: z; b3 |+ d: p  \8 ]那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？

/ C' ~5 a1 g/ J6 G( W
7 F  [9 ?. ]6 |0 V' x$ T面对AI换脸，我们该怎么办？

（1）立法、用法
1 H6 ?* v7 }/ r: C$ X! y6 R2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
$ S. s& U! `& s6 t
: D. }0 X3 R) S4 {$ d( V- m7 C不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
8 Y; f1 c% L5 L' i- s& z' A
& M9 e/ e. A( F7 G就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
% Y& d  |( F; q* A* D- q, ~
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
3 h: q# S4 E+ @; c7 x  f
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。

( W, f; n4 H0 N# `逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
4 Q6 _) n% i0 o, U

+ }3 m" S% D, \# b（2）如果遇到了，我该怎么办？

① 收集证据
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。

收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
* k1 }1 r, W$ R. c  w( x+ C
6 W7 S# }; W& c② 报警
" l0 x* X/ `+ G8 E9 v* X' Q. v; u立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
& A5 Y5 t' r9 ~7 i& X( z( B/ E7 t7 I③ 联系平台
6 w7 Z: d* W" {. u% ~8 z
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
' ]) R' R) N" J6 Q
④ 依靠法律审判施暴者

* |. z+ R7 O- Y2 s如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。

4 i. T. Z$ \0 i9 O: `⑤ 必要时可以出公开声明：
  A: N. [0 s" e" U1 N6 _' p
9 K% H- X, k* r# d6 e8 @, O% O如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。

在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。

1 {; ]- ]& V% x( P- {, p* m, V4 z
（3）如果我看到了，可以怎么做？
  O9 l4 D# S- x# Y& W& _
& Q: Y9 L5 `! h, R9 H% c" e
% S$ i  |' a' `' v《房思琪的初恋乐园》后记中有这样一段话：
# I: n" a- \% I- @& [+ W「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」

% e6 L+ C, J2 N6 a当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。

因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
( k/ V. M# F0 O7 j9 C7 J) a' T9 ?
. p8 W% E6 c3 J  q# u: t如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。

% Z  U# P# O- I8 `5 X- X% ^