星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
% x4 W: t+ `! Z+ a* M, S% K C6 h
0 M7 s. i+ Z( u% W/ L. H* l1 G' p* X, z
我猜绝大多数人都是用过的
2 z9 R) Q% _2 y3 D1 s毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
4 h: G3 U7 D0 K9 }. K
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
2 {; L( m9 j* N/ [
" q0 }, {# d4 p$ K9 l, }7 U/ y2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
$ X% {' I" n3 a* A* N
: X, O8 l4 \1 u, t$ ]
' R! a3 \9 |" q7 t2 e3 r「N号房」重演了？
' n. D+ d" g, t, l: W9 x) f
, E+ l0 e; z% l9 ^/ ]( c' ?) \随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
! x2 b: R X+ g+ `% Y7 |3 x
2020 年 3 月，赵周彬被移交给检察机关
8 }5 F7 C# ]7 j
+ P& `$ k1 X0 Y6 U. Y$ J
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
: K5 n8 a* ]1 P& T& U g$ Z- J
3 a& v5 `4 r J( _- Y, S
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
% [& l$ d& d0 t: g, z; L
, T# T7 `3 c ?6 ~8 |, j+ g; B这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
$ Q- ^3 E i; S V* \
4 H1 Y# m/ ?' n9 E从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
( N( }' U+ V7 ^9 s) S
& Z! |9 `# @# x6 Z f: V# }而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
$ `2 w" Q8 G( O0 ]* O: \" R
& m, y A1 u+ L2 F4 v! k& {不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
* M0 I( N9 E3 S1 M' s& D1 `5 s( R2 {. O' u' I; q. \/ L
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
4 {: H, |* Z9 ~) N; h$ m% I
/ U; C9 ]+ f) k2 ?$ P$ z% C/ o在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
( T' _) T2 I9 H c, D7 O P
+ C' B6 D. x; \8 z9 ]* D; z
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
& k* {- r( L7 E: d N) X" C' _
3 z r7 `: ?+ N- D: q2 j而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
2 l0 L: ~& r! J7 |
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
! L/ X& z' Y8 @1 `. a8 I
8 O$ {, j5 I: h& ]AI能做的真的太多了
\' u1 {2 q5 D+ M! ?) R, B" ]& c, I5 \/ M
（1）AI脱衣/换装
- K2 M; z( ]: F4 \6 O
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
1 y5 _1 O9 y3 a( Y, z
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
5 u3 `/ f( W: H* A e. E
9 `9 \9 |2 r' m2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
7 t0 y( z$ R6 {# [( x" X! J
- e( H! x7 B, }6 q; V7 B; z1 C生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
1 D+ i8 K( H' A- ^! s
0 t* r) X& V% K+ t R: H2 O4 C在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
8 L2 V2 [" R. X+ I
- k2 |. L- l4 U5 {" A; z7 u
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
" i+ V6 N- O; P" ?
/ P1 l7 T8 s# C5 L7 K. f" n而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
& D! ] }, @2 [) M% r, f; Y1 Q6 [( K6 t, J, J
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
( H, p B6 ~: z4 m
+ f2 p D. ~! Z/ R而比AI绘画更难辨别真假的，还有AI视频。
& Q e2 j7 @; g. s
) [% V; I; c. ?8 j6 {. ^! R
( S$ Z+ g8 b! N+ i0 ]; n
! o# y9 X" F# O9 }9 k D1 [: G3 l, ~' }4 A
（2）AI视频换脸
' K, e& l1 {1 o, o
2 _0 M3 |0 H6 w
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
* V: ^% @7 A7 E' r& `
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
& ?9 s5 E/ y2 q0 h/ k4 _ ]) ? N W: \
而这项让人惊叹的技术，早就被不法分子盯上了。
" o+ U/ W }. A' U3 \7 D" H' y
4 Q' f7 @: [- O: t- c: I今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
( o; Q& e, E( X) I! D6 X, K
) q& g8 c2 ]2 i8 g; j! a随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
7 P2 h6 `5 T P+ K* s% w3 B( A1 Z2 o% G( n$ y y
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
?" c) w/ R* |
, q4 S/ _/ S7 b; Z& [4 @- e$ s所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
2 h9 p: r) ]) U4 `" D; d) \8 `7 x/ W& b. f" m/ D
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
! U* J0 ]- N5 \1 X2 n2 \
& ] x: u% ]6 z% q! `( t) Y6 p" t
$ |9 u# P8 A: u面对AI换脸，我们该怎么办？
1 p$ N/ x- T( ?" ^; ^' [
6 ]# u. F& [3 r2 ]0 w, e8 u0 B（1）立法、用法
7 i, }9 B9 a- ~2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
( E2 ^& O4 B7 N2 `3 a
- H. B6 N! S$ Y4 O$ R$ L# q; G! R不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
0 v$ j3 Z5 N" x. f; I2 [- E6 q
$ ?' z: R8 h5 L. \7 A* r就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
* h/ L! c; A3 t; [( J) x: i% ^% p+ n- X! M
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
: A4 d# {( t, b+ y7 s
$ _2 y/ P! F# G$ x# {
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
) v! a0 Y" G4 p9 j0 R' w X8 x! ]
V6 \- L) @( i- e! x" j逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
( h7 K( F8 v) q- C1 I0 d
, X V* l" x- i, }/ k8 a1 z* l9 B
5 o8 z! G8 I5 ~' `" s1 @; ~（2）如果遇到了，我该怎么办？
, [6 P: f, N" R; W) |8 \ A0 ?/ D) s9 k. q' |- ~4 ?) N/ N
① 收集证据
) |2 G/ r; t5 I- _
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
, B" w/ U5 _. Y
2 q( y2 Q- c C+ z) M3 J7 @收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
3 j7 s K7 |5 F9 M3 V6 G1 F7 J
: H( o5 \, j. P4 \% s. M
② 报警
7 U4 x: I8 Q- W4 k
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
: f% z3 @4 G8 `$ L③ 联系平台
0 w# R7 ~9 R" j T D8 U! J% ~& j7 Y6 b1 r
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
. l1 v9 L9 c c, J6 z/ d
: y3 j1 e0 W( d* X
④ 依靠法律审判施暴者
, k+ s! F4 r& a9 k0 I( s' p3 `8 b; p
如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
; a" B; \7 v* y9 d6 M
+ B8 [: ], i) u! n8 Z; P
⑤ 必要时可以出公开声明：
8 G( T8 |% P: g. _- i5 t/ j a
$ `) w8 q) \1 R1 Y5 `
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
6 w8 z1 B* z0 w
4 A( J% [* T8 ~2 q在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
5 _8 F3 k% N; z4 o- L G2 E l1 j. C }/ z
' A% b. P$ M4 i% O8 _% c（3）如果我看到了，可以怎么做？
& Y2 w# d# c" r
, B- g; p, o) v" @/ U
( y9 _6 L0 O9 m5 n《房思琪的初恋乐园》后记中有这样一段话：
& a4 |% j* A! S4 l% X; j, [) Q; D「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
- R3 C# B( y& k X: H ?8 e7 x
6 y: u& F# B: d. b当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
y4 T6 ~# X7 N4 h: ~6 d
9 H; B1 B: O ?+ W* g
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
n3 c% @9 t# z% C S1 q
0 t' [# r! H3 f
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
* k, A3 d8 ]/ K+ @
+ n+ D* e1 M! R2 ^' Q
# n2 q. J; q0 }- `" B 
发表于 2024-6-15 13:04:44