星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
& r2 f% v I h; S
: \; K9 @7 n7 q2 r& p我猜绝大多数人都是用过的
- d" I1 N- }# L/ t" a# Y毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
# J& k4 y- l6 r! V- p* L, J. K
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
, T b9 S6 ~! J4 f. ?4 Q
& H& y, b, v2 n' w, X' h' S7 f
2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
: g% _% I! H# ~' R2 W5 {
/ A( f; f$ Y7 F; W1 q! N1 X
* B3 } D+ ~2 ^7 w2 M' f! ?「N号房」重演了？
9 A- N' s8 V1 p6 Q
! q; m: J6 a9 Y# F1 C$ C; T- t% V随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
% ~( h! @& U- @. p. j
2020 年 3 月，赵周彬被移交给检察机关
# R4 Q( g v6 D+ C7 U! b6 N" a; B# K; S) i9 i# k; C
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
- B; ]) _* u' j& Q4 f* }
. U9 x& @1 F. O4 |* M! s5 k就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
( ]6 l$ f1 Y# V. o+ R/ b5 D5 R) R& ~4 U- ]- a
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
6 t3 D+ E8 F7 Y! ]0 ~2 u7 T
& V2 [. o/ X& |' N2 [' C, W6 x从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
+ [5 ~" U: F+ K$ h- {2 v# T' P+ @) T4 V
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
1 u% a/ g1 F6 p/ P' ~- t Y, _
' m; p+ S" a6 F( o3 O; f
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
( L# j9 n, B; g% ]' H7 E: E& d- j4 z6 O( q( [
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
! o' ?0 N4 q3 s# {2 m% G* _6 g; P
b4 x5 I( m+ P6 q+ g5 v
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
6 T; u# f( X) m. p$ N
9 h/ n0 I3 {6 G$ d7 g虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
: n4 [5 A; S8 m4 D w# E9 |, x$ P! W5 ]+ n) g# E! w# q* l
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
0 ]. m) b- j7 g/ o# |: c虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
* Q2 G! G8 ?3 N+ F5 I3 y- @) L- J
AI能做的真的太多了
3 M9 j3 k6 L, K R& K) G X8 U- [- F5 l4 I
（1）AI脱衣/换装
. R* O6 @3 G7 I- }6 J: o, d t
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
7 v1 d' u. u0 ?; S. O+ x! Y
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
# n3 I' }& O' k. A4 D" K, _% i, v
. V) p( a% S+ M( w* L2 \. N2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
) y" d1 r W1 F6 q7 Q& D5 a" v* P& r- j9 W% F
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
& ], t! v1 l0 [% }8 o
" l$ T3 t. n& @/ I在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
5 b, [+ c6 |5 h; c5 B& \' h" Z
& P! D! k+ I, W; T7 c! s; r+ ]但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
% b$ G4 X' d& N$ L' c9 c; i2 Z, ]" | @1 o( o) }
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
% }3 e/ N. }0 {6 O6 ^. P( [1 H7 j1 Y5 A4 o
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
1 j- p" r' y3 h1 e& g
4 D" [0 ^% M; _; d5 V2 n而比AI绘画更难辨别真假的，还有AI视频。
5 i4 s: _% C) y% H1 v
. I; p: _2 ~! g0 ]. k
5 G( H/ r2 S+ N0 w3 m, O
0 Q' f3 V% T- v1 P* e! ]( S! i+ U8 Y E; c1 o& R/ h/ |
（2）AI视频换脸
/ f+ A$ I9 x& e" @; \
0 L* x- @; U, L; f4 l
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
* Y$ L. g1 M! a4 K4 @, F# l$ [; b. @曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
0 P0 _' n. y$ M6 D- } `" v) ^# r% L5 _7 F- |; E! @+ u7 ^
而这项让人惊叹的技术，早就被不法分子盯上了。
( M. z3 C K* b& P
5 u1 ~! k/ S" b7 y今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
; j% j5 |; M4 u* U0 Q& g7 k9 w: F
1 e7 w! i* b# G6 f/ Q/ h+ @( i随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
6 r, R* |, Z! ], P& t
7 y9 {) \4 V% {9 k类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
0 ]/ V7 N9 S- z% u. X3 w
: W& }2 B9 @ e3 D4 b
所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
' f. X! p9 \6 m
2 y0 v% M& \& }# Y e那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
0 Y5 X3 C# B1 v& x4 W2 f! {9 r
4 S: |& T) H( ?
' q) z6 D7 _' m( K. V$ W/ G
面对AI换脸，我们该怎么办？
, w: M) S! Q5 p+ W- b" b: n9 a$ n8 h; c- i8 [3 D; e* V5 J" |
（1）立法、用法
) |4 p% R4 ?* t l% E, a
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
+ V0 w0 q# w7 W1 R% q W
, w% I1 C" X2 ^5 g
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
- L: T7 t6 N2 d" z$ H7 m+ s6 S) U+ P9 w1 ~3 q, [/ \# E
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
0 L F/ X4 O [3 O. m9 B1 E9 f( e- d+ ~ y& b* e5 A1 o, h
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
8 A6 E& u: p- M }% V% J8 O
\$ O, L; @5 ]如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
2 \% p% }' g5 ^; t% z( I' J8 V
& a( N) y& X6 U' J Y逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
4 q K- v+ k- f4 i' i4 Q$ T. L7 |8 b/ i
+ b5 r, z' u; j! V+ V* d' w6 O（2）如果遇到了，我该怎么办？
7 m; b) I; t: h
$ w& ]0 {* V2 D. O① 收集证据
) v' B/ P' ]* U1 R2 i5 H% A
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
& [$ `3 u4 @" @3 z) C) D
! W) ~7 v+ w6 t0 [" L: J
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
& s# e F( F0 ^9 ]& q! w- j" P
( I+ ~: G" k* M② 报警
7 w0 T8 o/ U" T; D& v1 G5 S, T
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
9 `( g5 a1 {" J- C③ 联系平台
! y# a7 P7 `4 g( ]0 Z" j; K' y! |8 N8 X; w
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
" V% r x- {& X3 ?2 Q7 U
% a9 T i" C5 v8 n④ 依靠法律审判施暴者
; W0 p! g$ D* }/ h/ b; z7 o+ f
, A @7 Q9 \6 I# _1 A ^
如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
" c7 m" Y% Q" ~8 ^' H) L. B& l M
# ^: U. @5 F g: l2 L⑤ 必要时可以出公开声明：
l# r1 x( }8 K7 M
4 n0 u1 u- h' [. Y) h ?/ M! d* p
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
" \" T6 K( E/ H. Y* y0 {
9 y9 k- G; t/ _! p+ d7 N- ]& _在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
0 {. R0 c2 x3 v% u; L/ Z; w8 z
$ y$ n4 V; U# q) o
8 E0 d1 A. L. E# v' V3 V（3）如果我看到了，可以怎么做？
/ p$ O5 A1 Z+ u) W& b- o* }# ^1 \
, J! q" V/ U& r/ [) m3 z' I- f5 P
$ j: w4 l# Z$ q$ }《房思琪的初恋乐园》后记中有这样一段话：
3 g, z9 |* x- e% g2 i& Q% r; g「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
i/ D( S6 [+ Q! Z- o
% a6 g5 w% x6 n& j! R当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
) X" L, j7 _, v& ^6 r2 f$ w- w6 _3 I0 ~- y5 T
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
2 _1 O% A$ h/ R
" ^8 e) u c8 j$ o6 |0 b如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
, j+ \+ N8 \2 |/ H' j
+ P9 \+ J' ^$ U% f8 k4 Q& S- _ c; L3 o3 f7 X3 E) W, H9 X
发表于 2024-6-15 13:04:44