星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
2 y/ h! p) l0 l# p+ y6 r7 S1 U* z2 Z3 s p4 m
我猜绝大多数人都是用过的
% O' \! L0 \+ O. Q! W
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
' i& j" c' ]3 ~2 K. c从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
8 Y# P: o0 _3 [8 h; D0 R: T
6 Z# u1 {! {# D2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
" a7 v% n3 c" u' I/ V1 ]+ w7 w1 m3 U. B( @1 J
- O$ t" a& P+ |9 V* q0 r「N号房」重演了？
5 P( a! C( b/ |/ M+ I7 @
# Y6 T" w4 D" j, r随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
" M9 Z. U, d6 }" ~: O; f
2020 年 3 月，赵周彬被移交给检察机关
) B) \0 L/ D; ~$ ~6 }
' e; H3 y) N# r1 Z9 d但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
3 J. H! m% G! a5 c- @8 o
; J1 E! |) N1 o* J/ f, U! G就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
1 p4 M( h Y/ |' R7 ^
m. U# i" {. D" o这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
' G: v: D0 N+ R5 R* e, |' c
R# k0 E( u/ r2 a5 N从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
) j8 ]8 L" ^6 y+ Q3 e% g$ D
- ?2 T, H4 U% g) {4 d- V) R% ^而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
6 w, |% a+ A7 J, P! v
( M4 H4 U4 N7 b# k不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
' o3 L& k: L3 T F) U4 H
, ?7 P" W' k1 H* y* ^7 L& B
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
3 V5 u. g# u- R2 R/ a3 o
5 q$ u* e5 B7 o1 B/ N! w' v在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
! Q" V% R0 O# V2 w3 {5 ]8 x" h3 k6 M$ e5 y; Y/ Z1 \% F
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
+ h0 C6 Z) \- f, C" ]* c, T
2 C/ \3 @1 l" A, \而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
$ `4 H0 T( E; a- }+ c虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
4 K4 X7 E5 J( Q, f( G, S5 p" m
' `$ `) J' w4 M X/ I7 EAI能做的真的太多了
. E/ V) f6 p7 _0 Z+ Z# t1 Q6 G+ U: M: i( X, j6 ?1 O
（1）AI脱衣/换装
) J6 [# g. D0 t2 [只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
) K) w; `% f- g! v如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
7 H$ o. |" y; D* H+ @3 N# A. m% p! |/ | s
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
8 U& o0 K4 K" l$ e. }# v+ r* p3 k
1 }) e0 R4 q4 H# J% f生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
0 h' X* b- m, C# C
! o' M+ U- `: h) b
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
8 M# V H3 T4 k1 Y
& j0 d: c/ Q9 o- _3 }' m Z* @4 R
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
3 L! y7 E. {+ {
# V' k( k# T" r. B, x( I而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
9 o! o- e% l. e1 g
2 v* t: i- v3 Z8 a7 p它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
3 K: Y+ c5 m& @5 V+ n" X" T. g5 W
而比AI绘画更难辨别真假的，还有AI视频。
" y: i# }2 _' p2 X' u6 X
" N( y5 e; C1 e( \! M. H0 M( X
# E/ Q. ~' S* S: N, }
' `% ^+ K' [ e) @/ L
" P1 X0 S: q" B: d2 h" y（2）AI视频换脸
! s$ V- r) O: D6 X
9 E" \. J6 G5 f) z. f
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
8 P: A9 ~$ h/ d* J' G3 L
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
) {9 S/ @2 A8 P. e; J6 w) E: P$ i, K' u
而这项让人惊叹的技术，早就被不法分子盯上了。
# t: w+ H% V* P% v
2 z4 v. ]: p5 F: f
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
+ u2 c( n* {, }6 F: f4 l0 s
" i% a; H& b; [9 J/ }$ u" S% t1 v随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
1 ]. t* @) T% u8 t6 @9 j' g2 f6 Q M% F. C
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
) J$ \4 |0 I4 e. V) T* `5 c2 [8 V: F$ n
所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
) `7 l# |% O+ y* d. g8 d- F% u
' F4 L& C) b0 r. P* T那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
9 p* Z3 m; s9 T
: V" Y- g* g( u- A2 Y% Y
# v& `0 a$ g7 V: ~- K3 D7 @面对AI换脸，我们该怎么办？
0 P1 Y, \+ x' y$ }9 i# R$ y: W$ ?
e( p' U. ^; h6 ~2 v' S+ ]
（1）立法、用法
- n3 A; B7 g! H; m. n' x
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
( W; E( {, v& Y' u; ^
1 M/ c4 o, N; `+ a3 ?$ H
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
0 B2 j0 C+ k% h9 Y* I8 J4 E, y6 ~ R6 h& i
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
( G2 J, p' H$ u2 }3 ]
; `; k: i; U8 p; E5 Z4 D同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
8 Z& W1 r0 }" M; x" W2 m* g" o: b, x2 L& d/ L2 [ V
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
( [0 ^- M2 X' z6 m& p
# v6 { n2 B3 T8 e, I逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
; v; t) P% g7 n* Y% p
3 _6 c( k% P# R% n# ?5 x- f
- {0 h. t7 h) _$ W0 b* E9 j0 `（2）如果遇到了，我该怎么办？
5 Z" g) L8 x% n' p
1 A$ J* Z. O7 P① 收集证据
$ r& r+ T; X" }8 z6 g! t1 l首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
# q9 c! `( s. ]3 q! z
; @ I P* o/ O$ Z1 l
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
+ A5 d4 P7 {& ~* {% j5 Y. \. c4 N
. h8 D$ J o, M7 G3 H& ^- H! W) F
② 报警
$ A! w6 V8 q& [2 ~( l) S立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
5 F K9 ]" S8 Q' D
③ 联系平台
$ P: u; c* t+ Z. A4 t9 \) O/ L6 l6 w8 C4 o8 j8 l5 g: F! ~1 F/ V
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
+ h' x5 t; |/ H/ P2 M7 S4 q0 w! V9 D4 d. H4 \6 P
④ 依靠法律审判施暴者
8 `! C& a! T Q" t8 \4 D
" o0 y. q, ^; x- X* U, ~ j. Q+ e如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
7 l7 b; l: \3 u
; C4 R! c) t& d⑤ 必要时可以出公开声明：
8 ~7 Z1 u, ^1 G& ^3 { ~
/ Y: \+ ]- g' M, S
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
A6 x- M: j5 }! A1 X1 L8 v% R2 c( z' m T
在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
7 ?; {" g5 I' N2 \1 R4 V* K1 h, @
% E9 L8 K9 w: |- y7 K+ D
: t( ]) t; ~* V" Z2 L% @) u( U（3）如果我看到了，可以怎么做？
& t6 ~+ {. ?$ }6 B
) M- u A- b; Z* }9 {! o3 @' w j( O# _( Q7 w% n+ E' J
《房思琪的初恋乐园》后记中有这样一段话：
" G# U# N& u9 W# ]9 C h* E) n$ |「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
3 H4 y+ ~) {3 B+ u7 U* r4 O
% P9 o8 `2 h1 A. |7 u当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
$ Z+ @& X& r' s/ p; O6 j' [( i: V W* Y3 T$ o2 t
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
+ W, d0 p/ d2 `3 s1 F* c
+ [$ k) W; b- |/ K6 Z& [
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
+ [ B" N. L( L" T, w2 b+ o0 [+ f) l. Z
0 M. `- y& d* W4 r7 I
发表于 2024-6-15 13:04:44