星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
: i) m" Z' J8 O$ k1 T8 b8 E- T8 V4 z5 r6 [* A7 c
我猜绝大多数人都是用过的
/ a7 f; Q8 v8 N; u毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
( B2 x! F$ \+ w
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
3 u& W* z; I! k1 l
/ S$ a* T% a- o3 [; e2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
+ p* X9 }: G+ I( d+ n
6 L! N. U9 Y8 G$ c2 |
7 {7 V$ _9 q, I% i/ h5 G7 E) x# D
「N号房」重演了？
8 T8 F4 u7 a. e7 _( X/ x
5 P+ g l" J$ a: ^+ j `6 L9 Y随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
9 z3 D. n; O3 B, k- _1 j$ ?2020 年 3 月，赵周彬被移交给检察机关
3 y# ^. o& T: {9 b! N* j
m! I: S+ v; k( h# @但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
* v0 E, O8 R% R. t' r) g$ h
! r- `) a U, f- c9 U就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
! D: t3 S8 j2 B
* E% C( C3 [- v7 F1 M8 Z; e
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
" @! t* M% P$ ] n$ \
+ | ]; Z$ U ~& n% M) ]! F从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
6 w! N. R* |' U% A% J" w2 e2 w; A% ?$ M0 x. z) P
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
* s/ r& f! @6 c7 j- s6 H
0 m. G3 p' ?2 M- j) b
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
5 @3 |: j W# [ {' Z( B/ z0 ^, W9 J6 J: n
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
% r8 l* t/ r. \5 H$ G, A1 B( p
- u' ]; P8 [& {* P7 M
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
/ x9 X+ i. O/ S7 y) j$ a' ~ G
$ `: j" C+ L) R8 w& d5 y2 r虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
g3 s; a9 M; p. ~2 L1 g7 I
7 y6 w1 T' V- G5 \6 [" Y0 x% \而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
- R/ o% z! M c: i9 V8 f( T0 w
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
# ~6 f4 v% T, o1 }# D+ c; M
) Q0 i; y9 ?+ e- M
AI能做的真的太多了
# h4 C) ?1 L w+ g1 _5 w
& V+ h$ \: c7 H5 B（1）AI脱衣/换装
. P; r8 Y0 y+ h% O- C) d5 A; R只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
6 @" }# y$ J. T! x/ m# w
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
9 Z1 `1 X6 S9 r. Q9 I$ x6 m$ H( o
9 F$ `8 g- P& c+ T( f( X: G2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
~6 |1 c X4 p) s7 a
* u( {3 h6 L Y0 h6 y+ c }! ~
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
7 Y7 R4 x& E A8 Q/ Q4 w- {! k
. f2 H7 Z0 J0 O9 ?. P
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
" p' L B U: d1 G& r4 l
$ F( q9 R. d, Q, X$ _2 g( a( G但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
, g0 J' k. b% o0 \- h/ A( Z7 ]3 L
* }5 ^. }0 v! u! p' s而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
) @, g- j. J3 s+ ^! @0 \
% n( a$ I6 I; D它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
* k9 Y" `& B6 o E: ^9 N8 ^. N7 x3 [9 h' @
而比AI绘画更难辨别真假的，还有AI视频。
* D7 b6 a1 k! j/ C0 q
. T. t2 E! A7 Q1 N3 }
9 Y" V/ m2 n3 |4 a5 {; Q( N1 ]" T* K8 }% x8 m; ]
2 m# Y% v( f2 L（2）AI视频换脸
3 I M5 R/ [2 [/ }4 M) D! Y0 A
2 ^) T+ O3 S1 {; K: X, ]2 M/ [6 h随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
4 L1 r I* y1 ?" k& {曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
& b& Y$ Z7 a: {7 a; O
; q" U0 T" _6 I# \$ n O: n/ j, D而这项让人惊叹的技术，早就被不法分子盯上了。
8 {1 |5 W+ Q3 K3 Q# _9 \
/ `, k3 A* M6 J9 C今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
% u) ]1 i' X7 h9 a/ E
* }- B8 p5 H4 W* Z9 W# |9 o随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
: n1 c: S0 ^/ g+ U. t. Y% y; w
( U4 o* [) H$ \$ N1 J8 T
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
, i. v# N( y& z1 ~1 V. T; J
: }8 g/ D) z' e, _4 G所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
3 F3 \7 R( ?" f: R8 K
- S; s% q0 |3 h- o6 B7 r那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
0 j: f% t0 K% d) Q) e0 B' R( z% W
% n2 |& H+ @( b$ P
面对AI换脸，我们该怎么办？
2 ]- P/ i. B' D; v2 s
5 Y! a& N1 Z. }; t& }% f（1）立法、用法
. F# f! R7 O c
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
9 _+ ]0 u# Y5 |0 B% X3 l/ Z
/ C S' s: p1 e" @不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
# h) R" ^1 U& O# F( N8 S, l9 R' j
& u8 s5 y5 P6 }; q% V. m
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
9 S8 {) Q$ d6 Q: x4 I4 f1 Q) Y5 r) |& c- p( C; \8 Z
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
9 Z3 _* r2 B- q
) H( j& P4 A5 b5 d" t) `$ d
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
/ K3 q) M1 L: H" C
+ A+ G% H. r8 p7 T) W2 e* H
逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
# |$ S% V, [8 D7 S5 o7 z
. {' _# P, u7 }/ p, o) @7 z5 H$ U+ d) c0 |
（2）如果遇到了，我该怎么办？
4 w6 g; j' c' u1 y9 N) [, F! t
. Q9 l( w4 x9 P4 Y① 收集证据
# X6 y2 s8 v+ f0 K首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
5 a& X6 A7 B* M: c! W0 V# p- V3 m3 [" |1 e) }/ d! P( {
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
: n9 G" O4 G3 Q5 R, Y
) {. n3 Y( a3 Q9 O0 z" Q② 报警
! q+ w9 |' t1 D3 t, H8 n& @7 T立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
4 v- e9 v+ G- _) l* o
③ 联系平台
! B# |6 A$ ~$ \7 N0 `; i4 g5 J! E6 s8 h
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
# Q K& ?2 @9 F2 Z) Q1 t+ ?. n% Z9 \$ a6 _
④ 依靠法律审判施暴者
" ~- s) e% P6 P' l
6 R8 I# j7 G$ B, y1 r+ r如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
8 g4 U( ^! i+ E( o* [
; |9 a9 c6 A( r6 ^⑤ 必要时可以出公开声明：
4 W& f2 |: J6 Y5 J* ]5 p' }; U
% r% m4 K' ^5 n如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
) X n0 E5 A0 [3 |3 M
3 c+ P* ]* t* }7 s在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
1 W1 @% K4 a8 A4 C
4 z$ j' d/ }0 r# i( c/ N" A |2 t
9 M% r$ Q6 A ^& e U0 B( h; C H（3）如果我看到了，可以怎么做？
3 g- R5 p( X$ O" C/ K
5 |- | ?/ U6 m
3 e" K! J& ?( Z5 P5 ~5 \
《房思琪的初恋乐园》后记中有这样一段话：
' E# w9 v; X% O+ U. s/ @3 j「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
: ]0 t6 ?* n2 Z9 m" A; c
( E5 Y* O0 |" X4 \& Q+ B
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
7 b6 }, B/ O8 n1 i2 j5 M1 _+ ]: w
8 C8 d7 @( n" i" a S因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
( k4 X2 E" n: |3 V( {1 A2 ?3 l' @, S, S: ]1 J$ A$ _( S3 M! q
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
8 q6 j; B( J; w# d% g/ A6 a
* y/ ~/ t# S7 c5 t6 N
0 q. u8 M9 p2 W' @6 t# r' n 
发表于 2024-6-15 13:04:44