星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
% I4 Z1 l1 i; K0 l5 h# r
. _$ e4 b* j: I0 A5 }+ x, ?% L我猜绝大多数人都是用过的
) K: G2 A8 b$ Y毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
2 G/ D" }6 ^/ ]- q7 Q
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
, o* c/ x0 D- D
" G4 W: s% B! t, o: s& h
2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
3 W8 i8 S% H* D) ~! [( H0 c5 v9 W' [
% H2 K/ y, r6 {: [: y) M! F* A: I「N号房」重演了？
# H7 b4 m9 {" b, F( J% c3 Q5 Y; f5 S6 H- u, Q
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
; K9 H+ l3 @' e9 \9 e6 \9 o# u5 B. G2020 年 3 月，赵周彬被移交给检察机关
' B( f) B/ u! D @ B" }& H# I2 B3 p z& n
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
7 m$ z3 m( O" H! S% X( s8 p* t2 o r- |
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
. s1 ^2 i- d6 K" n- U
& ?: K$ l& W0 L, _2 \" T
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
9 w- L' F4 x' F% x
4 J1 w/ w& T, t7 U# e从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
6 V; y2 Z% U' K8 L5 @6 s. B2 b( Q! I: F6 s6 |6 }$ i8 U5 s% ~
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
, s9 X: j' g" ]4 W, D! f
& G' F7 \* z" y' I不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
7 D1 B |7 Q/ @7 |+ V
3 `( z( y- B- R% V. K/ Y/ _
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
4 j7 a5 B; k+ \' D4 U! R5 d% N- s" J8 s$ l0 ^/ p. _
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
. N3 Q9 D# p5 Z+ W T/ s6 Y
0 @9 r- P3 `6 r! R# k4 k% r) E% k虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
9 E F8 O% U9 h/ \
2 {. ^& z! \' e( d而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
7 |8 k& T) w" l8 ]7 K6 e0 w) P虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
* h8 K5 X# J }; T, u
6 T. N; a9 k8 x F7 o& OAI能做的真的太多了
& R3 a: p9 j4 \0 x1 G J/ ^& R
- r. Y( v* x @% c; E3 o（1）AI脱衣/换装
) Y( B0 { [ n+ l2 K2 k* U- {
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
) m# [! [0 Z2 L) o& b4 I5 a, m如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
% F' `2 p6 i* P O9 f V# M; x% Y
- T0 Q6 `# s9 K
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
+ q9 l0 p" P% D+ Q! g
- l& r k& a$ S' }1 v# e生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
8 ?; `: i6 f2 E
+ {3 U4 r$ k1 f8 ?1 e在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
% T; S i5 C0 c" A- @" f& y
: `. u$ z* j! F/ h+ X' p c h
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
. {; W9 }- C2 w6 G8 g3 L' g
/ R* `, Z" K' p, F9 m而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
^- s; Z- U1 H. B& p) d, a) P i
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
4 n; y$ ]) D; ^+ l! L w2 `' b2 [" |7 `
而比AI绘画更难辨别真假的，还有AI视频。
& z* P/ r$ J$ H! C$ V5 `! F
/ V4 u1 h( q& u0 F
T1 X/ n% O5 ~7 I; ?7 m. \+ K2 x
# U$ d ?* e }1 E0 Z' x
（2）AI视频换脸
5 E8 I5 a0 r# j1 G
0 R" L% \8 B L( f: t随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
. @+ {$ W4 ~- n6 {+ _& h7 R5 I曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
4 T6 v( X r' l
D9 T+ x; G1 d) U; w+ g( f而这项让人惊叹的技术，早就被不法分子盯上了。
& w7 D8 E) Q" @; d* R: j% g( k$ }# _. N3 t2 A
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
: J; h" ~+ ]3 A0 F" Z3 ?
) c! o8 z5 G v; c随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
8 i' h6 v. n1 m. l8 u
% M1 C( _/ p$ L) t+ ]. K类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
3 o$ d& S4 N9 s/ y
& h/ U# p7 T4 E4 |$ s% k) \$ R! T所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
6 F! e4 _ d2 S# a& [- o
7 i8 J" |$ t0 `4 H: I那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
2 H& A, X! _ E- m1 l
) b; C9 T) E6 U* C( m9 w5 O
4 Q0 J# \1 T. R2 ~, l% V2 K
面对AI换脸，我们该怎么办？
" w' p( }: ]- B- O- m0 w6 O k: H
, k1 K1 W: ~: @4 V. u
（1）立法、用法
" d, y; X. r* C/ \0 z( A. D X
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
: A1 r' u6 I0 [, H) W8 L% B) j4 k1 @4 W3 W! D# c$ z/ y$ K% S
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
5 x; }) s* x' I" y% S7 Q5 m5 m3 \
% ?4 d* H0 W. N$ X, j就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
+ Q& z. n+ [, B* I& A
3 y% }8 C- v3 D% J9 l; T同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
% v1 k* u$ u6 m0 R8 M% S. Z3 m; o7 {" z! p9 ?8 p- }/ u) y9 U
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
, \6 r6 y0 s7 ~1 j/ d
* R* r5 v" E: _; ^逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
" E/ |: I$ r1 L6 D% |5 C' _
! a2 ^, C6 |& v% M; g
) i" n9 W) j) a+ S) e2 A/ Y（2）如果遇到了，我该怎么办？
( b8 d5 q6 g# \2 P# o) y5 s r4 m& e) U0 c4 P# }1 w6 @9 z
① 收集证据
0 B: h0 S$ r( B' H: q, h
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
& o5 l! _: U S
/ S- P' Q0 A- [9 B收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
; b; y% @& Q1 i. A* j. }$ j9 T" |) h
② 报警
0 Z! e3 Z0 W8 x3 M$ f
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
$ Y: N$ X9 R' t1 x! f0 J; L③ 联系平台
+ ^8 i: T5 X# ~0 T( F8 a
8 I. r, O% y d& l如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
G5 h+ [! q0 ?2 M2 U
! O2 ^- k+ {+ }8 n9 @- L1 T
④ 依靠法律审判施暴者
, [/ L% j6 w, _9 q
( @7 s4 ?9 t1 X- P+ n; L如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
- A( n, w) Y: ^, C) p: K/ g
1 a0 z. v4 M5 C% `1 u u+ o⑤ 必要时可以出公开声明：
4 c$ Z4 s2 o! T6 z g' M
8 s+ h, b6 E( R
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
/ u5 |6 e2 `( I; f* `* X
8 _7 N7 f) J! ]" U5 M' u
在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
# z7 a4 l; ?6 f
, ?! [. [8 V2 G- [; ^" _1 ]" F5 c% E8 ^, K9 I
（3）如果我看到了，可以怎么做？
+ i( C0 U q' e( P" p; u" s. J
0 k$ }+ }! v& H) \: Z- f5 Y+ n
: t, p$ _9 s( ~% G) \: }《房思琪的初恋乐园》后记中有这样一段话：
; R5 ~% F8 a. n! I「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
; i5 e: [* |6 t6 j* j
' @1 n8 t. Z! M/ w% Y, ]9 D3 s8 d当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
: `3 i) Q! A2 |; I- o- `
8 u* T% T1 N/ Q
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
9 d. V. ]3 i4 c& c- H3 S
$ f( g# g$ g O4 ^. M0 [如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
# ~( l1 j$ j5 Z1 m
! W/ G9 S6 s8 i; S% D
+ Q" @0 A# ~5 p' j' T. {
发表于 2024-6-15 13:04:44