星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
& }8 R6 `' ^& |3 a' z. y
* R* x l4 m5 j" Z3 G: Y. E2 }我猜绝大多数人都是用过的
( ?; ?* G7 S k6 }8 p
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
u5 P: U' r) Y8 U8 e
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
+ T5 r) E: X3 K8 o& H+ j% S0 y
/ |, l: ~. U2 r! t5 O
2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
2 g( H' H) ?& P* @3 g
; }/ ^6 z& p t9 ]. z5 C# v. `
! w* n; g1 v* f「N号房」重演了？
9 n! Q$ Y/ s, _$ b5 l
% D2 \* S, d6 N随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
) D% E8 a1 G$ V& p0 x" n/ i
2020 年 3 月，赵周彬被移交给检察机关
. x$ ~* P5 d2 v7 y1 G# M: j% r2 S9 l
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
" t. ]6 S T, t/ g' `' b5 c3 Y6 |9 H+ o; q! i: h' b! t
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
# }% I. r+ m5 O
' y/ v: I1 k& M" q1 v9 v% h
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
n6 o8 T' S9 \0 J
0 D/ |4 @4 V" M( M/ C1 h0 Q从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
# n) E! y5 P: L; ~3 T0 g+ @9 N! c
: Q- ~, H1 v8 p( K而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
" [7 @! K+ K3 R3 `* u& D
% c: }0 n+ F9 T E% }不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
* j% c7 A/ X# H+ x. y
- A3 V+ N% n. D9 _: q也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
! S! a3 _; q- i1 k
. ?# D6 {% v+ V& B* ]9 d' }) T( Y
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
" J, d+ V9 X7 c' k) c
/ N: L0 R. l: q( J5 J! {1 ~4 |. a$ H" h虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
; ^2 c. S* u( [) d! c
8 _& }& h6 ]6 g' H( P而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
1 ^1 C& ], q0 G6 O5 ^5 w
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
+ y) U: M# q0 y2 l+ x
( Z P' Q/ Q+ F& ~6 U2 @AI能做的真的太多了
& E6 I& u2 S0 f9 j7 F# o9 |
/ r* S" i- y& R6 u" X" o
（1）AI脱衣/换装
0 N) ?7 _4 }; l0 h只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
. ~" H4 N5 _9 m! M3 {如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
. N9 N+ n S- M3 o% L9 r- Y1 M+ u1 g6 o5 x6 f
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
; g! z2 M$ X w; X% F
8 u4 g3 p/ Z; A8 a( _) s, h生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
1 n; G! N h: E! f5 n7 r, F2 }/ S$ @( F
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
5 X0 e& H2 |2 r6 v& s- h! P# J
* G( [! E8 M: _- d7 T1 r
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
* |2 Q' m& {# g. [ a! l' ?
: K P5 t. ?" R; e! ~# J而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
% E5 l) j" i" [! @8 |( u# H4 _
8 q; {2 z$ |; L/ R% N I! j6 ?& H它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
c9 _' r) S" C/ s% m) c
( M& ^& G2 }7 U而比AI绘画更难辨别真假的，还有AI视频。
]8 L1 n4 F8 k: f9 F' \3 k2 P4 G( X5 i: H+ b& ~/ A; c
8 s9 D0 i& u I
; f m0 h* w7 {4 A+ K' c$ X; F) T. Y7 e3 H5 Q, y+ }7 n3 a& J
（2）AI视频换脸
0 p0 ]7 y5 n1 K4 _" c" j. ~7 P% Z; V1 _% h
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
& t3 o& l1 E; ?3 G4 X
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
2 c% `; a3 S' `3 W$ s( h3 J3 A
而这项让人惊叹的技术，早就被不法分子盯上了。
' y3 T3 l& U8 U, m( F; s. O" b& C5 ?/ u- v
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
5 B6 A" R3 v' `" T. ]6 Y, X3 ?. N1 Z+ O
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
1 Y ~( O' P+ }" j
7 r# g% J+ U7 \1 ]' d
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
# R4 n [, a2 V, ^5 e
+ z( |! l5 E/ P0 a; N6 m1 P ?3 O
所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
: q% w3 Z6 N0 u/ L' I7 I1 o o4 S
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
6 T, k3 M3 U) n* E, N5 ^) I8 `+ y
. N( m1 d! m0 R* d9 u* V
* {4 n' u- m0 G3 L2 n面对AI换脸，我们该怎么办？
* ?" I7 U/ e: r4 F& ^. i! P) }' d, V. c" @6 y
（1）立法、用法
! o# a6 s/ z( ~: `2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
2 H( ^% Q% }3 e4 [& R: c
0 W. Q7 I0 d4 @. J! w不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
* q* f* G/ c E9 ]9 U7 |3 a! }& C. I/ j. @0 j7 _
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
( l. n/ ~1 k- n5 f9 Z' X0 ~! [
, E& D: ]" `$ I7 _. Q; B( r同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
& f9 {# w5 {9 H- x' q* b+ o- P
: n1 Z4 i l/ W; `; Q
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
C4 n' C4 [. \' C9 f
9 G8 L) j; b! w/ x' {$ b. V逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
& U/ ^; C- W4 @( M6 l; H- a( G. Q2 J. f+ Z# R% J+ d! Z1 W1 o
9 I) J( P# t/ @" o. ^0 ?6 r8 ^
（2）如果遇到了，我该怎么办？
& H5 x+ Y* r: M1 V3 M7 G: ~& K
. | Q3 ^' h7 d& d, j
① 收集证据
* G `7 o4 O6 g) Z首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
; ?% G! W5 p* `0 O! F
3 R: d8 U1 I: {& U$ r- N
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
0 b8 f7 C4 H/ R! V( Y- r% o
' h7 R ~ k% C0 f* M8 W② 报警
+ i3 `5 c1 N4 {" F' f( T- G" e) Y立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
4 g7 M! }1 V- l5 N0 i/ X
③ 联系平台
9 f, s5 Z! x5 m) v4 S$ d4 @5 _4 z' h' T6 m0 E+ X4 t
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
8 C z+ L$ g* [3 o$ m4 o/ D
: E! }$ \9 {9 |& x! u
④ 依靠法律审判施暴者
' t& m$ t% M: Y% R& C8 J) C6 A
+ n$ U, ~; K* g! [5 W. R如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
9 x7 r' _' q% B
9 A9 M- | H3 M( w; ^- C⑤ 必要时可以出公开声明：
5 H- |* c- s0 L0 G, \0 \
7 s# [' x) z, n, N0 {' {- g( d1 V% F如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
) U; }/ F( `* X: h" F; E1 O, j- e3 E$ Y3 \4 \9 k
在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
+ ^( _3 z, H4 X& I" K
0 ?' ]1 y8 ^3 _; f9 y8 P
5 t% M, T+ p+ @
（3）如果我看到了，可以怎么做？
! t) v- A" O9 v) _
x/ n. d8 l8 P6 G" C9 }! e8 D. z: Q4 [" y
《房思琪的初恋乐园》后记中有这样一段话：
4 f+ f0 x# V' S) E$ h1 B3 t5 j
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
/ X K5 a$ |1 l
3 u7 p% v$ d* ~. h当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
% Y! _. H) |% Q1 {3 ^/ p
a4 e! x k6 C' b, c/ D/ `/ q6 x- D9 ^因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
, d; t. w$ }# Q
- c. _" m' T+ d1 R0 \: `如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
9 A' n6 A* Z0 B+ _" k
% J# K6 v+ }* ^, ]# g
! d% ^3 `: i) W6 U2 z 
发表于 2024-6-15 13:04:44