星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
/ j; y" L- d. |1 z; U5 [; p% y8 [* d% t& ~, q9 i8 C1 R
我猜绝大多数人都是用过的
y5 Q* c! f* e) o u$ U
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
+ s4 B3 S: R5 Q& G# {. c从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
( V* |* s5 z/ {9 X- f" N
. S+ U* [# F" y; P }2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
# r! d/ x- m$ i' d/ V3 P" q
0 X! I) x/ {( q6 _7 |0 b. V) y# Y4 r: E0 `* X' ]1 }
「N号房」重演了？
% ^7 v) e1 r5 A. ?' y5 a0 P7 I5 ~. o0 ]; n% i) x5 D) Z+ t
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
* z! [- ~# e# I; @+ |2 X; U$ f9 J0 H
2020 年 3 月，赵周彬被移交给检察机关
2 e) G/ c8 u- o- a: w$ O5 E; [! Z5 I3 A- g4 L6 v2 a
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
# r" F& F( I, u
6 _( ~6 I4 o. z8 a/ l& d/ {就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
+ i- ` O' E2 l* Q4 h8 v
2 S# d) M9 h+ R- T9 ]! Q这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
+ a" k! m2 i8 e. s" A- H
* [. I' |: j7 G2 B从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
# v3 f% A4 i1 V
! c5 z( y% B7 A! `6 u1 B
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
0 L# W+ Y, G n: y
: n: U- O2 n% P5 L7 q
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
3 h3 R$ D1 m$ Y6 C
3 f% Z7 o7 T! F0 v& p也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
5 q) K% a) a3 K2 ^
7 {. q% H0 r; V# ]5 G. A% t
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
4 c1 l p6 v1 V
/ z* r9 ?9 v$ a虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
3 {- W, M# v; R$ U7 D4 w
! J" x3 @1 |3 v- r
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
5 j( M2 O& E! I' L9 }6 a7 R; h5 y9 M
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
$ U2 C. y- `. s2 W1 n* N7 O
& M; t6 W3 R7 {AI能做的真的太多了
3 S; Y* d! j$ q! R
5 e3 I% q+ r# n& [ z. A（1）AI脱衣/换装
* D# }+ H) d9 f6 k4 D; p只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
+ B1 N, I' P8 C) b4 q如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
U) ?9 b/ e0 A7 o* I8 y5 |9 s
1 S- ^4 A! B4 H ?5 b9 v
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
. Q9 s1 \- v3 s6 G
# K! V6 d% O6 m# v% G% K3 I
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
8 d7 g8 e, X0 V5 F! ]! P, @- M. l7 H$ w3 a; j! _, }1 L
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
: _, b4 _% w9 V* m
( F$ k' \2 o/ `( F0 S1 ]8 P但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
; g! l6 A7 r$ a( p( U$ { x0 t4 A$ P* G
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
% `) A0 ?, r( K! I' Q! o% V! t( |+ Z9 G
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
1 J2 R! ?3 w: J8 u7 ?
- J" u9 A* V% i$ N- O; ?: `# E而比AI绘画更难辨别真假的，还有AI视频。
8 J* J( [4 J7 h2 q4 }
9 C) h7 x2 ]% p# q7 p+ j" U
8 v6 f7 S- P. J" q3 d! z: i( g3 K5 G8 V& S( {! s
' T6 I8 \, W( C4 t" \
（2）AI视频换脸
& v" E/ S9 W4 }( }2 r3 z" X2 i7 z) k
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
) ]" V# q2 e1 q$ x
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
% u- q# O6 j2 @8 J4 r, m) j! g. h0 P
而这项让人惊叹的技术，早就被不法分子盯上了。
, J" q! |* _1 N3 ]* E c& [$ a( O5 w* Y
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
" ]/ Q- ?: b# l; V) d* U$ M
! t# U# ?4 j" k随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
! J. x0 A- L5 p5 N$ O/ m- E1 E# `! T
: i6 V. H3 m3 p8 w3 o, }类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
; c C$ p6 q# r, b3 p5 ~
4 G4 e8 O Y$ k8 s8 M* I; c所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
( d6 g$ i( P& Y9 U6 J6 q/ r) n1 S8 _6 U; z3 N% W0 n
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
# `6 W) M" P8 @: r1 Q8 a N f8 J6 f$ J# w4 w2 I1 M
S- B, D* b e @面对AI换脸，我们该怎么办？
$ i8 s% M' A" F) \+ k: B( k2 A
& C0 Z% R; y/ F9 r" K& U4 c9 f（1）立法、用法
7 U' \0 o3 w/ x2 H% G6 E
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
/ ~0 t8 @4 `# w9 E0 A3 C! c
9 C3 }2 A: x. ?7 [. a# Y6 Z不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
) p" H3 Z- t2 E! _5 L6 `' T! \! m: T' X8 |! E7 O0 |- _7 H
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
9 \2 d Q9 Y6 ]) q4 @* a
* d- Q( t- i* b, D同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
9 Q1 q B* i1 C0 @
2 ?& \( s' }: v1 V5 Q如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
; t% X1 R/ I' o; ]
' c4 a: L: b( ~6 e0 [% z逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
4 A' h% J4 {* H3 P' {4 a! `
( e0 H* J0 j) l2 o5 }% @" l8 V, L0 [ [/ K1 X# V" q
（2）如果遇到了，我该怎么办？
, L# N* i- p* |1 d/ Z' B( q+ `
- v0 q9 o1 l* X/ I h# J* E① 收集证据
- p5 N8 z" j0 L7 Q k首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
" V4 Y( l' N7 d" C
. {" d! N8 c7 |7 l收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
z4 {' t* _. |5 \/ L
; Y5 v% {- X) T& t) I# P1 G② 报警
" z" k7 F' F* A! Q3 h立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
( v v) `! O+ U9 |! J; S- h③ 联系平台
, Q) c% o+ k% ^7 q) H1 ~
* e o1 X6 R2 a如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
1 k8 r* h1 ]9 ]$ Z$ p: L1 u& `8 w- y6 U
④ 依靠法律审判施暴者
9 N! A0 X, y% ` y5 D& j" A9 e; [
1 h( ~* b( m% i: Y/ k9 U9 S如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
4 ^1 V- c2 f( [4 k/ o3 T, q
^$ H w3 L; o9 W% g! e7 p⑤ 必要时可以出公开声明：
& L/ x9 o4 p. n) p) @! Z$ c. U [/ d/ R o* i0 C6 V
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
: N7 Q4 Z% F+ M0 e8 Q
5 T$ t) ^2 k& {% C3 y; a8 Q. S; `. M在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
- |6 c8 y: ]! c) k2 v- R
' y u8 ?1 ^; F4 r; v
' |9 R, l$ T# B( }（3）如果我看到了，可以怎么做？
4 Q7 b! l! [ J( B: C
4 H( q6 o, S# j
/ _" e, m8 I# A6 F2 f" ^) g+ a" V
《房思琪的初恋乐园》后记中有这样一段话：
7 D b% ]9 N1 P1 R「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
0 t$ I7 A2 q) D' [7 a/ C0 ?$ }- p* C8 C3 |- M) ?) _
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
$ J5 P* }6 n7 S$ _
2 h6 S* w n! t7 p因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
( X* L4 X) t! R1 h8 J$ o+ N3 c& G( H0 `- M# x9 W$ L
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
- m1 B* c, v, r) a: B9 b. _1 ~; }: J( H G
" J5 ?2 X$ ]" Q/ [# x5 @4 L 
发表于 2024-6-15 13:04:44