星级打分
平均分: 0 参与人数: 0 我的评分: 未评
想问大家一个小问题，大家用过AI换脸吗？
+ c+ c8 @; x Q5 h; Y9 Z
' ], [$ m( g! t5 U- B 我猜绝大多数人都是用过的
( t6 p; R* `4 H7 _ 毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
7 S1 v5 p" L @2 a/ ^ 从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
9 v+ R) K/ q$ G0 t- k9 l( E9 x
( b% c5 H6 \" a5 g 2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
" W7 O# e' t9 C1 p
# t- t! F8 L$ U+ J3 h! M ) g6 w# k! Q8 q6 e( r b) U
「N号房」重演了？
9 y( S+ V0 s2 v- K3 o/ g/ J; c 3 u! {: k `1 d' F* i3 _! Z
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
( ?9 l1 l# R; m& z7 b8 b 2020 年 3 月，赵周彬被移交给检察机关
+ F( F- r7 `, F' a2 c
' f. t& {' E O4 H; t3 G 但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
& f: W2 I/ r( y
( x3 t7 _$ P& M
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
) |2 _1 C( P6 h6 u# p* o
" O4 r( p9 _5 r2 s 这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
, r, ?' ]1 }% p& `
4 f$ ^; p7 E' n/ { 从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
- `4 C* g, [0 n; K1 I8 Y
( D9 S, h2 S, s
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
$ _3 k: \" @( ^# {) |" l5 `; E
/ Z1 i8 i% A1 D( k" g+ t9 n 不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
; s& v( r0 J/ j' }4 D
& | ?/ c- w2 s7 T! l% S2 ~- X% u% ` 也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
, i; V- L1 I2 r1 n' w9 V
) o, w% X) r0 y2 b7 A; r$ A
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
j9 P3 j; h0 s) k! S& a
2 g9 v% L7 V' \1 ?4 P+ A) [
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
" u5 {# n7 H& y: R" _3 ?5 Q
) B. x, p, R) Y( ?$ Z% T+ C' e 而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
+ t# X& n; W! v) n, ^& f T% e- W
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
6 O# N' e; W8 B
9 s0 A& D! X* J3 y9 [. }2 _
AI能做的真的太多了
- r& p4 M6 n* j9 P% c) V
& C- L3 ]% b2 W- V. K （1）AI脱衣/换装
5 |+ r' j" z! y! H
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
O) {: R$ G5 f; C& q9 e2 a
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
; x* h/ r9 S4 |! L& k* I
, t3 [; p7 g' U/ b' t" C
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
5 z- T: @& t9 Q6 P9 M' o
7 v% L% y" T) j; B* |9 d, l3 Y 生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
) A4 b) @7 a5 h# }* }9 c# ? . k6 M7 B7 z) F" K9 @* Q
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
3 m! ?! u/ p$ Q3 j: F% R
( ~" d, i, h5 T: ? 但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
' G# d- }& f: D
" y% @9 {+ f$ g3 k: a* o9 ? 而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
* v% e4 ?$ ^4 z( d; l3 o3 W' N
) J, r8 `, Z' @ 它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
9 {* a( w4 M. p+ u/ C
0 j/ d+ t, v7 y( t8 G I# k 而比AI绘画更难辨别真假的，还有AI视频。
. C. }* K1 \8 R7 a7 @ P0 j
8 G" V$ ?& w. d) L ~3 Q' B
( N4 D) ^# y! i
1 s* z9 F1 R% [1 {9 e
" v4 e5 x) P. A# } （2）AI视频换脸
- ~0 e. Q' B, I* A9 h) [
5 u; H/ o. Q# `% h0 e# w: P0 P t
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
8 r4 x( E6 _+ x( M1 _' U( F 曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
* p6 r5 D' N) b7 ], e
* q; }& W2 x; p2 g7 T X* F 而这项让人惊叹的技术，早就被不法分子盯上了。
' e( w* p7 h: j2 i! j: b" @" |2 @ 1 _( Q4 F7 A$ ^6 W1 \; f% ?
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
0 R& e) r0 ^' A- V+ g 1 c( O) _% V% {1 @
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
6 x; T. ~2 y) x0 G/ B S
) ]2 ^, z( r2 I2 B; S 类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
. d8 w% z, q3 r8 y: ]# B
( ^- b0 V% r4 M3 _. y# @$ _ 所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
& t Q* K0 R6 N
; O4 r2 {4 Z3 S: R
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
/ a+ p5 G5 Q, B2 h; H
6 E |9 S6 A3 ], q' v! K: F4 r! h
' K* I. X) j) G( z6 a+ f7 f 面对AI换脸，我们该怎么办？
& H& V% `. ~' u9 v( k2 e* [
5 x/ r9 v5 v$ ]1 o7 z: X
（1）立法、用法
1 W! j( V( g- [: { `/ D
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
- Y) h. ]& {5 }" _% O
$ B/ l$ n9 Q E5 u8 w- R 不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
" f: c: f! V* l7 b. z9 N, m( s
# O6 w* }0 Z, g 就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
( T* @3 @" V2 W) N
1 k9 V- d$ s2 Z- O 同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
1 s Z+ m; |, ^6 o
2 `- d4 f2 \: h7 c& P; ^5 b
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
9 X6 ?2 e h2 S& ` M+ }6 Y2 T
6 U! o5 h! g3 L
逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
/ |. }: @1 b% Y% G0 v
% j4 y' u# c( @ # }5 C9 C9 e0 U! c
（2）如果遇到了，我该怎么办？
. k" y" n0 {8 k' ~, _. t. u8 }0 r! n
+ D: t# h& ]8 H. Q7 x
① 收集证据
$ ~* d) S8 W9 o# B* n/ Y9 X9 H8 [
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
# t& E8 V6 U6 j4 F. [- B1 W
) H) v8 {' s$ r9 Q+ {- C 收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
; ~2 r3 ^: S+ v & q- U# @7 R) }& L( V h
② 报警
0 |9 d( _% b' ]7 n 立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
2 |. f L2 D) \! c- g# j ③ 联系平台
% x* O/ W# D- G$ e ' D) r: G$ O6 X9 y9 t- `% C" J; a8 y
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
; d% p/ R& d1 I
% ]4 k$ v* ?/ d6 E) e, Q
④ 依靠法律审判施暴者
0 T% B; {4 [ x1 X / d$ t1 z9 H) {9 u9 r
如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
' `, J, `, l; R+ l. J
& o& k! Z1 O, x+ }# p ⑤ 必要时可以出公开声明：
) Q6 V3 r! W: L) ]/ |
, @; y, \& A, Z6 m* ^$ u 如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
7 w: \4 X8 ]# x: x3 \$ [$ _
" F' l- l* j. A( C' X( g 在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
/ y0 ~% D" j7 Z7 K0 V
3 h$ A8 W; R0 ~. X( O + v4 Q4 _$ L/ h2 S. p
（3）如果我看到了，可以怎么做？
0 v- B$ V" C+ `) W ! } I% X4 V# q: H6 Z8 i; [* i
2 | g! y9 r6 _% o8 v% J R# I 《房思琪的初恋乐园》后记中有这样一段话：
$ s; |7 R# D8 G) U. P- A8 S
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
" f" H: A0 q' G- ^4 |4 C
( ^; _+ Q4 _! }0 [' S7 J 当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
5 S' Q1 P% E+ W2 w# g" L+ J
4 v0 D5 p# o3 q% i 因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
7 G' U" _7 H, F; h. }7 l
% @* }$ s) ~) E3 ~ 如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
6 [3 U& G1 }1 n# F: Z5 d2 K
& }! @4 M- Q9 @. R4 X5 [
$ x% _# U: j* @7 y y 
发表于 2024-6-15 13:04:44
