星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
+ x. ?+ G9 ?! G
/ N8 e, P: S! E8 [我猜绝大多数人都是用过的
; X* h3 u d; d6 X7 l9 ]: a! a
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
1 F2 E+ R$ k7 l5 @8 b从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
8 v# Q" \5 a, l# ?% \- x3 y
9 r7 e1 Z* _7 @# Z L
2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
6 e; y6 T2 F2 K& P Q2 p# d
: o5 y$ n: i. L/ C* P
) F2 t6 ~4 Q2 G* v「N号房」重演了？
. N7 t3 n; V+ {, g
& s& E: k/ n/ ?2 R4 B, E
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
6 j/ n9 i- @: M2020 年 3 月，赵周彬被移交给检察机关
" ]5 L9 t. a9 R" O4 D4 Q. P4 T
+ @' O N& G& p( f$ d1 v- |但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
% ]9 ?; g; e. g2 Q
0 q) X0 \" g, e! _$ _
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
4 Q6 r& |9 ~. m( v& l7 C! _# R) f0 A/ P5 C% i5 \& n0 M
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
: A$ U$ K( l6 N0 A5 i: Y$ J
) a; R# ?+ w. [9 c6 p0 d. l3 `$ a: r从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
4 V7 U2 N- b6 r# q0 e4 ]/ `+ v2 e8 t2 s& t" s- O+ g. S& X
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
4 B' `! A; }* M/ a6 n
" @* j( {/ H9 \9 I不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
9 i q6 F$ G% m& C* p6 J0 j- p; L% C4 N3 P6 X
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
! c3 c. {; [- V2 P/ L1 e* v( o4 E; z! b8 e E( n0 o
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
, {% h J4 `6 ^! \$ c( N# U, t
6 v2 W+ N, X; g8 |# w: m( }虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
) _" a" s! v3 B, O
8 {' C# k+ S9 l# J9 r" g
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
1 I- x5 U9 o: a7 S, O
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
+ F q, G! m6 h, \ X' W5 A
1 S( a2 B- P' w/ W6 J5 g J; bAI能做的真的太多了
1 K( r4 \( i' m2 B# x4 x; m o B
（1）AI脱衣/换装
# E; y) o6 A* H5 j0 Q2 V( Z- S只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
: k; p& p. @4 j; q3 [
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
; ^0 |9 ]+ P! |3 j) a$ }8 T
& `; A$ ]5 P) @+ i+ A3 F+ c2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
. z% k8 q# A. L5 t
% G3 z7 G& z- {% _+ I: I7 B$ r生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
1 [& E, v3 l0 c0 L
0 F( X' ]7 L/ v; m; j在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
) a7 M& a$ {2 @, D! J! m2 |$ V/ [6 c2 [8 |- J9 p, h ?9 ]
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
/ N5 _, N1 H: ^& e- j
) p3 w( L8 t9 k4 s! K+ p
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
# F; ~8 e3 G6 G) S2 Q4 u$ @! ~( J' H" L" P; @ P
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
% i6 L7 ~1 V4 o2 s1 @4 E* z: t: Q
3 u$ M: F( J3 w8 L而比AI绘画更难辨别真假的，还有AI视频。
' _" m Q0 S, g2 V J* \' B
& a6 [9 `" ~7 I0 n B
! x) b+ H- L6 J6 R+ l
/ I& @0 Y7 g% y& P; h) t% x; i9 v: F% T! E3 Y; I5 v, P b' d
（2）AI视频换脸
/ G/ f' h% T' V% w
5 r' o, a9 Y( a0 X随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
* y1 s( V. o' v8 A1 B6 T$ z, E D n/ A
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
% _- j* g; T0 h
& U- D X1 H" d7 [# H6 J" n
而这项让人惊叹的技术，早就被不法分子盯上了。
5 C) q5 g5 Y% r' Q! Y; b+ m$ N
" @( T9 b: t; ?
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
, I/ ?& {- R' z$ Z' H# n
3 g N% ?* K+ A1 {$ e随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
, q0 D$ N% d2 g
1 K" j: m1 J/ E+ ~1 ]类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
7 C6 |4 T" J* [$ n2 D
+ `6 F% H! j, D& D所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
g- _3 O5 i# k- f! r
( n; v0 J! b6 g那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
# m, g+ F3 s9 k6 v \: k+ T% u
% |2 S k# D, J# r. u$ d
; F9 C+ S! a5 Z. v" O3 `$ F
面对AI换脸，我们该怎么办？
# p% X; H9 r7 R! I: n
6 X9 o: c9 d4 a8 w% w
（1）立法、用法
* P* R% [0 x5 O0 ^* X$ |
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
- ]0 _! k. ]8 ~9 o% X
% l: o7 S* h* F9 H: h0 s7 H. [
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
4 A @9 p2 `2 ^5 R1 N3 K# P) k
3 C/ B+ x- ~# D
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
% E( `+ a7 M4 C; h) l3 |% c. P9 \! P/ c4 h& s# T1 z' z
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
" r+ H6 U6 C- \" A& P' P! G( J2 F- Z! s3 ?8 m- v5 y
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
0 d' ~7 T! J I( k J7 \# W( s
/ O4 l" W" ]1 H w* g, q) O) e3 q
逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
: j6 U9 |, h* D
5 g% Q- H' W/ t9 G8 t1 g) b1 H
; U( |' X4 \9 Y t6 E* J. z5 X/ `+ g6 R（2）如果遇到了，我该怎么办？
" T I* H d" S, W' o/ F) t8 L8 m) {8 [7 i) ]
① 收集证据
9 W( S7 p2 V7 b5 s% X+ i1 D+ D6 R首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
/ u5 ]& Z, Y: j3 k0 N
, h5 o | d- ~# F3 }- o! M* ?. h收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
T _8 H8 {. ^, c
) U( F( {' [" _# Q8 h
② 报警
# ?. Z# k4 V2 {8 f- t! c4 [* W
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
& Q4 t' x2 X3 Q/ v
③ 联系平台
! V$ n: N9 p$ Z" b9 p7 E
+ s5 U# U9 Y' e& G! e如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
7 [: P0 {8 Z: n- n* K
9 g) ~& t3 j2 p* _. i* C. L
④ 依靠法律审判施暴者
& _. I6 g2 j8 ~. ]
6 }& O- @7 S5 L0 ]5 |# [& i$ A* D如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
" k1 ]" X! ~8 p/ N
9 i+ G! C' U$ b0 I1 E⑤ 必要时可以出公开声明：
6 {' R' g6 m2 ]5 Y* T/ V' U
) u0 J, U. S9 F如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
- ~0 @6 F4 d( V1 B! @8 d7 y
& J7 l6 I7 V6 k; c1 ?3 \/ V: W
在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
0 D' d$ m4 q$ ?* e
* u) ^0 P! L, S3 O. i9 f1 j
' g8 ~: s# T8 M（3）如果我看到了，可以怎么做？
7 A* d. p9 c S, P
6 s: ~6 {% I0 t c& s
5 _8 D: ^6 ~, }7 Z《房思琪的初恋乐园》后记中有这样一段话：
- f, i) s# |1 x# M「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
, f* d) F# D) o$ A( F
. b% `. A& d7 ~: @- `
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
8 m' j* t( }- W7 Z' @6 l2 z3 e w& q- C+ c( X
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
2 X, e5 g9 n* z& b3 W/ w' P6 b( L3 F0 H9 z
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
5 N1 Z( f1 F+ L$ k+ g: [7 c- @
- E9 N+ [/ T! D: r7 b/ P- v- l, {6 v: H" D( [4 @+ c" @4 n3 `- V
发表于 2024-6-15 13:04:44