星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
& w5 u6 t" F: m! r3 [- L# M; f( Q
我猜绝大多数人都是用过的
' ~/ S7 U d0 w8 d& m7 w6 _毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
) n. ]. J" [7 I, n, R3 Y1 I
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
- B( U1 m/ Z/ d
9 o: n& e+ e. l. Z& C2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
& a5 Y5 d* O6 a3 y
/ i* f, d- p6 z- v2 }
9 w3 w+ l9 g& N0 Y) T
「N号房」重演了？
0 G' Z. z( E6 @/ ` u4 W
: T- G9 ~" }1 e) d! O( l随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
' h& B, u$ ^7 A2020 年 3 月，赵周彬被移交给检察机关
7 {: B4 T2 j* D$ l
1 l$ m; z" C4 ~8 [! d* p% b$ J但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
5 O0 p, v3 `9 j- U( p5 {3 y: {
7 i2 Q8 W% {: m( y! F j就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
9 L1 h0 }3 g4 |& d8 r) H
2 N) M$ X7 {! G: o; P0 s. r这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
$ s, q l) H7 S! s2 n- A+ t' m& w P
从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
9 |8 A2 [ N8 f% h# Y
7 r& ~/ {( o9 C' O& }
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
$ x: Z* ]0 o" G& N9 w/ k
6 l) J @# E' {! |- G3 R- K2 y不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
- g# l+ a& Q9 k9 Z* ]$ @
. w: \4 x! |4 O2 ^8 E也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
( n- u9 x1 I$ v/ q2 t5 A
6 @; h" y5 |! d; h, H
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
; E$ S+ q& n! ~. N' z
$ Y2 c+ _/ }; N0 y4 x2 V& N
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
+ J# [# K7 c d
8 Z7 F( A c7 U- O/ A: I而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
1 X- s5 I9 i H8 n& M! M* ?" r虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
( y0 C+ M' [+ \( m% `$ Z4 p4 j( [5 p% N. Y/ o# k8 C
AI能做的真的太多了
1 F; {2 |( u6 j
, }6 Q G- u" d! n( r! j; t, E' B
（1）AI脱衣/换装
5 @, c. F6 ]1 B/ {7 M8 @
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
: Z5 @2 {5 z* q9 `* J! b8 h如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
- |! N# j- c L% U/ f5 o, O: }/ p3 w" P+ p" P
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
5 j! g! S5 B \9 K
9 D/ X {# [6 n( j
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
8 o. r9 `. H& f3 I# j$ U4 } \* P+ \$ B
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
. j- p/ O4 c) P$ u) S$ ~
) j0 {. C% w3 Y) J9 |; @但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
7 `9 P4 G' D2 c' t
8 X6 r& v7 o$ ]: Q
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
+ i4 s: r( |6 P4 g, h+ U6 N
% l& B: a. V. x# @它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
$ v! v# M' }7 S8 c! U- m) N' Z
* ^3 M: K3 W0 a1 g1 K4 k7 u) b
而比AI绘画更难辨别真假的，还有AI视频。
4 r+ z8 S! w0 R1 D
- h8 \8 V* h/ d5 U
$ \/ U2 _" M# g" b
; H' v( m0 Y; F- b! \
6 \$ a0 O ]) @' G3 f$ h（2）AI视频换脸
8 a/ n. y6 k9 C8 U7 s! U9 ^
- g3 [' A# ]! w) S$ m随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
9 A" p3 O* {, E
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
3 L# l( X9 q) B4 N7 ^
# Y8 r0 m1 R/ A" p5 ^/ X6 k而这项让人惊叹的技术，早就被不法分子盯上了。
; f( n/ c7 W& r( m: i0 h1 o5 d1 m0 s4 o) X8 k5 b
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
2 r7 E& q) ]5 }2 a
, i* x& W% @( ^( r& M9 V随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
) A3 W" I2 m! f/ l8 E! H3 R: O! U& @- {
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
! ]' _* v& B# {, n- l7 I; Z: T+ y8 w. I9 Z
所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
! j- v& i4 X1 D6 Z4 Z2 e
, N3 l' |! t3 b那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
) d$ i9 K7 m* w+ q
& {- @7 B0 n) X @- A
% [" x, f& X& d面对AI换脸，我们该怎么办？
8 |) V3 j, i) @' c, m
/ n4 R+ J o1 U( {) e
（1）立法、用法
1 n5 P2 H1 w" f4 `) }2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
0 F& m6 u: P/ {; B6 O1 \ ?- o' a- P
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
- [1 M5 u! b: B) w+ J0 e, b4 e* |) r( P
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
; z" {6 ~( @8 [! U* r$ p/ A4 k0 M6 p3 I G+ C" o
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
: c P/ H; H! l- W. E0 G* C5 v+ ~- t7 G; ?' S, b$ m
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
7 o+ u. j0 K; i' V' a. C0 C# t+ p
逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
6 ?+ w! m3 U4 A0 W* G& @5 \! u5 E& g9 z0 `! G; B+ m
* m. V& }5 `, Z7 E# u
（2）如果遇到了，我该怎么办？
* S- ]" ^4 [- h$ Q6 `8 B
' s9 a: l) C O. B4 o① 收集证据
4 l5 a$ N% h! j7 O2 K
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
/ F7 y }, h& z" V
& l3 {8 t$ z- V) A收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
- q1 ?" g1 Q @7 w* Y
3 J( o+ l. Y) ]- C: A② 报警
9 A7 h6 ^, f+ P0 E, k立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
! J- a1 H' u8 v, p4 Z. w5 p- O) ~8 s
③ 联系平台
- A8 E1 w) r. t% r2 u! o3 E( n/ S7 M) S+ c$ W: t! m5 L p& W
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
; `9 d7 ^: f4 j; T1 }3 V
2 M3 M5 k4 u" B4 I0 H
④ 依靠法律审判施暴者
+ X% z0 x$ @+ U7 n3 O& u9 E" J
* }! g2 f/ F) L& [- B) C如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
4 w, P& F6 H0 ~( N- C- l8 _1 `5 T
1 e" f. \7 J6 G⑤ 必要时可以出公开声明：
$ f3 c) v- j6 m( B' J. N5 p
2 j9 C! G3 [8 T4 q0 p+ S3 W5 {如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
. S$ H6 F& t2 |' Q: I7 g4 a5 k8 j' L: w5 M/ |
在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
* c) X5 G$ E$ N; W. A" T& _* F$ g3 q+ w2 _5 S6 J9 m% d
3 o9 P/ X0 C. _, u- K- H( z5 C& V) R（3）如果我看到了，可以怎么做？
( {0 u, v; P- Z6 }5 k* Z% z
# M( Y7 a$ `/ E3 h6 x1 s6 @
. R- c8 g1 r. j0 A2 c) E! x3 M《房思琪的初恋乐园》后记中有这样一段话：
% O% [0 }2 u6 t0 t9 O「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
7 }4 Z) p& r( L9 s8 \+ ]$ a" `9 |5 s' R
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
! S; s& b0 C8 P: F* n( G! v) y, z6 h9 h7 C: d* D
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
. I; l# q/ F; R; H. H }
- R4 K+ y5 _* V8 o( ]如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
6 Y( O3 ~4 ]+ ^1 A0 d! H, c
: I* d8 n/ I7 B z- j, {( T* _; L2 a# o! l* b' b/ p0 y
发表于 2024-6-15 13:04:44