星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
1 Y! Q; }# T. k2 k* y1 G, Z# P3 W+ l) K' x) z/ S# a5 r7 N# B
我猜绝大多数人都是用过的
) [" a5 N7 \' h8 k5 j. X- v: M5 w0 X
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
) b; O0 L! p% g1 t9 y& h9 Y从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
9 {, {* ]' s5 j) v7 }
8 @, ^& x3 C) Y% E2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
) W2 i7 F) U1 @* G/ ]9 i7 W) O; L4 K6 I* `
' n3 \% C' d8 g; u) W2 X) h
「N号房」重演了？
4 l3 g M, l0 S2 }/ b2 l3 m! a( Z
! J J0 ]( i" p+ i+ L3 V
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
7 v1 A' X! M: O2 ~4 b6 B2020 年 3 月，赵周彬被移交给检察机关
( e7 t! J: r7 j5 z/ p2 J: _- {& {
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
, m* ]$ C9 Z2 ?- m4 Y! u
. F" [; \3 M3 t就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
1 e4 `3 B# N1 l7 r: N$ Q! v
5 `1 r0 K; P# O7 x
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
* A. M( Q4 l: N3 n, J7 P5 u6 N! n/ ^6 e
从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
$ P" f, c) \: W. g4 o) F P7 N4 ]" @0 n3 g' H/ D H5 [8 l% t+ h4 N, ]
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
, ^7 S) d* C& K4 J) G1 L$ T! e
7 \; E: i: |/ m$ X7 ?: C# b
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
7 ~* _) M# \* Q% T5 d" J' n/ n
. `8 B; i1 \8 e _; I
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
! S0 L, Z7 E: ]6 Q0 F/ g6 v0 J4 L2 w, }% X1 Z
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
& c7 w d; t9 P6 w {4 U o
; E9 r. F5 A/ S d% a; V- v
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
: }, Q- K6 f' y' g! v& I/ H/ r5 I+ i
) ]: l1 ]. C6 Z" n' g而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
& {! w! U- h: {3 a虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
% r7 |' L5 x/ ~' h+ r# n! M1 D' c
" R- W% U2 l5 L7 R# Y+ QAI能做的真的太多了
4 U5 D( k1 }1 q- N& w% G3 L
+ ?0 e9 [( Y m( k* Y: ^4 J
（1）AI脱衣/换装
5 h- P7 [- T ]; g# t只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
3 p$ X# R- q" e1 c9 G. f7 X如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
- d$ \' A0 Z, |+ u; f+ Z' ~; q
" r6 m* ` V! r% ]3 h
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
0 i/ R, |) g# i" a
. [! I' }/ B9 o$ @+ G) @% G* }" R生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
& i' q- [. y' s5 G
9 \" y7 ` |7 b/ X' B在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
& e& l. u8 [0 f! g5 @
: Y% K6 [6 R7 n; k, p6 Y但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
g- S( t& B) _2 L
: ?3 Q+ g, \3 [6 j而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
' @. X: J7 O# [1 G$ Y* ~- ^1 F. ~- T* T% D" `: ?$ S
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
; F+ F3 W/ b5 J
9 R/ O8 c) d9 r# U$ C4 |) Z' y而比AI绘画更难辨别真假的，还有AI视频。
" W2 {% K/ {$ c' T: k2 V. O
! l* j# L; D, ^
0 i q5 Y3 M, F1 |/ ^
0 m# w4 o5 S. V, o7 q8 b
8 e% A; t" J% i1 [4 x" P. Q; W/ W（2）AI视频换脸
1 ?0 i. P+ Z9 I6 B
; |: `) W$ v# T3 N6 n" m1 \$ k# I# [' L随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
. X% k( t* O) R" G' V# [曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
4 {. c9 ?# W+ y8 M# E2 O, [6 d
~8 F0 n5 x; @) D: H* N1 ?. O
而这项让人惊叹的技术，早就被不法分子盯上了。
$ C) ^" K" d+ m
5 p8 H$ b& M8 L今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
6 I* M! ]3 z% W* G! y/ Q' s! J: s3 q: t8 S
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
6 v5 E, ~4 N) |& Z2 C5 \& d f4 g
: L' f3 q+ o2 y5 O( J' j! S
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
+ ]& t2 Y# a$ F$ ?; f* `3 j
* n# Z- `, d* T, v6 Z所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
- A7 S Q/ C5 j8 W3 k1 \: K
* l/ b9 c6 u- m5 n; P+ t
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
3 f8 O- ^0 v- D" d j' [* B2 J9 f q5 X% H v
* u5 a$ E" {2 Q* y4 m2 @; Q面对AI换脸，我们该怎么办？
9 E/ A6 m/ b- g4 J) @
- \9 ^2 b, R' r+ O2 W+ c# P& A) k3 ^（1）立法、用法
; T- p; p8 l8 N% G" k' e! Z+ {, n
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
1 N. P, y% H5 g# T
* K& }$ w$ x0 n4 z5 f$ p# d
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
; _% `2 L& y+ |) e
1 [- R( z6 q' B% E% _. f9 I就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
8 W4 A( B% ~# A' {7 n
* F% ~4 A* m& O8 {" o$ b- t
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
+ N2 c- z$ F7 _% F# C/ ?& @
h& N( r3 L- E& @( _) s$ y如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
5 ]8 ]% I5 M' Y8 i; }+ i
1 [' G5 P5 g: s, J5 t4 _逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
* f' X* F2 n0 A$ o0 y% R
* i/ w* _* H" P z! X3 i, y
7 ]8 J5 G2 C5 ~0 j; @( h. g( Y2 S
（2）如果遇到了，我该怎么办？
" T& u" B" f' V, o3 K1 p3 e- T# G
! ?% U1 |) F r- P; U" f# c6 d& o0 K! `
① 收集证据
; }% U% t+ a2 F# H
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
9 n8 _, a, G8 z, \& t$ W. _
6 |) v+ S/ Z2 I" D" E
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
5 d0 k$ G! G; ]0 l* i& }# j4 |8 y, z0 a
② 报警
8 m- K" _' O) l1 q: [8 l
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
* x( T5 }6 d% p
③ 联系平台
7 ^' T6 v+ G& u/ w8 z- K- E e7 ?8 a ?4 O
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
; i+ O# p7 b' S: `( b. z5 K$ z+ l* f0 |+ n. ~0 y' n
④ 依靠法律审判施暴者
7 M! C" L x3 l9 ?3 T/ K2 C( M) t1 `9 [& r( l
如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
) y- w& I) }( M$ U! ]
( L+ ^2 d" M" J2 _& T/ H( d) v$ }⑤ 必要时可以出公开声明：
; b$ ^$ k; v* W' @8 L2 U1 q2 c6 e5 y
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
* f0 G' S7 s8 _+ \2 g0 H
8 g8 ^; V/ X& e在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
- E! u3 `. R& J3 h8 B# R& p6 a& I1 ]* p( ~; M2 b. c9 F' {0 @
7 S- b3 g- Z: e. u) \1 O! V: M F
（3）如果我看到了，可以怎么做？
5 t5 ]; x2 h: @, p+ ^. L( E+ N! j
) d( B+ L8 ?- @, B
! r% q4 @2 c7 J/ q6 e! J7 K《房思琪的初恋乐园》后记中有这样一段话：
, b" P o" C6 F$ N" x* M
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
6 E5 A2 p! O- o9 F1 Z
$ j( t, `9 U$ ^! _' m9 y
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
2 m5 U Z7 \, l$ @8 Z6 U8 d
; _/ R: U" d I1 P; D因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
; |) v1 b/ O" m* x$ d9 n
+ A. Q1 E4 T6 Y8 M `5 ?7 w如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
4 e3 _* [6 q0 ?9 _7 R. [0 K5 J5 K2 `8 P; @* `9 Y2 S& j
( q0 \% H* f6 W! W, s8 _+ X$ b 
发表于 2024-6-15 13:04:44