星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
" k4 y& e( Z* e* B7 \0 d3 x! a! B7 W( I2 ^
我猜绝大多数人都是用过的
$ u" B8 a2 @' ^毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
' W1 u6 t* m& A6 V# s5 f. d
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
6 S+ W4 n! M/ J3 X
- m1 t) o: @! V a, G2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
) ?9 e* y: H/ ]2 P4 E
1 y8 g5 K, x. r* P0 s, w9 V7 n+ X, c. q: m' M
「N号房」重演了？
+ w. r9 V- M" Y+ A0 P
$ U5 E$ v+ Z0 C5 i+ i随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
. T; S- \7 [5 R/ y/ c) x
2020 年 3 月，赵周彬被移交给检察机关
' \3 q6 X6 ~ ]7 r* l3 G0 \" d1 b1 V7 _. c- M1 t
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
+ O" g0 W* y" @* a4 }; o
# ?* N6 B- H& p" D0 ~就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
+ Q8 p5 o; M7 w5 y8 v0 t" v$ y: f. S4 y
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
& u9 q0 n: r- A8 x/ u4 B$ z: z( k2 T0 D) v9 C, }
从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
9 G+ T, l) U: _( n# c1 m+ Z$ T: I" a2 m1 ~/ Q. z) g; J% |
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
% L0 p$ E' T1 w8 o/ ^6 ~+ ]4 M! A; ~5 O
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
5 S/ V8 `$ L! V! z- B
8 n: ?. @1 y$ |* P3 Y4 H5 O也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
, x5 D* L W) f
! x& ^; c4 k' c8 N在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
" v% N- v, c+ a. Z! s/ J
) n0 u! C! s: U" K# H# r4 k7 ?虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
. u; A( Y$ s! H1 }6 C0 a V1 \# L3 a, Z1 w' s. K% H
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
2 Q7 B8 v; f9 G8 r
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
) T! }; c; w& h7 a: Y
/ y, }& s# H. {8 Q5 wAI能做的真的太多了
/ {1 u9 C0 ~# g1 g6 H& J9 U
) K; i- \4 x3 g( T& p F/ V
（1）AI脱衣/换装
3 @ R7 S3 k; R" f# P, G- B- z
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
( H1 r1 }" o# O! f. ?如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
( @. W/ K/ X- z1 }: F% I6 \* v* p
# g- D( J7 Y( ~7 I- m; y. ]2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
7 F0 I! ^5 ]( b" T% U) K* N
& C! n8 e* e$ n C+ j1 U6 G
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
' r/ k$ B$ d9 M, D
. f- Y1 L" @. ], C% l5 @在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
& [; p+ p L/ N N
3 S0 f2 d" q( |$ x
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
+ k; r) }. D1 [! L7 N& J
: b; f; u3 F6 J9 n+ Z. W4 P9 }而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
8 G" p4 o4 o8 p( |; }3 R
7 \$ u" b$ C, Y/ y, r; C' }( k2 O
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
4 g% u" c l% h, P' O2 | C2 ^3 H
' W% \: Z6 @! Z6 S0 C9 ^
而比AI绘画更难辨别真假的，还有AI视频。
4 O* V- \, K- g( _. r& G% A# ~; g5 Z7 }/ O7 u; A+ Z7 K
% i' I, [& n. d. A* B* n3 D" Z- D
) d/ J" Z0 K+ o2 y ]" @$ U! d
; s3 E+ J C) x' T, p3 V e: `
（2）AI视频换脸
/ ]& B0 p5 D- J
) h' ?7 k9 ~# t' {随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
# f; R) M" x0 L4 u- m. i
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
9 F" G/ Q! q. u; c1 m5 _$ F# e
3 O X2 u) X# u) M9 j- N! R而这项让人惊叹的技术，早就被不法分子盯上了。
( E& @4 C% }- [% K
+ N* A; i" |0 i& [) q$ Z
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
8 S- |' e0 |! t- \' W( a$ w7 j9 Q
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
% W% r' Q! f) c* {- B. ~
0 F8 Q$ f6 H/ f2 V
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
, i, W+ O! x7 R x7 q8 F
# z; W% w+ L% X0 a# b8 Q7 n所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
2 n2 R) ~1 d5 d' O( V6 j9 n- H* G: e& q
; T' ]3 c3 C8 W+ Y那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
3 n9 A8 V- }' L7 K4 I3 y
4 t% P# L# S9 w6 [/ E) h
' `2 T5 n7 f2 _0 d0 Q
面对AI换脸，我们该怎么办？
2 z9 W4 A- f) |1 }, e3 M) w. _5 |5 g
（1）立法、用法
) S* N/ X2 J8 J6 ^6 f9 S
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
9 {3 M) A/ w) q$ j
& J' A/ C8 T) B( o/ C3 w
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
4 h7 G& K" u0 V2 v+ Z
. N/ |3 O B! n! X就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
& J2 z9 i& T1 X4 g9 a% Y6 z
3 c2 Q( q5 H- f( [3 z& W% _* H同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
+ q6 Z) V0 `; J+ p" ^- s9 i
: S) S G; o- ^8 L如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
& Y5 C) M$ Z) q. g' r3 \" X
1 l& Y9 ? O; J4 A( e
逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
2 a; O1 S/ i i7 Y
, p- k: d+ u* `# ]2 ^8 r
% r$ I @! D1 i6 \（2）如果遇到了，我该怎么办？
2 y! c, n+ Y0 ^! H$ ^6 E! H/ W
/ Z% e+ Z: |" @% T9 e& Y. l( l9 `① 收集证据
& X0 \) {+ ?6 ]% O }4 J, b' b
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
v8 n, k2 _$ m) Y; B- _
; `! t' a c% J& |7 @. T& F7 Q收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
! { a- q6 O3 P) P4 @2 `& i+ v+ O3 V& B. a* C" h
② 报警
5 C. v% I* [3 D! M- @3 o立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
8 b6 s: p& A& y( p③ 联系平台
) `' q3 S" B6 F7 H' S; H' X
9 s2 s ~1 A) R G# S$ ?如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
* A3 w% H1 g5 M* n+ U$ z( E4 t; i
4 R% W; b/ k6 g" }+ _! j
④ 依靠法律审判施暴者
7 a4 v% P- |( N' ^: F/ a0 L3 o
/ d) b4 g4 v# `8 U1 |! c* A9 }如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
# A. B% `0 U0 `1 k& W
1 q, `" J: W# x⑤ 必要时可以出公开声明：
1 k9 S/ X4 U) l S
2 s$ s% T6 k6 o/ A4 F: ]如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
3 ^0 I% W6 k# z3 {: K8 @
; c c9 @) y0 Y1 S/ S1 q3 R4 K在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
( p- y; g0 V) d" S/ a9 Z( \" c/ q# D; o
' j' v" Y% s9 i) F, u
（3）如果我看到了，可以怎么做？
( n/ m% S. R {; h& }6 V0 s" i: x
. [; Q6 j: u0 W$ f3 U
《房思琪的初恋乐园》后记中有这样一段话：
4 g; g3 N( T: |「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
$ e8 N6 q7 u1 }/ S9 c: ]
' n7 j) C8 Y7 p e当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
" Q4 |- R7 Q6 a
6 J8 M2 P* a3 G% l& m% m; c$ r因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
6 y: G" } b. J8 m) \9 s5 }7 C
, D3 }. v6 P6 N4 ~1 B* E8 ^
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
9 m! s# _+ _9 L4 H" H) x
6 o! g6 u# d( |. w u. w) S: s2 x; F
发表于 2024-6-15 13:04:44