星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
" H" c7 a9 d+ Z1 g4 k3 c: B9 A3 r' V! _7 A0 {
我猜绝大多数人都是用过的
3 t W+ O* r* P# W% l+ Y
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
8 X0 y' ]8 t5 C* N9 W
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
* ~/ S6 Q; h( M4 z: a5 f! G
5 r9 x( a5 J& M/ S2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
2 z+ Q H7 h, h: l" l2 l J
0 s. {. a" `; N& X$ j! v+ i
! |+ F2 ^( @; M9 F0 B「N号房」重演了？
_1 \4 k2 L' Z" [& p3 Z N, l+ U% `; y
) }1 x7 d- Z3 A
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
8 n: k& Y5 n8 `( Z; P2 ~! d; c+ ?2020 年 3 月，赵周彬被移交给检察机关
7 d7 q/ x; N: G6 ?! i; u+ K; {( d z
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
% A; a! |* S' O0 J7 P
2 A7 N+ B+ h/ R1 P6 k就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
% @- O/ z1 ]" Z4 R% O1 l
% ?: a# u2 q3 k0 R; z' |: o8 \这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
' K7 M4 W# s# c
$ g( [6 O/ U* ?. V6 ^从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
( ^ w. c1 Q2 a/ X' M
: R; t8 M$ d" j% [而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
& T! B% I. n4 V; N% v
6 L7 D% G$ O( _4 G3 m不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
+ _( K9 }: l7 Z4 m6 _; M1 V7 A0 |
7 d' Q' x1 _; [' r5 \- I也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
" T' [1 f! P% ]) M2 G
: G4 G; b5 Q5 R$ d' k$ ] j在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
- P+ ]9 R; u6 Z9 n/ P0 n
: O; }$ _4 x+ L& z7 v$ y虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
- W1 s4 {7 S& g: R& i$ O4 I
- V* v! Z. w6 s0 p3 {1 Q$ l! {
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
# q* B3 h/ R% `
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
( Z& \ Z" g# C) R: Q
# \0 S( e4 p# X; Y6 p) H
AI能做的真的太多了
& K$ p Z. o4 w' X6 P* }3 L. C- J0 B) X2 r, d& @# [
（1）AI脱衣/换装
. g" ^: O+ W" B _9 u只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
5 C' M" r5 h& D) w& U如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
8 ?# c' o6 A d# {# P
5 A3 j8 F+ Y% z& h* k q) Z! t
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
; A, x0 d; a: c) P' S' b
* C. Q' u0 m8 G0 ?( E生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
& p& @ a7 T& | ^ e. s# i1 { z% k2 b3 W& d- i% N
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
8 U4 n9 h! C6 \3 j I2 v: ]+ {' [/ x. E7 o- R
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
9 Q# X. f/ g( ~8 S' U0 k7 ^/ A# o( y/ }2 [' s# p8 m5 p
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
" r m- J E! w X7 L5 I3 b$ s; n; E) W, C1 _
它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
+ R- v9 M7 e" O n; X
4 G6 W! g0 y, J- n& J, G$ m而比AI绘画更难辨别真假的，还有AI视频。
! A; T& H4 z5 g/ C1 A) K
8 F* l2 N) {6 ?0 J. L
+ C9 z/ F/ W( \" A# V
$ m* [5 p, c; h/ x$ f' N" _
% _4 Z7 G9 |( t. }. v9 e（2）AI视频换脸
% A! _& { U, B0 V" a1 J; B! s" @! X8 k# g5 e) k1 O* d
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
" a6 D0 A9 q9 t: z6 c
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
( u) k9 h. {0 _) F9 l, F; N4 g
/ T" f) F4 D# g) I而这项让人惊叹的技术，早就被不法分子盯上了。
3 ^. c! s% U& z" h/ L/ P
" f4 c) E+ ^1 D今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
6 s& z, g& d1 d, R
, r' r' u/ T' ^7 B# E4 B6 e- s
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
1 S" ^4 i2 l* H+ Z8 U! H6 U2 b3 ?* Y3 F8 g; U; _) Z' N
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
' Y. u: ^" I) n
" u; `. M& U2 `3 S; g) Y
所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
- o. D" [4 q9 m8 v0 J2 H
( x3 j( r% h% Y A C3 a' A/ _0 H5 }0 q
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
- b& K6 K; K8 l
0 u; n# ~ d6 o" F
" N) Z' u0 W7 j8 j2 F4 ?# Q4 p面对AI换脸，我们该怎么办？
: H% m% _/ A9 j0 P
0 k3 ^3 Z2 {4 v% H. r( d9 X
（1）立法、用法
2 T* M1 F5 ^1 l7 s2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
. _* ~/ f# q/ U+ d' [, c1 [2 |
; A9 M( z( J& l0 e1 m2 w, q
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
$ L0 I* C* @) A9 z
( _ [# h/ T! k' h" P! T
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
$ K4 S4 i2 o) c, y3 S' w0 G
- V& c* U5 K, I! M: r同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
# C7 J% w( S2 {# o: u. B q
5 h/ E: z. U- p d/ A如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
: H& Z/ J3 _( B) v6 H
# V% y2 G) R) N# H5 G. a逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
* E' b( m; x0 H7 m, f/ ?* e
0 b" @; ^& M7 z: G4 f" Z, {4 x: O5 j
% r, M# d* z; r1 |8 g（2）如果遇到了，我该怎么办？
+ z. d* F1 y- T9 N2 m
' c1 d8 n. Q( g6 P① 收集证据
$ W* ]1 j A+ o; r; {. r n% }/ H
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
( a3 y" o0 a( T8 l% p T9 z9 H! S1 \+ S! X" D* a
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
0 [8 D4 G! q, m8 f N3 F `
# f5 B6 h" P6 Q② 报警
0 a0 K' T8 m T8 b立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
$ s( c* A- W3 P) N7 X③ 联系平台
/ P% b7 e, Z \2 o4 z" x; K& w) m7 r
' l1 z [. C# e4 D* i8 C
如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
( _: x& z# f4 }0 h
1 z' e+ \* W) {# k* {, o' `9 a
④ 依靠法律审判施暴者
! ~# ^+ D6 ?/ \$ b5 N
6 h* P8 B) K. g% v9 w# ?( a" ~如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
: y" O% l; R7 a) x I
, L# D8 K3 Z3 \# {* }: B
⑤ 必要时可以出公开声明：
' D+ t6 S1 o/ H- |' k# A: m5 m
( e( a" k$ k/ c& x' u
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
7 w& y- D4 [# h% d
/ I7 w( @# I5 V在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
u p0 ~1 N h& K( f- p0 s; |1 Z6 y. b5 a+ T$ L9 P/ Q# ^' l
2 s& h0 g$ Z" U, R
（3）如果我看到了，可以怎么做？
/ @; b0 @; T( W* U: ]. `6 g
; z- g0 W- r! w" Q0 ]: m7 V4 F' V$ l; M9 `1 B# M
《房思琪的初恋乐园》后记中有这样一段话：
# X- [' F" H- \+ j! c「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
/ D: S' T. S% }$ @# Q4 W ^) [' P$ Z+ F" @( j! x* N
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
: {, C V" ~- r1 B9 J& M0 C+ v; }1 A) l o! {
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
9 @$ J( x7 ~& J! l; ]% o) v p
) Z8 G% N3 `& f+ w/ ^. u
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
' w y) ~8 `+ y- B4 E
8 _0 P0 T1 h; Y( `3 v1 q% q* d% @2 t4 x
. j" G/ r9 b; d4 X" ]2 q 
发表于 2024-6-15 13:04:44