星级打分
平均分: 0 参与人数: 0 我的评分: 未评
想问大家一个小问题，大家用过AI换脸吗？
5 c/ S9 g9 V2 ~& j. h- c, R ' I- w* h! h! @& J1 O( \/ ]
我猜绝大多数人都是用过的
3 _+ J! K4 ^: O. s( |' Y3 ^* q 毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
' z0 ^8 F% p8 u, \. y
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
1 i6 v- c/ Z7 H0 E
( e# l( o$ {( T) c" b
2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
7 G& I9 z) a7 ~5 m% f. c
4 P S6 D! x# M( i% R5 T2 \
5 E& d1 F% J! C* i! S8 A a8 w6 B 「N号房」重演了？
- g- I* Y4 P( D7 |" s1 B( D7 u9 U# M
* b9 Z$ G7 F7 f y5 S* W 随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
1 q9 ^9 y4 A& A5 G7 y6 x6 ^2 t. |! O5 c
2020 年 3 月，赵周彬被移交给检察机关
- Y9 x% B9 c z* t6 c6 z$ \
b2 Q4 U! W, b4 ]9 a' c 但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
( | z1 i1 A& k" X* I c1 N! @- M 2 J# U# I5 i0 u# O
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
% H. T! [# ?! h7 r, g" i: A7 x, W
" C5 O3 d V: i- A9 g7 E, _+ \ 这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
r" [% m7 _) u2 p+ X6 ]5 D
' h1 g6 q+ f; H) U- ]( t. X7 M 从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
?( S' X. L8 O2 Y 9 D D# e. q8 }6 |) c6 L
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
! W- K b* W6 _& | U" s" T# y* B& {
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
" d& I" n8 S8 V + t3 k) T a1 k, Q5 V/ f- k; K
也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
" }# Z& a" O/ A, Z, M+ ]* u* f
$ x: W, b& {7 I! y& C" k* n* d
在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
: d7 n z' z" Y% L& O4 g+ R; G
* l. a& P1 d6 }$ j% z# N
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
$ b& a, ]/ M0 L, v/ o0 f9 d ! x) t4 g- W2 d; |$ M$ ~
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
5 U7 ~; H% L/ g' h
虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
" B: v; f' i; N+ h
/ Z( N1 e& y0 R- r1 ? AI能做的真的太多了
5 S( w1 S N0 f( |
8 L6 `! ~6 n5 V0 P# c （1）AI脱衣/换装
' C* O+ A6 c6 r
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
L H8 n; V( Y; W: @3 ~2 a% p* b
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
% f9 p: ?' i* P3 e6 x) v
) p6 ^9 O+ X2 Z6 g M 2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
+ d2 c [+ `- F
2 B2 g H5 r# y% l& T! q: O
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
$ w6 h0 }! n0 N8 l3 z( |
( c+ y5 o1 J& U7 } 在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
4 [/ M% X" Y# m
! {; R( U% l; o, ` 但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
% V3 k: P+ ~2 k" Z; z" o" Z2 {. { K8 G! I* v- B! \
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
! T: i0 a$ x- U, l6 x: i
5 W; v" @7 ~7 v) v4 d q2 F 它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
* h4 B8 ]) M4 R! a 7 P7 m1 a9 A/ q
而比AI绘画更难辨别真假的，还有AI视频。
- D; p- M+ |. _" Y9 |
) b7 F9 q7 J2 u6 _+ I
S" i- U9 U& l7 \$ N3 o$ y
# g5 p) o5 v' m. q
' W5 F& V3 G/ M* Q$ ` （2）AI视频换脸
% N1 t2 H* f0 x' C$ `4 K* `
! g! S" i' q: `" s2 L( ` a
随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
9 v' f4 |- }0 p! f$ C) n5 m0 m
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
9 D4 @; g; }- I
. N' t- R7 U& t' p* u* `( C; y 而这项让人惊叹的技术，早就被不法分子盯上了。
2 c7 ]5 R$ W) j & S( ]- _$ s4 o- D
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
5 @) }& T P' l5 M2 Q+ R ' T3 I" v3 d, P; a8 F
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
p$ y. z; h. ]
6 ?) m: B/ _6 S% M
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
$ ^2 F+ j9 K- v
- _. P; v" k6 G, r 所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
# }" l1 q' s# v( i, J, x
' D" E/ W- H% X 那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
8 q8 Z% l9 v8 T6 a0 b8 \9 l8 Q1 E7 P
+ ^5 P2 q+ ~: e: _ P
2 m4 ]! w4 }. t8 `; U( m( g/ L 面对AI换脸，我们该怎么办？
& y! u$ {) t' ~5 O 6 n7 g9 x7 N/ p& O
（1）立法、用法
4 c& H( L/ ]9 J' m" R: C3 ` 2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
; j# D7 ?9 ^' K& e a
- B! S7 Q# e2 a5 ]* ?/ P
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
5 h3 X" @# t h1 t" s% P
9 w# V' Z( c; ]# c 就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
, Y/ p) c L0 N$ J) u2 h
% l% `. f/ P9 O# Q! P3 |
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
( p3 z8 M* m7 r * L0 |. ~' Y0 E6 w7 s9 G
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
+ j; o/ I" S# \8 t
/ B3 `' g& H( Q* Q2 o 逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
# m5 W+ e3 v R* l; ]0 F, f) J
$ h* W% e+ F |! s D2 Q - L. a; I3 r; L6 J
（2）如果遇到了，我该怎么办？
8 V" b; K/ J g% _
" X7 C5 k& W" E5 `+ I4 e ① 收集证据
$ Z+ M. d' W& F7 R9 S 首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
# T! G7 y0 f; B9 U* n* k
. E5 a7 k* Z0 ?+ g1 e6 d 收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
+ r$ F/ T% ] V" u0 ]2 l+ L
- w; Q) t/ j j% L- r8 U9 ~
② 报警
0 q/ [9 N4 l# Y& Z& Y+ w4 u
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
; g4 {- E8 @) c, r4 _+ q
③ 联系平台
) N2 w! b" v9 z6 M+ s
" \: Q% W1 H8 ^9 V2 | 如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
4 B2 i! O4 F5 D% Y 6 e0 a' f& V3 `$ p& w. X$ z. r6 G
④ 依靠法律审判施暴者
5 ~7 x( W0 J$ o, a
9 J5 k" a3 V2 f$ H6 r
如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
) s) Q, t, d. U7 v" X n
9 i# ?6 `4 b1 I/ a: R4 i$ K ⑤ 必要时可以出公开声明：
) `2 |4 X, d! a+ c5 T4 }
2 Y1 R2 ^, b; o6 h" J3 @& q- G) P
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
$ R, R" P& _9 i: z6 r
I; p' D4 R+ U+ j3 p 在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
9 O d. a( t, z; w& `. G* @
* a, {/ L/ h9 F9 D8 ~, C 6 A$ X9 Q) S7 [5 k: o6 y: K8 |
（3）如果我看到了，可以怎么做？
1 i( p0 d; n, M+ h7 _
6 A0 {) n! F: {# m% ^/ [
6 C7 {' B8 q" d% B: t% C; e: x 《房思琪的初恋乐园》后记中有这样一段话：
/ B2 h [) r. d' G2 G( L# H0 l+ o( |0 a
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
$ A/ ~0 F2 ?, f6 o3 y% r; F' ~' H
$ J( S" q5 A. q7 |! j, O 当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
' q. Q' x! Z/ G" Y. H8 c/ m 9 D$ {6 H* k: A/ k9 x" j$ {7 Z
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
q4 G, J4 ?9 }6 b8 b! w' B U+ m6 k3 ^
! E) j" n! m6 P2 P, ~/ q. A 如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
7 K; J6 t3 {' a1 }* n$ v1 c
5 g$ Z6 A/ d9 \: G/ _' b! i 3 S7 ~5 A1 G4 N. |
发表于 2024-6-15 13:04:44
