星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
, \! K; u& [1 f9 G5 O; R# W% ]1 W7 t/ V x7 [6 H! `: \3 c; H
我猜绝大多数人都是用过的
( ^- n; W" N9 I1 ~# b1 W
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
0 x: U. _* M+ t3 d/ o7 z- ~9 v
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
2 y2 m2 N1 d0 Q3 D9 c m
( S- x6 g2 U. ~% |. W
2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
- P' f& E0 I! ]8 ~$ v8 [
/ Z' k4 U: b- w8 {
6 Q. ]/ n/ j% t0 a a; I/ a「N号房」重演了？
( @* l0 J8 |: p1 m7 R' P S0 j" m8 P9 D* t# m
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
5 Q' i! J# ^* H5 H! X2020 年 3 月，赵周彬被移交给检察机关
5 ~9 [/ h5 u( F! }# x* {
7 Q, {% k& C- l) d* k但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
$ v# p. A6 b h5 |# [# u# m7 l8 W
7 B$ Y, M$ y3 u4 }4 J" c
就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
+ h l# I {/ O h1 I
1 d% l! m5 O# f4 o9 ^这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
* Z+ n+ Y3 a' ?" z3 s4 r
5 T$ x: V; p. w+ D/ ?2 t' R从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
. E1 y$ P& J* \. q3 B* }# g
! a9 i8 x! T; d& w9 P/ @而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
* \; _/ ]$ t& d+ N
: g( c( `* K3 k不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
+ k; F2 o: v# z7 O2 w
( d% _) d J- }2 m7 b也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
0 _- s4 |! r/ X/ ~3 G
0 W: _- m. \$ _在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
* R3 `' v5 w5 l' r: O- U
7 e+ R: N) N" U8 H- i0 g5 |" T虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
. R/ I: r" j" R% M- T' ]; l! H9 G9 a4 B4 k' H2 X
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
% L6 \7 V. w4 k+ N虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
7 h# J d7 M7 J' G- k! {/ c. F0 d& ^& L5 g0 g
AI能做的真的太多了
2 L3 b# c" M4 ?
- M4 s# [) J7 O% {
（1）AI脱衣/换装
) [4 E1 b6 u4 Q只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
' ^$ J+ E* O7 |如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
2 g; ^- i# e8 t4 O" D, k8 U
; {8 B5 x8 D+ z5 \9 i/ H4 \
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
) B2 d5 V- Z) G
p1 f$ [( V z+ [ L: Z/ J生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
b; k) ?6 }! W* D; }
|" w6 }; J) y% F5 n: f& `3 q! o6 b在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
2 r d6 X7 l1 p9 T% V q. p$ ~+ b0 Q( e) C5 ]3 n. a8 l
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
$ ~7 s, n! P6 R- n% }/ u0 f P. K' m# R; F
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
" t- k; r0 d8 l; r0 h3 w" D
: O6 R0 q' o9 Q3 K; z& M2 C8 f它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
. k. c* @7 ~; {0 e+ F0 L ~
. @- E" V4 B+ R' @& P而比AI绘画更难辨别真假的，还有AI视频。
q( _4 b3 E) c/ x3 a$ m
/ `, {' w! T/ V# s$ j
7 S1 |5 a. y3 J
/ C) I V! n2 K4 J+ |, s* R7 ^8 a" C' X; q
（2）AI视频换脸
( Z( J. f" z) u
- e" t4 P# n, r. ~' l* R随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
" ]0 U$ @8 H+ R' S5 ?+ r
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
7 d% v$ V3 |$ I
, w* p8 {9 X+ H0 h
而这项让人惊叹的技术，早就被不法分子盯上了。
. Y' @0 i, ^% k9 q* Z. c1 X% }7 t! q, i' [7 q& Z) H6 V/ l
今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
) @& S# y2 R z
- v# t7 W+ N y! F4 @
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
9 S$ O D _/ ?" h
$ t- p* K# g1 l& s
类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
! J( O' p2 c2 i; J# \/ ]4 g
- q8 y2 e" ]% p0 W所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
6 f8 E* q/ t4 \/ E; t
- n: l1 U) g5 t那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
% X, t0 u6 t+ b9 g/ x1 B% I
( ]; h, \9 m4 Q( {, P
0 T2 R! J; \( u2 N% r: p面对AI换脸，我们该怎么办？
5 B) x) U7 O: |3 V7 \8 A
. @: y, ?+ ]# M
（1）立法、用法
1 v& o% t9 t+ ?, V( C! V: N
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
9 S6 S# P7 c0 F4 h+ g) B2 E' j% Q' a8 w
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
3 @6 Q, A# j* O' D8 W
7 }, e( D3 f/ Z
就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
7 p/ \% n( F! q0 L ?
. j6 K: z2 c3 R; D' a同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
: V( X) M7 w( X) R( F0 q0 z* D
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
7 j, `% _: }" E* e% G4 `( X3 X
( D; Y6 u! x( s逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
/ k Z) N9 ^4 D1 m/ j
+ J2 y1 o+ L4 ?1 S' w! F
) ^3 h' j3 ^) q6 F- d5 }/ |（2）如果遇到了，我该怎么办？
) I" f$ E% j2 N+ ~7 H- X
9 }5 w# k1 Q" H. H0 f0 V8 O① 收集证据
) F! k+ m" O' Q2 o9 k3 e) I! w8 Q首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
4 o1 z: n9 v! c2 h- Z2 v$ C: C
0 P, P( u P9 M4 f. K `* d2 t! C收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
8 b* G5 e- t9 j1 t Q, n
4 \, b% x$ J6 k9 I; }3 D② 报警
- n; n, w% Z2 m: r$ }# H# ~% w立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
, a( f7 {8 D9 o- K3 h5 x③ 联系平台
6 F3 D( ~, \2 l; R
; J/ ?; z6 i' p5 c5 x& ~* m如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
3 p1 H, z* H. O$ d: o0 e, |
/ Y9 W% Q3 \* H# h3 r④ 依靠法律审判施暴者
9 G: {/ C% K( T8 i. A, |
3 g( e5 u# X) a$ e如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
0 b4 O4 n- }- d* j% V/ G
0 o) ]6 n/ I0 T% W% ~6 L
⑤ 必要时可以出公开声明：
6 @8 y. g7 |% U* W* o+ Q) K
; N& d9 k9 U8 V+ s0 @" I" L- @
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
6 V: y2 u4 m& N8 E, N5 C% `- r/ E
: |' p: H! |8 f. M, A: I8 e+ {: E: @. T在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
% x. e c. w8 K, c% F" ^4 e: z/ N5 D5 c5 D. y$ h' e# f
' f: j6 u9 S. t! K+ q0 r# s（3）如果我看到了，可以怎么做？
: J2 ]* y: n2 G M' k
( \3 ~4 Y) Q6 y/ s+ ?
$ L+ W8 f+ ~7 B《房思琪的初恋乐园》后记中有这样一段话：
" c0 H) }% j9 V; j1 _! i$ r「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
) @* P6 z9 M5 C* m( G" \
/ Q6 R4 i2 q; Y: ? c2 T当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
7 |+ g( Q' T* ?/ u+ X4 L2 E0 p c' j ~
: N+ W+ T9 V. C! M8 Q' [0 m
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
1 S6 ?6 X/ C! q; X" z
1 D8 |3 w5 ~) G. I; x
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
# X2 N8 o' V( t. X' Z. {( e
. w9 m3 z2 d6 v
4 K4 E7 a; B5 U6 L8 v/ C$ j) B M 
发表于 2024-6-15 13:04:44