星级打分
平均分: 0 参与人数: 0 我的评分: 未评
想问大家一个小问题，大家用过AI换脸吗？
( c8 z& U' b( }) k f) ` 0 m/ W8 B' ^) l# E1 F
我猜绝大多数人都是用过的
1 t0 N/ p9 {: T- R9 y6 h G
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
' O, p- f# \1 f% k: M
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
" G% H x6 M: ?0 f' Q. H
. k2 b7 s) U$ s) p' X- V+ m$ e 2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
3 j( t* t! P% V, n+ s
* W {( j! s$ h0 N: o : v# w. ]2 Y/ o8 `. f$ D; ?3 ]; ~& w
「N号房」重演了？
$ |4 ^- ?* M2 P W: u
5 o: A9 O5 A' } 随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
! E6 I( i- q& G' z9 x+ B 2020 年 3 月，赵周彬被移交给检察机关
/ D7 o+ ?8 C' I( K& H, x& L4 C6 f
& |" i$ P- Y1 Z: M 但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
: P+ I& l B+ F8 ?9 \
: N4 s* X8 c+ Q 就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
/ o1 b; _0 T R/ V! M; y0 F
' [3 l9 j. X) Y* ]: x$ h5 n
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
3 U6 f$ j2 E7 y/ K8 {
4 B. J3 h9 h$ P, B. C- N5 y4 Z 从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
! v" |+ ` J( u- q H4 g' c+ j* Q
5 S3 n- y: o% ~% u/ ` 而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
# e E) d) ~! J- z. p # [1 a& |1 S3 Z1 ?) b! p% U
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
# Z1 s$ ~: N# ]3 F; V z
" ^' c/ g& h9 o( d0 t" l 也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
1 B2 F1 s) i; [
9 T" M4 o; U- b! n9 o4 |, g 在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
& D7 ^8 u* d: s3 }4 j7 b- U% q) g
1 I5 @8 e; D1 Y7 i
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
. _: r; d5 [* d* k) q C 7 @# {& @7 C# W0 {$ P- I
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
4 x0 a6 ^: f( I% N+ e2 o$ l- ?* D1 ] 虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
5 k4 u( `$ _* q6 O' Y 2 y- x* o0 a% H- a. K
AI能做的真的太多了
8 f3 O% H* g1 a
: C& V/ o5 T2 Z9 m
（1）AI脱衣/换装
$ N d2 N- Q) I- c* c! g
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
+ e4 ~4 `/ X: g 如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
0 U/ m4 q0 X4 T6 g# @5 x
( ~2 W% S4 x4 L; w8 j/ W+ L7 {& z& u 2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
6 |3 G; Z3 Q6 z ~5 @- x7 X
5 C# H; V7 k) O, M7 ~, s4 G 生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
2 x+ m" v9 A2 k! p8 F" a
3 p+ q/ w7 F# C P 在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
- b6 R e( V7 X ! \0 f j! \+ v B6 ~3 N( |7 o9 R
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
7 z* E- h* _: H6 V( ^3 ~
7 O% l0 n0 h: z 而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
9 k4 Y5 Y K" [3 q- [; m" u
" e( \; G5 d7 T/ A7 K& O+ g# Q( E 它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
+ F+ c D* y4 A! f0 x* ?9 P
: Q5 b# ]8 X, x+ ?/ l/ y/ o! { 而比AI绘画更难辨别真假的，还有AI视频。
2 H; O% A- r2 ]
2 X6 [, [" E) E, ]4 `- C5 l
% ]6 F8 u; b/ X
1 l& O5 l9 [3 M. l
" t" |. J1 [2 |1 Y. Z （2）AI视频换脸
: F0 k. w1 m- t8 d
- Q* G; r1 f( G# @$ }/ [ 随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
7 s7 @: C! c2 R& ?" E
曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
2 e5 y6 g- y( P! [7 y& ~
- z) @8 B* K$ N9 q8 l% A 而这项让人惊叹的技术，早就被不法分子盯上了。
6 S) c4 t3 S0 K' K8 b6 T" r
0 R% V8 u- u( O2 | 今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
, T& ?. T6 l+ Z( C/ f" T1 S
/ l$ S% F0 t% n8 ]8 @
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
) d4 e3 b# s- x
- Z$ r( M; S" O( V+ _ 类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
/ Y; Y* O: [& v9 E. x" q" s
9 f% L! P g& d5 D 所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
T6 z5 d* S- }# L" n r' k
$ z* R9 \0 ~$ }& h
那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
, A; p: C4 J3 s3 ^
- q0 m; y {: {0 d/ D3 a( K
6 S) z3 ]0 ?: s( O 面对AI换脸，我们该怎么办？
" S! }! d b6 B2 \8 ^
' x# @0 o1 {0 _ （1）立法、用法
# t8 ]+ ]* w6 n/ n
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
; z+ O3 W- C$ e! j5 y
7 ^" H x1 O% e8 G5 F' Z
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
3 [; X+ c; C2 l, z
2 c% t) E: G, p 就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
9 ]$ q/ ]8 n, y/ S: Z! D
1 E; [( h: y# C8 ~/ s! Z9 | 同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
& T8 d. G3 w/ [3 ^3 v0 Z
. G9 e0 R5 h# v9 Y6 d( I, ~ 如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
# |% g# X/ ~/ F. u
3 G, Q4 {. j$ J) F9 j1 K 逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
7 _8 I V3 }0 c& w
" ~1 Z) m7 r" }) g C. \0 H
" O z. D; p8 q6 ], y （2）如果遇到了，我该怎么办？
$ E0 s/ Y% M" o, U
7 G' ^2 c; B$ D% C' W* x9 @: v
① 收集证据
. T( G7 T& O1 }- n" v3 n" v 首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
( q$ K' D5 v& o
: }' T' s1 X" H
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
4 r/ b8 K/ \6 Z1 \2 y
$ q% f+ n# x/ X4 P7 i6 y: Y# x
② 报警
) j) y: ?3 M& V$ Y7 A 立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
: i7 K" F" _, _4 X* J ③ 联系平台
5 Q( L2 R# M. N! F
! u7 T# d: g; S) y A. `1 U V1 A 如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
# ]& M5 D5 D: z4 y u
8 i$ d, E+ X# L$ Y ④ 依靠法律审判施暴者
4 }: a* |( \6 p1 F; [( R- q + `( D2 d" g- D& j: @
如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
: X! [2 F2 ^2 B- K
) Y5 F6 P/ M6 G* C/ u* u ⑤ 必要时可以出公开声明：
, w4 e+ o9 z9 `+ `0 ^2 y 7 F- O- X# H: V: m# N3 N; }
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
& y3 `2 O4 Q- z2 N $ }9 v# H% w! m
在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
$ _. ]* \/ G0 I
4 C- M6 }7 Y4 C7 g% T4 l% B
) H7 a( e( _; y7 y* ~3 @8 H2 k# O2 v" S （3）如果我看到了，可以怎么做？
W' J7 Z- H& C5 {. A7 _
& d* d7 v8 q: `, j, f$ O1 J ( c& }. A2 b% Z
《房思琪的初恋乐园》后记中有这样一段话：
* U. y0 f H! k0 v' i' w
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
. ^8 W; f5 J* V2 `
$ W6 n% d* L4 }; U: H 当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
! F) H) S Y+ a1 w: h$ Y
1 J3 t# @" {, R# \( `) R$ ]2 b2 p% y 因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
4 \3 I3 A) F0 [6 u$ E$ n5 E4 h7 S- K $ s; u3 ?/ l$ Q$ z: |
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
P- O! [: R9 s+ F6 B # B; _/ v8 I7 G& j% r1 O
$ @7 p4 O2 p+ A1 K# A
发表于 2024-6-15 13:04:44
