星级打分
平均分: 0 参与人数: 0 我的评分: 未评
想问大家一个小问题，大家用过AI换脸吗？
( P. h3 h9 z* [) D0 d. o
l9 I q" P- ]3 r, r# B7 T 我猜绝大多数人都是用过的
# n3 E$ P! q: f) b1 o" W7 ^
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
2 R/ [5 F! b* _& _% C l1 i 从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
3 K, d2 K1 F$ @0 s# c$ w) ~
5 V1 C6 N* }3 B7 B( f0 A1 _5 t 2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
: N5 E' e" `/ [0 d9 d& { : k* W0 c1 D, u b8 y! ~
5 L' u8 A& S* z$ ~/ e& |0 { 「N号房」重演了？
3 [: @1 T3 l+ ^4 n! l$ l4 Q
' p' c0 T# T" `: l8 o
随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
1 a1 X/ H1 j( }' i' q 2020 年 3 月，赵周彬被移交给检察机关
7 A& B9 z" w( l2 p/ Q- L! B # Y4 t+ M) V/ T, m( i
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
* T9 ?: u$ f. j5 e' z( [" y! P
6 O& @, [/ L5 Q 就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
8 c; b; f% b6 N* t7 r4 l
3 @! v1 H3 p. o- W
这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
+ ^4 J. T6 w/ k( e% a$ Y& F9 K( N
! q0 {- V. e* Z4 b+ ]; ^
从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
' }/ |5 M8 s2 M: v3 q4 _8 i4 h
" a4 A, c( d# l# u- ^4 s2 V: M: R
而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
" z8 @, C+ w- o3 y8 i
+ h6 E/ M& r* ?! Q: Y. O6 z
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
" {+ g+ P- f% `* M* }
& W+ Z5 c% X3 S" g0 B 也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
6 m4 n n9 L: j, Z. x" c
: R4 R% q! J# x: j0 { 在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
% F. j0 `) z1 w* C5 A
# M( g! F( B( ?9 D2 u% r
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
: Z: C& ]: {, Y" I/ q! a 3 L8 f+ z0 p" n% u) {
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
1 X1 s1 y m/ {* {" F 虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
" F( [; A$ D# G- n# k! E
8 T: S% U, o8 }; O J' l7 L AI能做的真的太多了
+ G! M7 Y' ?$ g( |2 v0 p: f 8 }2 U( N1 \: ?
（1）AI脱衣/换装
) T2 f& L9 G% t+ E
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
3 ]4 S+ Z! N4 H- W+ n8 @/ m6 o0 c$ h
如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
, b4 _! o/ w; y& q$ p
) ~. m5 B6 X! k; {4 J$ R4 }% y 2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
/ k- s6 D* b9 ]3 g
! X* O) ?+ q6 M 生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
7 n* P2 ^/ V' n8 Y$ i* {
% S* \% K1 s# ^( D% l9 S
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
$ |& J* p, N# H& i5 a3 K: B9 X 1 j7 l) m$ O# T! l- [
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
; k' h. c1 \- W, t# J
2 y1 G/ y; ^" _3 X
而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
+ `, _4 \/ \. ~
4 E. t1 l1 H+ T# z 它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
$ E' D) [4 l, Y* w8 n! F2 ~
3 @ D9 o' x# {* h
而比AI绘画更难辨别真假的，还有AI视频。
* M5 |% b+ L- L
# N6 v7 v& R/ J- `
7 g6 ~; u6 [& C! E9 Q; j
. M7 u; w' y* n* E( I. ]+ b , O) Z0 Z6 c/ u3 M, e% h
（2）AI视频换脸
5 G* T& t5 Z! C, G9 K7 Q% {
6 W2 Y' d0 T) i- B- i 随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
* ]7 Q( w3 B# r% Y 曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
% z v; G, c# j5 R6 U/ o# e. Y
- r7 A: z2 F: c0 B8 l 而这项让人惊叹的技术，早就被不法分子盯上了。
; Z" k/ X. L3 k" \+ \. {4 h- K/ ~
( s* r+ f4 q/ D) N" q' V/ S) I! L% ^ 今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
3 H" s i" G5 @7 w7 b( R/ _
+ a' {5 H% D( S 随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
- X, I) Z( A! `/ c5 \$ E3 B
0 [& f. W1 A" v4 i1 W 类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
. S& A% @- ^- w% u! `
9 R0 Y' C$ O% l2 l* D- c0 F 所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
5 ]2 Z' y/ ~/ t3 u* }. n
4 W0 H, n# X9 e2 o# A, z- \' J 那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
7 W" L. V7 f# T6 c) F- \
% W: j$ `* A- y. C9 ~
9 e2 M0 m0 R: R- L7 Q0 S. g
面对AI换脸，我们该怎么办？
& z5 W4 L7 ~* x0 x D
# F ~( T: M3 g5 i+ k; U* C4 p0 D3 { （1）立法、用法
Z& O+ c7 p5 k1 h 2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
7 \4 \ ?4 A5 e" b
7 l' b7 R* l4 X8 c8 r4 g
不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
$ a* B1 A- V4 L9 X* l1 d H9 T
- T" F+ Y: ~3 G' S; m$ Y" d$ x 就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
, c, v$ [; p2 s
) C1 s! Z; P( X% y( R
同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
, C* F9 w. G3 K% w2 j $ t' [. L+ f6 q
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
" x* B5 c5 g6 @! ^) D; v+ b
# p/ I3 \& ^ z6 q/ x9 y! M" C
逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
( L7 I; U8 o9 x: g- l# L
) b4 [* w+ y( z; d) D
! h6 N# }5 E x. l% U3 \4 B+ Y （2）如果遇到了，我该怎么办？
+ E& q- T: \4 C7 j2 l
0 T5 Y2 H8 U' C. q: a/ I, ] ① 收集证据
$ j% J2 H) j( b5 e9 \ 首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
& D. p; J! e% U$ ^1 p' g
# ]8 k4 Z/ J6 r
收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
% Z5 z' p n7 V/ \7 j1 W( C, o* d
- }; `9 L/ I7 |* `& [- l ② 报警
8 z* j$ p# l) P) l z 立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
1 \6 `/ {, @8 f5 j- N# s# J
③ 联系平台
: W- w7 x0 W0 ^$ X0 a- R6 r* x3 g9 ^
6 N" X. G1 N" C' f3 G Z 如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
( P, p0 z3 ~* d7 a4 t/ X. E
: Z2 z) z9 F+ W8 a6 a( u
④ 依靠法律审判施暴者
$ o- w ]( F }: q, F# M+ O
0 |. F( E) c% ~" c/ z 如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
4 S1 t6 m- ]. e' \" i5 s: g( Y - M( |8 \9 g( o" ~: u# G+ c
⑤ 必要时可以出公开声明：
& r3 g, r' o& h' ^( r p
8 o9 j( J P6 P6 w
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
3 n8 z4 H7 y. p, J; x2 _1 H/ Y
- B! T) h3 B2 {" Z& b7 \7 d" | 在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
]5 s+ o1 O# a. L8 Z4 h# @
$ B( L' Y0 Z8 W% {9 E, m* t% r
2 f' x: [/ h7 a （3）如果我看到了，可以怎么做？
( C \# k3 a8 k, ]$ J! \7 q
. w* Y" k9 L/ @) d* a+ P
9 _( c r& y3 I; ?5 r. U6 u 《房思琪的初恋乐园》后记中有这样一段话：
( c& N3 O1 G# q2 N$ @0 K
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
1 F: w0 G( _. @% h
% L% {2 O$ T% z4 q9 C5 X5 b 当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
. l [! Z. e% h" D9 `
7 h6 F# K3 f: x. N* T9 m9 T& J- I4 [
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
1 ]1 J# D6 p0 u) _( w$ y- ? ) U( J+ Q6 s/ G, r. m4 y, h
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
# W% w! a1 }1 P& k
" \$ B' V4 {. I9 w) R
4 W8 B2 h3 @4 x% t# M 
发表于 2024-6-15 13:04:44
