星级打分
平均分:0 参与人数:0 我的评分:未评
想问大家一个小问题，大家用过AI换脸吗？
4 m, z& A; ?7 f
6 O1 x% [% t' |; i* J6 [
我猜绝大多数人都是用过的
# L0 P5 C: R/ E2 o; E3 P' X. A" U
毕竟很多短视频or修图拍照app都会出类似的特效，像是换脸成热门剧的男女主啦，成年人和小孩/宠物换脸啦，查看性转后的自己哇……随手一拍，再搭配上灵性BGM，一个「热门视频」就诞生啦~
! l' n: I' i1 Z T: b" x
从这个角度来说，AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看，潜在的危险也离我们越来越近……
. w% J# \# }! Y2 ~7 ], P
! V# L5 y7 V% g( U2020年那场震惊世界的韩国「N号房」事件，大家还有印象吗？就在最近，它重演了！就是以AI换脸的形式……
. t0 V/ c* O. I7 k8 Q9 k7 @2 |2 R8 M* A! c. s
, k# x0 ?6 u' F# f% x! k9 l「N号房」重演了？
2 \- w, I) I8 X
' Q- L+ s9 o0 m4 m8 m随着2021年下半年的终审，主犯赵主彬被判处了42年有期徒刑，至此韩国N号房事件告一段落，相关立法也在同步进行。
1 N: i, j; ^3 t; N0 N
2020 年 3 月，赵周彬被移交给检察机关
. N' U1 C$ \$ e& U! C% U' \! G: M6 H" Z1 ~7 f- r# r
但N号房，就像是一只被看到（且拍扁）的蟑螂，而这意味着在我们看不到的地方可能已经藏了千千万万只了……
w! Q1 f2 E* j+ ]0 x/ ^: j$ F U
`1 _- Z& m: ~3 r2 w& B# G) u就在N号房落幕的同一年，两名首尔大学的毕业生，已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频，也就是使用AI换脸的色情制品。
( j, L1 E+ w. Z3 ?! ?
% v3 l0 g! A: N# `9 Q+ Z这些视频几乎无需和受害人有多少接触，仅仅是利用受害者的社交媒体甚至是毕业照，就可以完成一场真实的性剥削。
: h a+ u* S! u9 }
. g7 ]$ M3 P; G9 A5 }9 T; b
从2021年7月至今，他们共制作了2100多段色情视频和图片，受害者有60多人，其中不乏大学女生和未成年人。
' E' D3 m8 s3 t2 \( F& O b" _9 D
1 B% ^& g1 m4 T7 }" ^% O: P而这些伪造的视频和图片还会被摆在受害人面前，变成要挟她们接受线下侵害的威胁。
7 V- i+ o8 f; s, |+ s* D6 m4 g
7 k Z! ^) A: P5 U% H6 o% ?
不敢想象，那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。
! a: D3 `9 A$ @
, R) p7 x2 h6 {# K8 x9 A X' O也不只是国外，国内也早有例子证明，AI换脸或许早就可能触及道德和法律的底线。
5 \5 u& @8 B/ H9 _5 D) f6 a
* |, x0 f1 {3 K8 l9 W在2020年，杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播，受害人中有女性明星，也有被变态暗恋者定制换脸色情视频的普通女性。
5 s& D0 T' U+ ?8 a" {+ `3 e# n% R$ q p+ ]3 f3 e2 {- z
虽然最终虞某被判处有期徒刑7年3个月，但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽，并没有办法完全消除干净……
/ S# i! w. `* S' F9 k0 c+ B8 Z% v/ C5 X" n% B ^ n; J$ M; \5 g
而关于「deepfake」滥用的事情，不仅是韩国，在全世界范围内有很多很多
" c4 f$ z5 Z4 e! T. p0 n虽然多数事件都以法律制裁收尾，但躲在暗处的情色霸凌真的停止了吗？！处在这个AI技术迅速发展的时代，毫不夸张地说，每个人都可能是猎人，也都可能是猎物。
# P- b8 M7 V& A" g7 a% x- S# F k& V1 {8 R) }2 K) w
AI能做的真的太多了
, _% `) l7 e8 u0 P; z% }& H& k1 S- O9 R4 x. {
（1）AI脱衣/换装
# g; [" ?4 K: Z1 C* G3 E$ X0 ?0 S
只要一串代码，就可以脱下任何一个人的衣服；只需要几张脸部照片，就可以生成色情图……
( S& b# Z j+ s7 Z7 F如此低门槛的方式，也意味着荡妇羞辱和色情复仇的成本越来越低，而它们的受害者通常是女性。
* w4 Y+ h e+ ]- B3 @, B: ^; A7 {8 X7 p/ ~% V* t) }; S
2023年夏天的广州地铁中，一个女性乘客就曾被「AI一键脱衣」。
& y! g8 W; H' W5 }
. e! \' U, T- E
生成裸照只用了几秒钟，但随即展开的赛博围剿却持续了十数天之久，有人说她是夜店舞女，也有人说她明码标价，还有人对她的身体评头论足……
4 y g& h. m! e% e9 a7 Y! A6 W9 C: L: H
在理性网友找到原图后，后知后觉的人们才发现，这竟然是一次零成本的AI黄谣。造谣者不费吹灰之力，便可以让受害者深陷难以自证的泥潭。
- t% Q: v. I. K" b, s. O# g n/ J* d& ~) r2 C* ^' Q
但即使涉事相关AI软件已经被封禁，那张图还在互联网上能搜到，而制图者依旧在茫茫人海中完美隐身……
; `2 _( B+ C6 C. P9 M
, ~7 p$ D1 w# ?+ w& k8 f而这只是AI绘画中很基础的操纵，更高级的AI可以根据不同的提示词和多张图片生成更多崭新的图片。
2 X# F9 |8 x2 w/ X" F
* F" D$ [7 w" F( r% E# V它和AI换脸/修图还不一样，换脸/修改就意味着有原图，有原图就可以证伪；但AI生成的图片是没有原图的，女性要如何证明那张逼真的大尺度照片上的人不是自己呢？
2 K& x/ i+ V- M
; z4 T( ?! `! a3 a; K K而比AI绘画更难辨别真假的，还有AI视频。
5 {: c1 c* Y3 q* v
+ M9 c7 h! A* z$ |% m* G* i
- i! a. j% X! m6 n; x9 P
4 }! @3 X; d' G" A+ `7 F
9 R* w9 X5 p% Q! v6 k（2）AI视频换脸
. L. y2 I/ x. P
# y% ^0 L& l8 F( B随着AI技术的发展，一键换脸的功能也被一些综艺节目使用，虽然看起来和五毛特效差不多，但是不难想象随着技术的发展，真假的辨别也将会成为一个问题。
3 M R: ~' Q/ r5 w U5 i: i曾经我们认同眼见为真、视频为证，但是在AI如此发达的今天似乎不太成立了。
+ t2 G% P4 {! u, Q$ y- K% c
B4 z' U6 c) x1 V$ ?6 S4 W1 t- q* D而这项让人惊叹的技术，早就被不法分子盯上了。
/ ?( l0 W: J- ^% {5 R
" O D, Z/ j* D0 O& ]今年2月就曾曝出，一家跨国公司香港分部的职员受邀参与总部的视频会议，被要求将2亿港元分别转账到5个账户中，转账后向总部查询才发现受骗。
( {: y/ v4 R, [$ ]# w q/ L9 G' F0 R
# ~" r( ~3 b4 d+ I2 O7 `9 L
随着警方的调查，该职员参加的多人视频会议，只有他一人是真人，其他人都是AI换脸合成的。
6 H- l( ?' u) K# g! J7 d
6 q. u( [3 }) {+ H/ ?, \+ P类似诈骗事件在陕西也出现过，受害者陈述时也提到，照片视频电话都有，很难判断这是假的。
$ V5 I- _# Z4 H4 C- x1 G2 i
' m6 G; \. D }0 c, d4 I9 o( a所以当这项技术用到了生成女性色情视频上，取证、追查、下架视频的难度又会有多大！对受害者的身心伤害又会有多大！我们真的不难想象。
4 R( H$ d& C. R6 K2 x) y
9 K n T- N3 ]8 c; c! I: X那么，当推动社会发展的技术可能变成斩向我们的利刃时，我们应该怎样更好地保护自己呢？
2 H ]! z# K1 |( L) i- m& d; f5 A/ O( \' D' D. W
' E8 P8 _& }/ W2 P: O8 `面对AI换脸，我们该怎么办？
1 |5 D' c. b3 I; ]0 N/ `- u$ r* y F: y4 {7 M% D
（1）立法、用法
4 G: Q: b1 v; d2 X+ N
2023年8月15日我国就已经通过并施行了《生成式人工智能服务管理暂行办法》 ，其中对人工智能的技术发展方向以及使用规范做了明确的规定。
* H% i4 O6 F" B7 V1 k
- q7 {1 W( ~2 e不过还是希望立法部门可以有更加明确细致的立法，国家能加大宣传普法力度，让更多的人了解以AI为手段实施违法犯罪行为可能触犯什么类型的法律，如果做了会受到什么惩罚以及受害者如何维权。
O, A$ m! f* `+ D+ k
# u* x1 g0 i! X- p8 r: c) J" K就目前来说，根据《中华人民共和国治安管理处罚法》第四十二条第六项，偷窥、偷拍、窃听、散布他人隐私的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
; q8 k, D! V! V) W
% J2 o6 H1 ?% r$ u% \# w7 w0 J3 J同时，根据《中华人民共和国刑法》第三百六十四条规定，传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制；第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
# ^7 r/ ]/ s8 ^$ w$ _0 G
1 T+ O! v8 {- m: C9 L
如果利用色情图片对当事人采取恐吓、威胁或要挟等方法进行索要钱款等行为，可能涉嫌敲诈勒索罪。此外如果利用照片和视频威胁、逼迫女性继续与其进行性行为，可能涉嫌构成强奸罪。
\4 Q/ u* t5 u; f/ P- y2 ^5 w
. n2 Y& p! y. {0 d5 }$ c6 m% r1 X5 T逃避和妥协只会助长犯罪者的气焰，如果真的遇到了这些情况，屏幕前的家人可以采用以下这些方式保护自己。
8 A! ^6 W, X* ~% _0 t0 r$ Z
1 [# L! `; |8 d+ M( i8 Q2 J
. z( f; j& d+ w" v（2）如果遇到了，我该怎么办？
) @5 d% o" ?! v. l
; I$ L* E- D/ W5 \
① 收集证据
* j* z' _: Y; _, U
首先，立即保存并备份所有涉及你的色情视频和照片的截图、录屏/原始文件。
' x3 u o/ e" |/ u
& |0 G2 G2 f3 T" p4 p3 d/ k* H& Y收集与这些视频和照片相关的所有信息，如发布时间、发布平台、发布者ID账号、浏览转发数量、相关评论，保存侵权主体的相关信息及传播信息，以作为情节严重程度的判断依据。
2 t/ ~4 a$ _: A( p( L' W4 e6 r/ X6 \ h& n! e
② 报警
+ u: T2 F# r! D2 s
立即向当地公安机关报案，提供相关证据和信息；详细描述情况，包括如何发现这些视频和照片，以及可能的嫌疑人或动机。
4 {4 Q6 L0 F; A$ ?% c. Y* g③ 联系平台
$ x+ e/ K9 F- o1 m: l2 k# n& F
. n* Z0 ? W7 p% N5 O1 |如果这些视频和照片被发布在某个在线平台上，立即联系平台管理员或客服，请求他们删除相关内容。如果平台不配合，可以向警察反馈，请求协助立即下架或删除视频，避免进一步传播。
" d; E7 g9 @4 E9 Q7 x
) O+ U" K$ e7 j④ 依靠法律审判施暴者
+ M# y0 N2 w* g8 U- T w! P. Y! F
% U% n A) P3 C, g" H, t4 k% O如果有明确的犯罪者或犯罪平台，可以咨询专业律师，了解你受到侵害的法律权益和可能最大限度维护权益的法律途径。根据律师的建议，采取进一步的法律行动，如提起诉讼或要求赔偿。
4 e* M2 D# g' o5 j- f
& V8 L \: R3 a8 }4 y⑤ 必要时可以出公开声明：
8 C$ Y2 o8 R. o& P. w
; r7 _) C& Q- h) F) {
如果情况严重且公开说明有助于保护你的名誉和权益，可以考虑在适当的时候发布公开声明。
) R. m0 E! B1 H$ {* E2 G+ d
8 b# W' O( D, D$ `/ W9 ?在声明中澄清事实和警察的调查进展，表明这些视频和照片是伪造的，并呼吁身边人不要传播或相信这些虚假内容。
7 ~' x, {5 S$ g8 b& _, b( T( T* ~* b1 _, j* U& D! v0 {& ]
& b! C0 b1 K# X J- g
（3）如果我看到了，可以怎么做？
9 l d$ J# \( T' S$ g, }$ k8 M
1 N$ t, k' F2 f4 O7 I7 j" V. i$ Z& n( ~
《房思琪的初恋乐园》后记中有这样一段话：
) b# ^/ p* e5 y1 M$ _" C
「任何关于性的暴力都是社会性的，或应该这么说，任何关于性的暴力，都不是由施暴者独立完成的，而是由整个社会协助施暴者完成的。」
0 N3 a3 J) H$ ~' Q; {0 s+ y7 _. ]
当数字性暴力被简单化为所谓的「资源」，一个从生产到消费的灰色产业链闭环就形成了。
* X. G% N0 l3 v) C( h
) P' C3 A, [( [) |3 W* r
因此不生产、不消费才是我们对这种犯罪最基本且最鲜明的态度。
& n0 p4 V, W F- ?: H- I4 G4 v8 r) h4 `5 b) Y2 l
如果屏幕前的你看过这样的内容，希望大家可以反手就是一个举报，不感兴趣、不下载、不传播，怎么不算是对受害人的帮助呢，又怎么不算是对灰色产业链说「不」呢。
: {. A/ K$ p/ P+ T
! L% l) g( I% o/ D, A' \; B* [. l9 X9 d3 Z' p4 c
发表于 2024-6-15 13:04:44