S4E10|AI 换脸,请准备好韩国 N 号房 2.0 的冲击

S4E10|AI 换脸,请准备好韩国 N 号房 2.0 的冲击

63分钟 ·
播放数19985
·
评论数142

在「N 号房 1.0」时期,犯罪者通过加密渠道分享未经允许拍摄的私密影像,这些行为牵涉到个人隐私的严重侵害,并演变为涉及性剥削的广泛网络。如今,不法分子利用深度伪造(deepfake)技术将人脸合成到影像中,加剧了隐私问题,进一步升级了对女性的侵害。

某些网络群体的成员数量甚至高达 2,000 人,而其中的部分受害者为未成年人,许多犯罪嫌疑人本身也是青少年。他们通过偷拍身边的路人、同学,甚至是家人,以这些隐秘的偷拍内容作为加入群组的「门票」,获得团体的认可,成为「男性联盟」的一部分。

技术的进步让伪造不当内容的成本和技术门槛已大幅降低,AI 技术使得伪造变得更加简单,影响范围日益扩大。这一现象不仅在制作端显现,还有庞大的需求群体支撑,这导致隐私侵害的进一步扩散,涉及到各类学校与社会层面,他们的需求也推动了这一黑色产业链的进一步发展。

主要话题

02:50 AI 技术让犯罪的难度下降,几乎覆盖韩国所有的小学、中学、大学

08:02 政府的作壁上观与加害者的恬不知耻相互助长

20:24 韩国占据了全球 deepfake 视频来源的 53%,这不是一个纯技术问题

25:11 报案体系、立法体系的不完善,导致法律体系的系统性不平等

33:55 技术可以对抗技术,但技术的掌握和使用依然是不平等系统的一环

48:44 求助国内资源无果后,韩女利用政府的民族荣誉感倒逼政府正视问题

54:37 女性的努力和抗争不断推动社会进步

59:29 科技公司可以用自己的力量去让世界变得更美好的时候,不应该回避这个责任

本期人物

杨轩,「商业WHY酱」主播、36 氪主编

丸子,36 氪作者

阿菜,36 氪作者

延伸阅读

他们给AI投币1美元,百万女性被拖入地狱 | 智涌深度

幕后制作

监制:可特

编辑:Riley

后期:可特

设计:饭团

运营:George

关于节目

在这个快速变化、信息爆炸的世界,跟随资深商业编辑杨轩,和各行各业的聪明人一起,聊点文字报道中看不到的料,探寻商业背后的关键问题和本质逻辑

支持我们,加入新一年的播客创新

2021 年我们发起了「声动胡同会员计划」,这是一个纯支持项目,支持「声动活泼」在播客内容上不断探索和创新。回顾 2023 年,得益于这些支持,「声动活泼」的每档节目都不断突破,不仅荣登苹果中国的年度热门节目榜单,还在 CPA 和喜马拉雅等平台都榜上有名。2024 年全新付费节目「不止金钱」现已上线,欢迎收听。同时,新一季「跳进兔子洞」已经上线。

欢迎 点击链接 查看 我们 2023 年收获和 2024 年内生容计划。如果你认同或喜欢我们做的事情,也期待我们不断尝试并产生好内容,欢迎付费支持。

商务合作

声动活泼商务合作咨询

关于声动活泼

「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。

欢迎扫码添加声小音,在节目之外和我们保持联系~

展开Show Notes
HD243291g
HD243291g
2024.9.13
AI时代不过是工具在人的利用下加速作恶罢了,不讨论根源男权社会从上到下对女人结构性的物化没什么意义,大部分人习以为常的随处可见的软色情和色情产品,媒体传播中根深蒂固的厌女仇女
一只老男人:号称拥有上亿女性玩家的各种“乙女游戏”算是软色情吗?
可颂女孩儿:这是能相提并论的吗?一个是现实中的人被换脸,一个是虚拟人物,一个充满主观恶意,一个只是一种娱乐消遣。
10条回复
胡学俊
胡学俊
2024.9.13
20:57 为什么男性不能成为黄色审美对象 文化上生理上的根源上 是有什么原因么 请问主播有没有相关研究呀
LeonUp:将男性视作色情消费对象的大概也会是男同吧,毕竟爱看动作片的女性又有多少呢?
Anne_vu6a:因为太丑。
12条回复
brainzhang
brainzhang
2024.9.13
目前ai换脸的受害者似乎只有女性,但是仔细想想就明白了,每一个父亲,他的女儿都有可能会遭受这种伤害,每一个丈夫,他的爱人都会遭受这种伤害,我们身边的亲人,每一个女性都有可能遭受类似的伤害,提高隐私保护意识,不论男女,都是保护自己和家人。

另外,aigc的魔盒已经源源不断的开始释放此类技术,虽然已经无法关闭,但是相关从业人员,对此类技术要有敬畏之心,一个模型的训练,行业内要尽快建立安全对齐标准,每个技术人自身也要坚持职业操守。千万不要说,这个技术已经都开源了,只是一把刀,我只是磨刀的人,至于怎么用不干我事。要知道,磨刀人和他的家人将来也有可能被刀所伤。
一乐星星:父权制度下任何人只要不是做到全球最顶尖那段, 都会变成被碾压的那群人。只是男性一直觉得女性要平权是要争取“特权“, 还有部分男性原本就是靠碾压女性才能把自己“垫“起来,恩格斯说过,现代婚姻制度就是让每个男性都合法地活得“奴隶“,如果女性都“站“起来了,他们就会失去唯一的“奴隶“ 所以男性对女性的压迫是有很深的历史惯性的, 这是社会结构性问题。 男性的父亲角色并不会随着他有了一个孩子,而产生对孩子那种照顾和保护的意识,更多时候是他对孩子投入时间和精力成本才会慢慢进入到父亲的角色里面去, 承担起父亲的责任。 所以单从父亲和丈夫,亲人的角度出发是很难唤起他们对女性困境的理解的
尼古普拉思:对韩男不够了解,但中国的父亲普遍把女儿与妻子排除在“家庭”之外。有的父亲看似爱护自己的女儿,但这并不影响他把财产全部给儿子,建立起牢固的男性联盟。而母亲和女儿,往往被污名化为竞争者,父权社会毫不掩饰的把女儿称为自己的“小情人”。这类父亲,在人们的语境中称之为“好男人,好丈夫,好爸爸”,但这类却是少数,更多的父亲是会家暴的酗酒的出轨的嫖娼的对家庭不管不顾的。
6条回复
公平何在 自由何在 男性不断挤压女性的生存空间 以前是“晚上不能出门”“不能穿性感衣服出门” 现在是不能在社交平台发布自己的照片 一味隐忍后退视而不见 不会换来更好的生活 去斗争去发声 相信我和遥远的女性同在 我们命运共为一体
菠萝列车:革命还需努力
brainzhang
brainzhang
2024.9.13
这期节目提到的问题非常紧迫,而且威胁到了所有人的利益甚至安全。现在的ai技术对图像以及视频进行换脸已经有非常成熟和逼真的效果了,而且用comfyui这样灵活度很大的软件,甚至只需要一张照片,就可以把照片中的人变成任意一个视频的主角。

今天,你发在朋友圈里晒得美美的照片打卡,在各类视频网站发的记录生活的小视频,都有可能成为别有用心的人的素材! 在可见的很长的时间,这在技术上是无法避免的! 甚至法律也没有办法完全保护你! 你能想象,自己只是朋友圈发一张照片,就成为各种境外黄色视频网站源源不绝的素材吗。这非常非常可怕。

所有人,要首先建立保护自己的意识,尤其是女性。保护自己的隐私,尽量少在公共网站上晒照片,晒娃了。完全可以预见,将来的ai技术,可以根据一个人幼年的照片,生成成年时的面部照片,今天在网上晒娃,可能十年后就会成为某个ai换脸视频的受害者。

也许你会说我就一个普通人,爱拍照,爱分享有什么错吗? 你没有错,但是周围群鬼环伺,能保护你已经你的家人的,永远要先依靠自己。
32:31 小杨哥他爹遛鸟视频流出来,大家也只是看个笑话没过几天就风平浪静了,但让有名气的女性露出胸部,一个第二性征,绝对能被嘲很多年,并且瓜条满天飞
36:48 讲个事实。自从小红书开始往男性用户拓展,平台上擦边的图片和视频就明显变多了,但小红书对此熟视无睹。
delgada_mh
delgada_mh
2024.9.14
非常棒 非常感動的一集
父权制度下任何人只要不是做到全球最顶尖那段, 都会变成被碾压的那群人。只是男性一直觉得女性要平权是要争取“特权“, 还有部分男性原本就是靠碾压女性才能把自己“垫“起来,恩格斯说过,现代婚姻制度就是让每个男性都合法地活得“奴隶“,如果女性都“站“起来了,他们就会失去唯一的“奴隶“ 所以男性对女性的压迫是有很深的历史惯性的, 这是社会结构性问题。

男性的父亲角色并不会随着他有了一个孩子,而产生对孩子那种照顾和保护的意识,更多时候是他对孩子投入时间和精力成本才会慢慢进入到父亲的角色里面去, 承担起父亲的责任。 所以单从父亲和丈夫,亲人的角度出发是很难唤起他们对女性困境的理解的。

今天的把女性AI换脸到色情素材,只是父权社会对女性和弱势群体压迫的折射而已, 明天,后天还会有各种根源一样的问题出现
59:19 我爱你们。你们做这个节目 写这个文本 跑的那些采访 也是改变女性命运的助燃剂 这就是每个行业都要有女性的原因。
女性:用ai换脸和偶像拍照
男性:用ai换脸看片
爱海儿
爱海儿
2024.9.15
我是一位男性,且从事过互联网开发工作,谈一点个人的感受:
1、女性需要意识到追求自身性公平权益需要改变什么?我想你们改变的是自汉以来形成的三纲五常和宋明理学的思维下对禁锢女性的文化。这一问题是东亚区域的普遍性问题。而且随着女性参与社会活动程度的加深,问题会更加突出。比如印度女性在近年对自身权益诉求的频繁争取就来自其社会参与度越来越高所致。
2、如果认识到这是文化层面的问题,所以勇敢的女性们需要做好心理预期,这是周期非常长且很曲折的事情,但最终我认为勇敢的女性最终会争取到自身权益的合理保护。
3、仅针对AI换脸的问题,我个人认为唯一的途径还是追求立法,以及降低女性法律诉讼成本。举例说明,如果女性可以通过某平台发布的换脸照证据起诉平台并成功获得赔偿和治罪,那么AI换脸问题应该会得到较大的改善。至于说采用女性开发人员保护女性权益的方式,我个人的经验看,基本是无效的。
4、AI换脸仅仅是女性已经深度参与到社会活动过程中产生的问题之一,背后的大问题是如何打破文化所带来的思维枷锁以争取到你们应得的尊重与权益。这需要你们不断的呼吁呐喊,过程会很艰辛,但别无二途,加油吧,女同胞。
MaievShadowS
MaievShadowS
2024.9.14
36:50 嘿嘿听到这边女码农觉得有点骄傲!女生也可以搞技术!
Sophia_rkkZ:为你点赞👍🏻,技术界需要女性的力量来打破数据缺口
HD257551d
HD257551d
2024.9.14
37:25 Facebook当年也是给女性打分😅
MsFool
MsFool
2024.9.16
全小宇宙就你们敢说…
小猪猪ky
小猪猪ky
2024.9.15
什么叫技术人员自我放逐,是女性根本进不去……是男性不会让高薪职业有女性进入
浅澜
浅澜
2024.9.18
听了这期,专门下载小宇宙,分享我玩AI的几个感受。为了出同人产出,我从23年初开始搞AI语音模拟,今年开始搞AI换脸和AI图生视频。几个感受:
1、技术门槛越来越低。23年搞语音,还需要N卡、30分钟以上高质量素材,今年已经不要求电脑配置了,素材1分钟就可以;图生视频更是直接用手机APP即可操作;语音合成当时我断断续续花了半年多时间效果才好,今年图生视频一键搞定;
2、讨论社群基本男的。首先出整合包的大佬默认都是男的,其次评论区、交流用的QQ群等活跃的也几乎都是男的。不是没有女生,是不活跃,因为群里的氛围对女生来说实在不舒适,可参考游戏讨论区;
3、上面这条也导致了,AI技术应用在色/情/擦边的非常非常多,特别是换脸。从最初的语音,玩家共享的模型几乎都是女声,Q群里都是各色女声叫哥哥,但语气一听就是男的;AI换脸整合包的一大卖点的“无锁”(大意),就是原本一些换脸技术发布者会屏蔽色/情/向应用,但是另一些人会解锁后发布。语音+换脸联用,一个男的就能变成性感美女,做什么说什么,都完全符合男性想象。
4、这些AI应用还处在互联网初期的免费共享状态。上面说的这些技术开发者、整合包发布者、模型分享者,都是免费的,极其容易获取。当然把它们做到手机APP的层面就另说了,但也容易获取。
5、受众也不太挑。有些做的很精细,看不出破绽,有些破绽明显,但是受众也不太挑。背后应该有很多心理,猎奇、新奇等等,总之都让传播变得更容易。
说了这么多,最大的感受是,同样的技术,女性搞纯爱,男性搞色情,简直是普遍定理。一个领域,你不占领别人就会占领。至少在应用层面,这几种AI技术毫无门槛,女生要多用、多发布,不要把技术变成部分恶臭之人的领地。(部分哦)
丸子_Zs2Y:谢谢分享!很宝贵的见闻
53:11 听到这部分在外网寻求帮助的女生们的反抗行为,一方面觉得很悲凉,一方面又被她们的勇敢感动。这期很好!
Ailbe_
Ailbe_
2024.9.14
已转发各平台~~发声即传递🙌🏻
安安Fiona
安安Fiona
2024.9.14
这一期这种采访太好了,回到了真实的世界里,而不是冷冰冰的描述