韩娱公司云开体育，正在反击 AI 作歹。

上周，韩国文娱公司 HYBE 文牍，将与京畿北说念视察局合作，共同打击以 HYBE 艺东说念主为对象的深度伪造内容。

HYBE 与 NGPPA 签署了一份公约，明确了合作细节，包括加速筹划案件的视察程度，并在韩国开辟举报热线，便捷公众请问筹划犯科步履。同期，HYBE 也文牍加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将挑升开辟反映机制，尽快领受行动。

旧年 9 月，韩国文娱公司 JYP、YG 和 Cube 也向使用其 K-pop 艺东说念主图像创建的深度伪造视觉内容讲和。YG 指出，包括 ( G ) I-dle、NewJeans、Twice、Kwon Eun-bi 和 BlackPink 等着名 K-Pop 女子组合王人是深度伪造内容的受害者中的冰山一角。

比年来，深度伪造内容泛滥已成为全球真贵的焦点，尤其是针对文娱行业的坏心攻击。那么，为什么深度伪造工夫会麇集盯上 K-Pop 圈？背后拦截着若何的恶真谛真谛？

困在 AI 色情视频里的女明星

深度伪造是一种东说念主工智能工夫，依赖深度学习工夫，尤其是生成抗拒网罗，来生成或改削图像和视频。其中，GAN 由生成器和判别器构成，通过两者抵制地抗拒和博弈，生成器安定学会生成愈加传神的子虚内容，直到能够以伪乱真。

借助深度伪造，不错把一个东说念主的脸、声息、看成换到另一个视频或图片上，让它看起来像是的确发生的事情，比如让某东说念主"说"他从未说过的话，或者"作念"他从未作念过的事情。

而在韩国文娱行业，好多女明星的形象被作歹分子用来制作歹搞、色情等无益内容，严重侵害了艺东说念主的阴事和名誉。

好意思国网罗安全公司 Home Security Heroes 的一份请问骄横，在互联网总共深度伪造视频中，简直 98% 是深度伪造色情视频，前 10 个挑升用于深度伪造色情内容的网站上，视频总看望量率先 3 亿次，总瞻念看次数率先 3000 万。

请问还指出，94% 的深度伪造色情内容王人发生在文娱业，其中歌手、演员永别以 58%、33% 占据大头。在深度伪造的色情内容中，99% 的受害者是女性，仅 1% 为男性。

而在 10 个深度伪造色情网站和 85 个视频分享平台上的近 9.6 万个视频中，53% 的东说念主是韩国歌手和演员。

在国外外交媒体 Reddit 上，有网友指出，当搜索" K-Pop "筹划的重要词时，跳出的热点 subreddit 简直王人是 18 禁的话题，褒贬简直令东说念主作呕。

面前，深度伪造的色情内容曾经扩展到多样在线外交平台。其中，曾激发韩国恶性集体性犯科" N 号房事件"的阅后即焚 APP Telegram 即是重灾地，致使有东说念主将其定名为"新 N 号房事件"。

旧年 8 月，韩国女性民友会发布一组请问，指出在外交平台 Telegram 的聊天群组中，只需上传熟东说念主相片，付费后 5 秒钟内就能生成瞻念合成图。令东说念主畏惧的是，这个聊天群的参与东说念主数高达 22.7 万。

更恶心的是，一些深度伪造网站致使列出了来自简直每一代 K-Pop 的 200 多名女性偶像的名字，包括多个第五代 K-Pop 团体的成员。

旧年，YG 旗下女团 BABYMONSTER 的粉丝群体在外交平台上发声，命令粉丝暂时放下饭圈纷争，共同保护女艺东说念主。他们强调，民众非论复旧哪个团体，咫尺王人应配合一致，执意反对深度伪造色情内容的行动，今天的受害者是她们，未来可能即是其他东说念主。尤其是 BABYMONSTER 的 7 名成员中，有 4 东说念主仍是未成年东说念主，这足以证据问题的严重性。

本年 1 月，韩国文娱公司 Starship 因使命主说念主员要紧乖张，官方微博转发了公司旗下 K-Pop 女子团体 IVE 成员张元英、安宥真的深度伪造内容。

尽管经纪公司、粉丝群体、网友王人对深度伪造内容痛斥不已，纷纷敦促筹划部门速即领受法律行动来保护受害者，并追究包袱东说念主，但深度伪造内容对女艺东说念主的伤害却难以十足温存，它不仅是工夫滥用的效果，更是恒久以来数字空间中性别暴力与阴事侵害问题的缩影。

咫尺，韩国政府和筹划机构在公论压力下，已加速立法程度，以更严厉的法律打击深度伪造色情内容的制作和传播。

深度伪造为何盯上 K-Pop 女明星？

不错说，工夫的低门槛、艺东说念主的高曝光、社会对女性偶像的牺牲、法律的滞后，各样身分交汇，共同催生了这场韩娱生态中的"数字性侵"。

有报说念骄横，在韩国，波及深度伪造的色情案件从 2022 年的 3725 起激增到 2023 年的 21019 起。

尽管凭证《对于处罚性犯科的独特案件法》，参与裁剪、合成或处理深度伪造色情内容的个东说念主将濒临最高五年的扣留或 5000 万韩元的罚金，以渔利为主见传播此类内容的发布者最高可被判处 7 年扣留。

然则，在 2020 年至 2023 年韩国对深度伪造犯科作念出的 71 项裁决中，惟有 4 起案件仅因深度伪造犯科而被判处扣留。咫尺还莫得针对下载或瞻念看深度伪造色情内容的法律。

这意味着，现行法律只针对深度伪造色情内容的制作和传播者进行处罚，而瞻念看或握有这些内容的东说念主却不受法律料理。这种法律瑕玷使得"瞻念众"不错毫无牵记地浏览筹划内容，进一步生长了犯科商场的需求，也使受害者更难得到灵验的法律保护。

凭证 Home Security Heroes 统计，10 大最常被深度伪造色情内容攻击的数据统计中，大部分受害者王人是韩国歌手，其中一位歌手的视频数目高达 1595 个，而另一位韩国歌手的深度伪造视频瞻念看量率先了 561 万。

2017 年，在一个名为 DeepFake 的 Reddit 用户出现，伪造出了一系列女性色情电影，其后，这个词的含义安定扩大，不仅包括他制作的换脸视频，还指多样运用 AI 工夫生成的合成内容。随后，开源器具如 DeepFaceLab 和 Faceswap 接踵发布，使得用户能够更容易地创建深度伪造内容。

当下，深度伪造内容不再是一个高门槛的工夫挑战，简直任何东说念主王人能跋扈、高效地制作出传神的子虚内容。从操作难度来看，咫尺只需一台手机就足以制作出 AI 换脸内容，用户只需要提供素材并马虎疗养，工夫本人就会完成大部单干作。

而 K-Pop 产业在全球领域内的无为传播，尤其是韩国女歌手通过外交媒体与粉丝的玄虚互动，创造了极高的曝光度。这种高度可见性使得她们的形象成为了深度伪造内容的理思素材。

旧年 3 月，K-Pop 女子团体 ITZY 成员黄礼志在一次粉丝连线步履中，只怕地看到了一段我方的深度伪造的跳舞视频。其时，黄礼志的色调彰着有些难以拒抗，既旺盛又有些困惑，只可莫名地师法起视频中的跳舞看成。尽管这段视频名义上似乎并无坏心，但过后，好多东说念主默示，瞻念看这段视频让东说念主感到"心劳意攘"。

如今，偶像的每一个看成、每一个色调王人可能成为被坏心运用的对象。任何东说念主只需借助工夫技能，就能运用公开的艺东说念主影像、物料，制作出极为传神的伪造视频。这些伪造的视频不仅可能被推向全球平台，也有可能被泄漏到微妙表情，给偶像带来无法预见的困扰和伤害。

另一方面，韩国社会对女性偶像的特地真贵和牺牲，加重了这种侵扰的边远性。

在传统的性别文化中，女性时时被视为视觉消费的对象，尤其是年青的女歌手，她们的形象和形式时时被放大、注目和评价，使得这些女明星成为了深度伪造内容的高频方针。对她们进行深度伪造不仅能够速即诱导眼球，其社会影响力也使得这些内容具备了更高的传播价值。

况兼，大多数瞻念看深度伪造色情的男性并不以为这种行动有说念德问题。

以 Home Security Heroes 的 1522 名好意思国男性受访者为例，74% 的东说念主对深度伪造色情内容莫得罪恶感，其中"我知说念这不是真东说念主。""只是我个东说念主敬爱，这不会伤害任何东说念主。""深度伪造色情只是更传神的性幻思。""深度伪造色情和平常色情莫得太大区别。"。

其背后的逻辑，他们或是受名东说念主诱导力驱使，或是"幻思称心"，但愿得到更个性化、定制化的成东说念主文娱体验，却无视了基本说念德界限，抱着看轻女性尊荣的作风，这让深度伪造色情在说念德和法律的空缺地带鼎力泛滥，进一步加深了对女性艺东说念主的伤害与牺牲。

而对于经纪公司而言，讨论到影像的残留与公论的烙迹在互联网难以抹去，致使可能成为二次网罗暴力的导火索。大多时候莫得办法裸露深度伪造色情案件的具体细节，这也让外界难以全面了解案件的严重性和受害者所资历的逆境。

由此可见，K-pop 女明星成为深度伪造内容的高危群体，其背后既有深度伪造工夫的拦截性与低门槛，也折射出部分男性对女性的看轻。

不错说，K-pop 产业高度的全球曝光度与对偶像形象的极致塑造，使得女艺东说念主不仅是生意标志，更成为公众逸想的投射对象。再加上法律体系在冒昧这一新兴问题时的滞后，让女性艺东说念主沦为网罗上的玩偶，随时不错被任何东说念主鼎力操控、责骂，致使明火执杖地铺张。

当工夫成为"赛博照妖镜"

一个更恐怖的事实是，不仅在韩国，凭证旧年 3 月英国《卫报》报说念，在欧洲 5 个看望量最大的深度伪造内容网站上，有近 4000 位明星被 AI 换脸成色情内容的主角，5 个网站三个月的浏览量就达到了 1 亿次。受害者包括女演员、电视明星、音乐家和 YouTube 网红。

旧年级首，Taylor Swift 的深度伪造色情图片曾经在 X 上无为传播，在平台况兼被累计浏览超 4700 万次。据筹划统计骄横，其时全网已有率先 9500 个网站"挑升制作非自发亲密图像"。最终， X 一度阻塞了对斯威夫特的筹划搜索，以温存这些子虚内容的传播。

而国内，也出现了深度伪造的筹划案件，且受害者并不限于女明星，更有你我这么的平常东说念主。

2020 年，虞某一边通过传播换脸的淫秽视频来"吸粉引流"，同期通过出售" AI 换脸"软件和提供所谓" AI 换脸"的私东说念主定制做事，在不到半年的时分里就赚钱数万元。2023 年 11 月，杭州市萧山区东说念主民法院判决虞某犯制作、传播淫污物品牟利罪，判处有期徒刑七年三个月，并处罚金 6 万元。这亦然我国首例对于" AI 换脸"侵扰公民个东说念主信息公益诉讼案的审理判决。

国内在此类案件的处理中，该封号的封号，该处罚的处罚，但利益、逸想似乎老是先于章程，而法律的表率却时时滞后于工夫变革。面对工夫滥用的新式挑战，"以工夫抗拒工夫"正成为攻击的冒昧战略。

比如，旧年推出的荣耀 Magic7 系列推脱手机行业首个端侧 AI 反诈检测工夫，可在手机端识别内容是否存在 AI 换脸的风险。该工夫还得到了 2024 年中国网罗安全翻新创业大赛最具投资价值奖。

天然，平台的包袱也不应该只是是"一火羊补牢"，不然，章程再完善，也只是逾期于东说念主性时弊的一纸空文，既拦不住逐利的黑产，也保护不了受害者的尊荣。

外交平台上，依然有大批作歹分子在犯科网站上传不青娥艺东说念主的筹划深度伪造视频内容，一些来去平台的商家不外是换了张容颜，便在章程的夹缝中继续鸿章钜字。

比年来，国内天然在筹划立法方面筹划注这一议题，但已出台的递次轨制还不具备可操作的确定和明确的处罚表率。在本年 3 月寰宇两会上，寰宇东说念主大代表，TCL 首创东说念主、董事长李东生也建议了对于加强 AI 深度伪造诓骗措置的建议。

近几年，"工夫无善恶，但却有范畴"访佛的话术，简直成为每一篇对于工夫滥用的报说念中的标语。但工夫无法为说念德缺失填坑，每一帧王人是施暴者的主动选拔，不是算法自作认识。

当工夫成为了一部分东说念主的"赛博照妖镜"云开体育，粗略咱们更需要的不单是是更强烈的监管刀刃，也需要一场全民的精神觉悟。数字世界的"不要脸"，本体是本质东说念主格的透顶溃烂。