奇米影视777 困在AI色情视频里的K
韩娱公司奇米影视777，正在反击AI作恶。
上周，韩国文娱公司HYBE秘书，将与京畿北谈巡警局（NGPPA）合作，共同打击以HYBE艺东谈主为对象的深度伪造（Deepfake）内容。
HYBE与NGPPA签署了一份合同，明确了合作细节，包括加速相关案件的窥察进度，并在韩国建筑举报热线，浅薄公众阐扬相关监犯行为。同期，HYBE也秘书加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将成心建筑反馈机制，尽快遴荐行动。
旧年9月，韩国文娱公司JYP、YG和 Cube也向使用其K-pop艺东谈主图像创建的深度伪造视觉内容讲和。YG指出，包括(G)I-dle、NewJeans、Twice、Kwon Eun-bi和BlackPink等有名K-Pop女子组合齐是深度伪造内容的受害者中的冰山一角。
比年来，深度伪造内容泛滥已成为全球存眷的焦点，尤其是针对文娱行业的坏心抨击。那么，为什么深度伪造技能会策动盯上K-Pop圈？背后荫藏着何如的坏心旨？
困在AI色情视频里的女明星
深度伪造（DeepFake）是一种东谈主工智能技能，依赖深度学习技能，尤其是生成扞拒收罗（GAN），来生成或变调图像和视频。其中，GAN 由生成器和判别器构成，通过两者继续地扞拒和博弈，生成器渐渐学会生成愈加传神的装假内容，直到能够以伪乱真。
借助深度伪造，不错把一个东谈主的脸、声息、算作换到另一个视频或图片上，让它看起来像是信得过发生的事情，比如让某东谈主“说”他从未说过的话，或者“作念”他从未作念过的事情。
而在韩国文娱行业，好多女明星的形象被作歹分子用来制作恶搞、色情等无益内容，严重侵害了艺东谈主的秘籍和名誉。
好意思国收罗安全公司Home Security Heroes的一份阐彰着示，在互联网通盘深度伪造视频中，简直98%是深度伪造色情视频，前10个成心用于深度伪造色情内容的网站上，视频总访谒量卓绝3亿次，总瞻念看次数卓绝3000万。
阐扬还指出，94%的深度伪造色情内容齐发生在文娱业，其中歌手、演员折柳以58%、33%占据大头。在深度伪造的色情内容中，99%的受害者是女性，仅1%为男性。
而在10个深度伪造色情网站和85个视频分享平台上的近9.6万个视频中，53%的东谈主是韩国歌手和演员。
在国际酬酢媒体Reddit上，有网友指出，当搜索“K-Pop”相关的要道词时，跳出的热点subreddit（计划社区）简直齐是18禁的话题，评述简直令东谈主作呕。
现时，深度伪造的色情内容一经扩张到各式在线酬酢平台。其中，曾激勉韩国恶性集体性监犯“N号房事件”的阅后即焚APP Telegram便是重灾地，以致有东谈主将其定名为“新N号房事件”。
旧年8月，韩国女性民友会发布一组阐扬，指出在酬酢平台Telegram的聊天群组中，只需上传熟东谈主相片，付费后5秒钟内就能生成瞻念合成图。令东谈主惶恐的是，这个聊天群的参与东谈主数高达22.7万。
更恶心的是，一些深度伪造网站以致列出了来自简直每一代K-Pop的200多名女性偶像的名字，包括多个第五代K-Pop团体的成员。
旧年，YG旗下女团BABYMONSTER的粉丝群体在酬酢平台上发声，敕令粉丝暂时放下饭圈纷争，共同保护女艺东谈主。他们强调，专家无论相沿哪个团体，当今齐应息争一致，鉴定反对深度伪造色情内容的行动，今天的受害者是她们，翌日可能便是其他东谈主。尤其是BABYMONSTER的7名成员中，有4东谈主仍是未成年东谈主，这足以证明问题的严重性。
本年1月，韩国文娱公司Starship因责任主谈主员紧要缺欠，官方微博转发了公司旗下K-Pop女子团体IVE成员张元英、安宥确切深度伪造内容。
尽管经纪公司、粉丝群体、网友齐对深度伪造内容痛斥不已，纷繁敦促相关部门速即遴荐法律行动来保护受害者，并讲究包袱东谈主，但深度伪造内容对女艺东谈主的伤害却难以绝对龙套，它不仅是技能滥用的效果，更是永久以来数字空间中性别暴力与秘籍侵害问题的缩影。
咫尺，韩国政府和相关机构在公论压力下，已加速立法进度，以更严厉的法律打击深度伪造色情内容的制作和传播。
深度伪造为何盯上K-Pop女明星？
不错说，技能的低门槛、艺东谈主的高曝光、社会对女性偶像的圆寂、法律的滞后，种种要旧友织，共同催生了这场韩娱生态中的“数字性侵”。
有报谈炫耀，在韩国，触及深度伪造的色情案件从2022年的3725起激增到2023年的21019起。
尽管把柄《对于处罚性监犯的独特案件法》，参与裁剪、合成或处理深度伪造色情内容的个东谈主将靠近最高五年的幽囚或 5000 万韩元的罚金，以牟利为办法传播此类内容的发布者最高可被判处7年幽囚。
关联词，在2020年至2023年韩国对深度伪造监犯作念出的 71 项裁决中，只消4起案件仅因深度伪造监犯而被判处幽囚。咫尺还莫得针对下载或瞻念看深度伪造色情内容的法律。
这意味着，现行法律只针对深度伪造色情内容的制作和传播者进行处罚，而瞻念看或抓有这些内容的东谈主却不受法律不竭。这种法律破绽使得“瞻念众”不错毫无费心地浏览相关内容，进一步滋长了犯罪商场的需求，也使受害者更难赢得有用的法律保护。
把柄Home Security Heroes统计，10大最常被深度伪造色情内容抨击的数据统计中，大部分受害者齐是韩国歌手，其中一位歌手的视频数目高达1595个，而另一位韩国歌手的深度伪造视频瞻念看量卓绝了561万。
2017年，在一个名为DeepFake的Reddit用户出现，伪造出了一系列女性色情电影，自后，这个词的含义渐渐扩大，不仅包括他制作的换脸视频，还指各式运用 AI 技能生成的合成内容。随后，开源器具如DeepFaceLab和Faceswap接踵发布，使得用户能够更容易地创建深度伪造内容。
当下，深度伪造内容不再是一个高门槛的技能挑战，简直任何东谈主齐能安祥、高效地制作出传神的装假内容。从操作难度来看，咫尺只需一台手机就足以制作出 AI 换脸内容，用户只需要提供素材并精真金不怕火蜕变，技能自身就会完成大部单干作。
而K-Pop产业在全球限制内的庸碌传播，尤其是韩国女歌手通过酬酢媒体与粉丝的致密互动，创造了极高的曝光度。这种高度可见性使得她们的形象成为了深度伪造内容的理念念素材。
旧年3月，K-Pop女子团体ITZY成员黄礼志在一次粉丝连线行为中，只怕地看到了一段我方的深度伪造的跳舞视频。其时，黄礼志的色调较着有些难以相背，既欣慰又有些困惑，只可干扰地师法起视频中的跳舞算作。尽管这段视频名义上似乎并无坏心，但过后，好多东谈主暗示，瞻念看这段视频让东谈主感到“闻风丧胆”。
如今，偶像的每一个算作、每一个色调齐可能成为被坏心运用的对象。任何东谈主只需借助技能技能，就能运用公开的艺东谈主影像、物料，制作出极为传神的伪造视频。这些伪造的视频不仅可能被推向民众平台，也有可能被显露到精巧模样，给偶像带来无法预见的困扰和伤害。
另一方面，韩国社会对女性偶像的颠倒存眷和圆寂，加重了这种侵扰的渊博性。
在传统的性别文化中，女性往往被视为视觉消费的对象，尤其是年青的女歌手，她们的形象和花式经常被放大、谛视和评价，使得这些女明星成为了深度伪造内容的高频方案。对她们进行深度伪造不仅能够速即眩惑眼球，其社会影响力也使得这些内容具备了更高的传播价值。
何况，大多数瞻念看深度伪造色情的男性并不以为这种行动有谈德问题。
以Home Security Heroes的1522名好意思国男性受访者为例，74%的东谈主对深度伪造色情内容莫得罪孽感，其中“我知谈这不是真东谈主。”（36%）“只是我个东谈主酷爱，这不会伤害任何东谈主。”（30%）“深度伪造色情只是更传神的性幻念念。”（29%）“深度伪造色情和平素色情莫得太大区别。”（28%）。
其背后的逻辑，他们或是受名东谈主眩惑力驱使，或是“幻念念得志”，但愿赢得更个性化、定制化的成东谈主文娱体验，却无视了基本谈德界限，抱着轻蔑女性庄严的气魄，这让深度伪造色情在谈德和法律的空缺地带任性泛滥，进一步加深了对女性艺东谈主的伤害与圆寂。
而对于经纪公司而言，计议到影像的残留与公论的烙迹在互联网难以抹去，以致可能成为二次收罗暴力的导火索。大多时候莫得办法显现深度伪造色情案件的具体细节，这也让外界难以全面了解案件的严重性和受害者所阅历的窘境。
由此可见，K-pop女明星成为深度伪造内容的高危群体，其背后既有深度伪造技能的保密性与低门槛，也折射出部分男性对女性的轻蔑。
不错说，K-pop 产业高度的全球曝光度与对偶像形象的极致塑造，使得女艺东谈主不仅是交易秀雅，更成为公众逸想的投射对象。再加上法律体系在搪塞这一新兴问题时的滞后，让女性艺东谈主沦为收罗上的玩偶，随时不错被任何东谈主任性操控、降低，以致明目张胆地蹧跶。
爱色岛电影当技能成为“赛博照妖镜”
一个更恐怖的事实是，不仅在韩国，把柄旧年3月英国《卫报》报谈，在欧洲5个访谒量最大的深度伪造内容网站上，有近4000位明星被AI换脸成色情内容的主角，5个网站三个月的浏览量就达到了1亿次。受害者包括女演员、电视明星、音乐家和YouTube网红。
旧年年头，Taylor Swift的深度伪造色情图片曾经在X（原推特）上庸碌传播，在平台何况被累计浏览超4700万次。据相关统计炫耀，其时全网已有卓绝9500 个网站“成心制作非自觉亲密图像”。最终， X一度阻塞了对斯威夫特的相关搜索，以龙套这些装假内容的传播。
而国内，也出现了深度伪造的相关案件，且受害者并不限于女明星，更有你我这么的平素东谈主。
2020年，虞某一边通过传播换脸的淫秽视频来“吸粉引流”，同期通过出售“AI换脸”软件和提供所谓“AI换脸”的私东谈主定制功绩，在不到半年的时代里就赢利数万元。2023年11月，杭州市萧山区东谈主民法院判决虞某犯制作、传播淫污物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。这亦然我国首例对于“AI换脸”侵扰公民个东谈主信息公益诉讼案的审理判决。
国内在此类案件的处理中，该封号的封号，该处罚的处罚，但利益、逸想似乎老是先于章程，而法律的步调却往往滞后于技能变革。面对技能滥用的新式挑战，“以技能扞拒技能”正成为紧要的搪塞政策。
比如，旧年推出的荣耀Magic7系列推脱手机行业首个端侧AI反诈检测技能，可在手机端识别内容是否存在AI换脸的风险。该技能还赢得了2024年中国收罗安全鼎新创业大赛最具投资价值奖。
天然，平台的包袱也不应该只是是“一火羊补牢”，不然，章程再完善，也只是逾期于东谈主性缺欠的一纸空文，既拦不住逐利的黑产，也保护不了受害者的庄严。
酬酢平台上，依然有渊博作歹分子在犯罪网站上传不青娥艺东谈主的相关深度伪造视频内容，一些交游平台的商家不外是换了张状貌，便在章程的夹缝中连接鸿篇巨制。
比年来，国内天然在相关立法方面联系注这一议题，但已出台的法则轨制还不具备可操作简直定和明确的处罚圭臬。在本年3月宇宙两会上，宇宙东谈主大代表，TCL独创东谈主、董事长李东生也提议了对于加强AI深度伪造讹诈管理的建议。
近几年，“技能无善恶，但却有范畴”相通的话术，简直成为每一篇对于技能滥用的报谈中的标语。但技能无法为谈德缺失填坑，每一帧齐是施暴者的主动弃取，不是算法自作概念。
当技能成为了一部分东谈主的“赛博照妖镜”，大致咱们更需要的不单是是更好坏的监管刀刃，也需要一场全民的精神醒觉。数字世界的“不要脸”，实践是现实东谈主格的透彻溃烂。
本文来自：音乐先声奇米影视777，作家：李沁予，裁剪：范志辉