「中英」韓國深偽色情犯罪激增，厭女文化助長網路性暴力

In 2020, toen de Zuid-Koreaanse autoriteiten een chantagenetwerk opereerden dat jonge vrouwen dwong om seksueel expliciete video’s te maken om kijkers te betalen, ontdekten ze nog iets anders in de donkere krochten van sociale media: pornografische afbeeldingen met de gezichten van andere mensen er op grove wijze bijgevoegd.

2020年,當韓國政府追查一個強迫年輕女性為付費觀眾拍攝露骨色情影片的勒索團伙時，他們在社群媒體的黑暗角落裡發現了其他東西:經過粗略加工的色情圖片,上面貼著其他人的面孔。

Ze wisten niet wat ze met deze vroege pogingen tot deepfake-pornografie moesten doen. Uiteindelijk voerde de Nationale Assemblee een vaag geformuleerde wet in tegen degenen die het maakten en verspreidden. Maar dat voorkwam niet dat er een misdaadgolf ontstond, met behulp van AI-technologie, die de misogyne online cultuur van het land naar nieuwe diepten heeft gebracht.

他們不知道如何處理這些深度偽造色情內容的早期嘗試。最後，韓國國會頒佈了一項措辭模糊的法律,禁止製作、傳播這類內容。但這未能阻止一個使用人工智慧技術的犯罪浪潮的出現,該浪潮現已將韓國網路厭女文化推到了登峰造極的程度。

De afgelopen twee weken waren Zuid-Koreanen geschokt toen ze ontdekten dat een toenemend aantal jonge mannen en tienerjongens honderden afbeeldingen op sociale media van klasgenoten, leraren en militaire collega’s hadden gemaakt – bijna allemaal jonge vrouwen en meisjes, inclusief minderjarigen – en deze hadden gebruikt om seksueel uitbuitende afbeeldingen en videoclips te maken met deepfake-apps.

在過去的兩週裡,韓國人震驚地發現,越來越多的年輕男性和十幾歲的男孩在社群媒體上獲取同學、老師和軍隊同僚的大量 foto’s,而且幾乎都是年輕女性和女孩,包括未成年女孩的照片,然後藉助深度偽造應用程序,用這een aantal foto’s van een aantal foto’s

Ze hebben het materiaal verspreid via chatrooms op de gecodeerde berichtendienst Telegram, waarvan sommige wel 220.000 leden hebben. De deepfakes combineren meestal het gezicht van een slachtoffer met een lichaam in een seksueel expliciete pose, overgenomen uit pornografie. De technologie is zo geavanceerd dat het voor gewone mensen vaak moeilijk is om te zien dat ze nep zijn, zeggen onderzoekers. Terwijl het land zich haast om de dreiging aan te pakken, hebben experts opgemerkt dat in Zuid-Korea het enthousiasme voor nieuwe technologieën soms groter is dan de zorgen over hun ethische implicaties.

他們通過加密短訊服務平台Telegram的聊天室來傳播這些內容,有些聊天室的成員多達22萬。這些深度偽造的內容通常將受害者的面孔貼在擺出露骨性姿態身體的圖片上，後者來自淫穢作品。調查人員說,偽造photophoto片的技術如此之先進,以至於普通人常常很難分辨出它們是假的。隨著韓國迅速採取措施努力應對這一威脅,專家們已指出,韓國人對新技術的熱情有時會超過對其道德影響的擔憂。

Maar voor veel vrouwen zijn deze deepfakes slechts de nieuwste online uiting van een diepgewortelde vrouwenhaat in hun land – een cultuur die nu jonge mannen heeft voortgebracht die het leuk vinden om seksueel vernederende afbeeldingen van vrouwen online te delen.

但對許多女性來說，這些深度偽造只是她們國家根深蒂固的厭女文化在網上的最新表現，這種文化現在培養出了認為在網上分享羞辱女性的色情圖片很有趣的年輕男性。

“De Koreaanse maatschappij behandelt vrouwen niet als medemensen”, zei Lee Yu-jin, een studente wiens universiteit tot de honderden middelbare scholen, hogescholen en hogescholen behoort waar studenten het slachtoffer zijn geworden. Ze vroeg zich af waarom de overheid niet meer had gedaan “voordat het een digitale cultuur werd om foto’s van vrienden te stelen en ze te gebruiken voor seksuele vernedering.”

「韓國社會不把女性當做同胞，」大學生李宥真（音）說，她在讀的大學是數百所學生成為受害者的中學、高中和大學之一。她質問政府為什麼沒有在「竊用朋友的照片,用其來進行性羞辱已成為一種數字文化」之前採取更多行動。

Online seksueel geweld is wereldwijd een groeiend probleem, maar Zuid-Korea loopt voorop. Of en hoe het deepfake-probleem succesvol kan aanpakken, zal worden bekeken door beleidsmakers, schoolfunctionarissen en wetshandhaving elders.

雖然網路上的性暴力是一個日益嚴重的全球問題,但這個問題在韓國尤為突出。韓國能否以及如何成功地解決深度偽造問題,將受到其他國家的政策制定者,學校官員和執法部門的關注。

Het land heeft een onderbuik van seksuele criminaliteit die af en toe aan de oppervlakte komt. Een Zuid-Koreaan werd veroordeeld voor het runnen van een van ‘s werelds grootste sites voor afbeeldingen van seksueel misbruik van kinderen. Een K-popartiest werd schuldig bevonden aan het faciliteren van prostitutie via een nachtclub. Jarenlang heeft de politie gevochten tegen spycamporno. En het brein achter de chantagering die in 2020 werd onderzocht, werd veroordeeld tot 40 jaar gevangenisstraf voor het lokken van jonge vrouwen, waaronder tieners, om de video’s te maken die hij online verkocht via Telegram-chatrooms.

一已被定罪的韓國人曾經營著世界上最大的兒童性虐待圖片網站之一。一名韓國流行藝人因在夜總會協助賣淫而被定罪。多年來,韓國警方一直在打擊偷拍色情片的犯罪活動。2020年對那個勒索網的調查已導致其主犯被判處40年有期徒刑，該人曾引誘年輕女性（包括十幾歲的女孩）拍攝影片，然後通過Telegram的聊天室在線銷售。

De opkomst van eenvoudig te gebruiken deepfake-technologie heeft een verraderlijke dimensie toegevoegd aan dergelijke vormen van seksueel geweld: de slachtoffers zijn zich er vaak niet van bewust dat ze slachtoffer zijn totdat ze een anoniem bericht ontvangen of een telefoontje van de politie.

受害者往往不知道自己是受害者，直到收到匿名者發來的短訊或警方打來的電話。

‘Slaaf’, ‘Toilet’, ‘Vod’

「奴隸」、「廁所」、「抹布」

Voor een 30-jarig deepfake-slachtoffer, wiens naam geheim wordt gehouden om haar privacy te beschermen, begon de aanval in 2021 met een anoniem bericht op Telegram waarin stond: “Hallo!”

對一名30歲的深度偽造受害者（為了保護她的隱私，這裡不用她的姓名）來說，這種攻擊始於2021年，她先是在Telegram上收到匿名者發來的一條短訊: 「嗨！」

In de uren die volgden, volgde een stroom aan obsceniteiten en deepfake-afbeeldingen en videoclips, met haar gezicht erop, afkomstig van foto’s van familiereizen die ze op sociale media had geplaatst. Op het lichaam stonden woorden als ‘slaaf’, ‘toilet’ en ‘lap’ geschreven.

在接下來的幾個小時裡,她收到了源源不斷的淫穢短訊,還有深度偽造的圖片和影片片段，其中的頭像取自她在社群媒體上發的家庭旅行照片。圖片和影片中的身體上寫著「奴隸」、「廁所」和「抹布」等字眼。

In april hoorde ze van de politie dat twee van haar voormalige klasgenoten van de Seoul National University tot degenen behoorden die waren aangehouden. Mannelijke afgestudeerden van de prestigieuze universiteit, samen met medeplichtigen, hadden tientallen vrouwen, waaronder een dozijn voormalige Seoul National-studenten, aangevallen met deepfake-pornografie. Een van de aangehouden mannen werd vorige maand veroordeeld tot vijf jaar gevangenisstraf.

年4月，她從警方得知，她在首爾國立大學讀書時的兩名前同學在被拘留者之列。從這所名牌大學畢業的男生夥同他人用深度偽造技術製作色情內容，攻擊了數十名女性，其中包括十幾名從首爾國立大學畢業的女生。上個月，拘留的一名男子被判處五年有期徒刑。

“Ik kan geen enkele reden bedenken waarom ze mij zo behandelden, behalve dat ik een vrouw was,” zei ze. “Het feit dat er mensen zoals zij om mij heen waren, zorgde ervoor dat ik mijn vertrouwen in mijn medemens verloor.”

「除了我是女性外，我想不出他們這樣對待我的原因，」她說。「身邊有像他們這樣的人，這個事實讓我對人類失去了信心。」

Ze zegt dat ze sinds de aanval worstelt met trauma. Haar hart racet wanneer ze een berichtmelding op haar smartphone ontvangt, of een anonieme oproep.

她說,自從那次攻擊發生以來,她一直在與心理創傷作鬥爭。每當她在智慧型手機作到短訊通知或匿名電話時，她的心跳就會加速。

Zuid-Korea, waarvan de popcultuur wereldwijd wordt geëxporteerd, is het land geworden dat het meest kwetsbaar is voor deepfake-pornografie. Meer dan de helft van de deepfakes wereldwijd is gericht op Zuid-Koreanen, en de meerderheid van die deepfakes is het slachtoffer van zangers en actrices uit het land, volgens “2023 State of Deepfakes”, een studie gepubliceerd door het Amerikaanse cybersecuritybedrijf Security Hero. Toonaangevende K-popbureaus hebben de oorlog verklaard aan deepfakes, zeggen dat ze bewijs verzamelen en dreigen met rechtszaken tegen hun makers en distributeurs.

據美國網路安全公司Beveiliging Hero發布的《2023年深度偽造現狀》研究報告，全球一半以上的深度偽造將韓國人作為攻擊目標，其中大多數受害者是韓國歌手和女演員。主要的韓國流行音樂經紀公司已向深度偽造內容宣戰,稱他們正在收集證據，並威脅對深度偽造內容的創作者和傳播者提起訴訟。

Toch wordt het probleem steeds groter. De Zuid-Koreaanse politie meldde 297 gevallen van deepfake-seksmisdrijven tussen januari en juli, vergeleken met 156 voor heel 2021, toen dergelijke gegevens voor het eerst werden verzameld.

儘管如此，問題仍在加劇。韓國警方已在今年1月至7月通報了297起涉及深度偽造的性犯罪案，而在首次收集此類數據的2021年，全年只通報了156起這種案件。

Pas vorige maand, toen lokale nieuwsmedia het uitgebreide verkeer in deepfakes op Telegram onthulden, gaf president Yoon Suk Yeol zijn regering de opdracht om “ze uit te roeien.” Critici van de heer Yoon merkten op dat hij tijdens zijn campagne voor het presidentschap in 2022 had ontkend dat er sprake was van structurele genderdiscriminatie in Zuid-Korea en had beloofd het ministerie van gendergelijkheid af te schaffen.

Telegram上流傳著大量深度偽造內容後,尹錫悅總統才下令政府「根除它們」。尹錫悅的批評者指出，他在2022年競選總統期間曾否認韓國存在結構性的性別歧視，還承諾要廢除性別平等部。

Nieuwsberichten over de toename van deepfakes dit jaar leidden tot paniek onder jonge vrouwen, van wie velen selfies en andere persoonlijke afbeeldingen van hun sociale media-accounts verwijderden, uit angst dat ze gebruikt zouden worden voor deepfakes. Chung Jin-kwon, die directeur was van een middelbare school voordat hij vorige maand een functie op het Seoul Metropolitan Office of Education op zich nam, zei dat zijn voormalige school had besproken of ze foto’s van leerlingen uit jaarboeken moesten weglaten.

有關深度偽造內容今年激增的新聞報導已在年輕女性中引起恐慌,她們中的許多人已將自拍foto’s van de meest recente foto’s製作深度偽造內容。上個月出任首爾市教育廳廳長的鄭晉權（音）曾是一所中學的校長。他說,他以前的學校已討論了是否不再把學生照片放入學校年刊的問題。

“Sommige leraren hadden al geweigerd hun foto’s daar te plaatsen en ze vervangen door karikaturen”, aldus de heer Chung.

「有些老師已經拒絕將自己的照片放入學校年刊,而是用畫像代替,」鄭先生說。

Jongeren in Zuid-Korea, een van de meest bedrade landen ter wereld, worden al op jonge leeftijd tech-savvy. Maar critici zeggen dat het schoolsysteem zo gefocust is op het voorbereiden op de belangrijke toelatingsexamens voor de universiteit dat ze niet leren om op een ethische manier met nieuwe technologie om te gaan.

韓國是世界上互聯網最為普及的國家之一，韓國年輕人從小就精通技術。但批評人士稱，韓國的教育制度過於關注為學生參加至關重要的大學入學考試做準備，沒有教他們如何用道德的方式使用新技術。

“Wij produceren examen-probleem-oplossende machines,” zei dhr. Chung. “Ze leren geen waarden.”

「我們的學校生產的是會解考題的機器，」鄭先生說。「他們不學習價值觀。」

Een drang naar strengere wetten

動制定更嚴格的法律

Kim Ji-hyun, een stadsfunctionaris van Seoul wiens team sinds 2019 200 tieners heeft begeleid die betrokken waren bij digitale seksuele uitbuiting, zei dat sommige jongens deepfakes hadden gebruikt om wraak te nemen op ex-vriendinnen — en dat meisjes ze in sommige gevallen hadden gebruikt om klasgenoten buiten te sluiten. Maar veel jongeren werden in eerste instantie aangetrokken tot deepfakes uit nieuwsgierigheid, zei mevrouw Kim.

首爾市官員金智玄（音）的團隊自2019年以來已為200名受數字性剝削牽連的青少年做心理輔導。她說，一些男孩曾使用深度偽造來報復前女友，還有些情況是，女孩使用這種技術來排擠同學。但金女士說，許多年輕人最初受深度偽造技術吸引是出於好奇。

Chatroom-operators lokten hen met prikkels, waaronder Starbucks-kortingsbonnen, en vroegen hen om foto’s en persoonlijke gegevens van vrouwen die ze kenden te verstrekken. Sommige Telegram-kanalen, “rape and humiliation rooms” genoemd, richtten zich op individuen of vrouwen van bepaalde scholen, zei Park Seong-hye, een teamleider bij het door de overheid gefinancierde Women’s Human Rights Institute of Korea, die digitale seksuele misdrijven heeft onderzocht en slachtoffers heeft geholpen.

運作聊天室的人用星巴克優惠券等獎勵來吸引他們,讓他們提供認識的女性的照片和個人數據。韓國政府資助的婦女人權研究所的團隊負責人朴成惠（音）說，一些被稱為「強姦和羞辱室」的Telegram頻道專門針對來自某些學校的個人或女性，朴成惠曾調查過數字性犯罪案，為受害者提供過幫助。

Volgens de wet die in 2020 werd aangenomen, kunnen mensen die veroordeeld zijn voor het maken van seksueel expliciete of aanstootgevende deepfakes met de bedoeling deze te verspreiden, tot vijf jaar gevangenisstraf krijgen. Degenen die financieel willen profiteren van het verspreiden van dergelijke content, kunnen tot zeven jaar cel krijgen. Maar er is geen wet die het kopen, opslaan of bekijken van deepfakes verbiedt.

Bekijk de resultaten van 2020處五年有期徒刑。那些試圖通過傳播這些內容來獲取經濟利益的人最高可被判處七年有期徒刑。但沒有法律禁止購買、存儲或觀看深度偽造的內容。

Onderzoekers moeten toestemming van de rechtbank hebben om undercover te gaan en toegang te krijgen tot deepfake chatrooms, en ze kunnen dit alleen doen om meldingen te onderzoeken dat minderjarigen seksueel zijn misbruikt. Het proces kan ook traag zijn.

調查人員需要獲得法院批准才能用祕密身份進入深度偽造聊天室,而且,他們只是在收到未成年人遭到性虐待的舉報後才能進行這類調查。這個過程也可能很慢。

“Je vindt een chatroom op een feestdag, maar tegen de tijd dat je toestemming van de rechtbank krijgt, is hij verdwenen”, aldus Hahm Young-ok, een senior onderzoeker van onlinecriminaliteit bij het Nationaal Politiebureau.

「你在假期發現了一個聊天室，但等你得到法院批准後，它已經消失了，」國家警察局網路犯罪高級調查員咸永玉（音）說。

De overheid heeft beloofd strengere wetten te eisen tegen het kopen of bekijken van seksueel uitbuitende deepfakes. Deze maand zei de politie die de laatste golf van deepfakes onderzocht dat ze zeven mannelijke verdachten hadden aangehouden, van wie zes tieners.

政府已承諾推動制定更嚴格的法律，禁止購買或觀看性剝削性的深度偽造影片。本月，調查最新一輪深度偽造事件的警方稱，他們已拘留了七名男性嫌疑人，其中六人是青少年。

Pornografie wordt gecensureerd op het internet in Zuid-Korea, maar mensen kunnen de controles omzeilen door gebruik te maken van virtuele privénetwerken, en het verbod is moeilijk af te dwingen op sociale mediakanalen. De politie heeft aangegeven dat ze mogelijk onderzoek doen naar de vraag of Telegram deepfake-seksmisdrijven heeft gesteund. Vorige maand werd de oprichter van Telegram, Pavel Durov, gearresteerd in Frankrijk en aangeklaagd voor een reeks overtredingen, waaronder het mogelijk maken van de verspreiding van materiaal met seksueel misbruik van kinderen.

色情內容在韓國互聯網上受到審查，但用戶能通過VPN繞過審查，而且很難在社群媒體管道執Teleg ramen犯有一系列罪行，包括傳播兒童性虐待材料。

Telegram zei in een verklaring dat het “actief content uit Korea heeft verwijderd die de servicevoorwaarden schond en dat het dat zal blijven doen.”

Telegram在一份聲明中表示，「一直在積極刪除韓國報告的違反平台服務條款的內容，並將繼繼繺這樣做。」

Ondertussen staat de overheid onder druk om onlineplatforms te dwingen meer te doen om content zoals deepfake-porno te filteren.

與此同時，韓國政府正面臨著迫使網路平台採取更多措施過濾內容的壓力，比如深度偽造的色情。

“Het is tijd om te kiezen tussen het beschermen van de platforms en het beschermen van onze kinderen en adolescenten”, aldus Lee Soo-jung, hoogleraar forensische psychologie aan de Kyonggi-universiteit. “Wat we nu in 2024 zien gebeuren, werd al in 2020 voorspeld, maar we hebben in de tussentijd niets gedaan.”

「是保護平台，還是保護我們的兒童和青少年，是時候在兩者之間做出選擇了，」京畿大學法醫心理學教授李邵宗（音）說。「我們在2024年看到正在發生的事，在2020年就已經有了預兆，但我們在這期間什麼都沒做。」