K-pop, deepfake e IA: i fan denunciano contenuti inquietanti con i loro idol
La fan culture del K-pop è famosa per la sua intensità, ma con l’arrivo dell’intelligenza artificiale generativa sta raggiungendo un nuovo livello — e non in senso positivo. Su Reddit e vari forum dedicati, molti utenti stanno denunciando l’uso di strumenti di AI per creare quello che è di fatto un fan fiction “self-insert”: video e immagini in cui i fan appaiono mentre baciano, abbracciano o interagiscono in modo romantico con i loro idol preferiti.
In un thread del subreddit K-pop Uncensored, un utente ha pubblicato screenshot da un video generato con l’IA in cui un fan compare tra le braccia di Keonho, membro del gruppo CORTIS — che è minorenne. «Alcuni fan pensano che sia innocuo, ma se lo tollerate, state aprendo le porte a cose molto peggiori in futuro», ha scritto l’utente wbu_lizzie. «Gli idol non hanno dato il consenso. Sono persone reali, non personaggi di Wattpad o AO3.»
Un altro utente, Goldie_Prawn, ha osservato che il problema non è nuovo — il fotomontaggio esiste da decenni — ma la differenza sta nel realismo reso possibile dall’IA: «Anche con Photoshop, lo sforzo e l’abilità necessari davano una sorta di barriera mentale al creatore, che ora con l’AI non c’è più».
Il parere degli esperti e delle agenzie
La professoressa Sarah Keith dell’Università Macquarie in Australia, che studia il fandom K-pop da anni, spiega che i deepfake nascono da una lunga tradizione di fan content — fan fiction, fan art — che normalmente supera il confine della legge sul copyright ma non è considerata “creepy”. Con l’IA, però, cambia tutto: «I fan hanno sempre prodotto materiali sui loro idol, ma finora questi non erano “convincenti” come artefatti che potessero coinvolgere l’idol stesso. Ora c’è la possibilità di creare volumi enormi di contenuti che non rispettano l’integrità personale degli artisti e possono minare la loro reputazione».
Non tutti però puntano il dito solo contro i fan. Alcuni utenti, come Serious-Wish4868 su r/kpopthoughts, sottolineano che l’industria K-pop stessa spinge i fan verso relazioni parassociali: «Quando agenzie e idol ti spingono costantemente a vivere le tue fantasie romantiche e sessuali attraverso post sui social e interazioni dal vivo, cosa ti aspetti che succeda?»
Le agenzie, dal canto loro, stanno reagendo. I membri di gruppi come BTS e Tomorrow X Together hanno già criticato pubblicamente l’uso dell’IA per creare copie digitali non autorizzate. A marzo, la OA Entertainment (fondata da Jennie delle Blackpink) ha annunciato azioni legali contro chi viola l’immagine degli artisti, citando implicitamente i deepfake.
Ma c’è una contraddizione: molte di queste stesse agenzie stanno abbracciando l’IA come strumento per tagliare i costi. La SM Entertainment (Girls’ Generation, Super Junior) ha definito l’integrazione dell’IA parte centrale della sua strategia, e lo scorso anno ha pubblicato un video musicale interamente generato dall’IA per le Aespa. A dicembre 2024 è nato anche il gruppo virtuale GLXE, con canzoni e avatar generati dall’IA.
«Automerebbero l’intera industria se potessero farci soldi», ha detto Lindsey Knuth, fan e giornalista di Tangle News. «I deepfake pornografici di idol minorenni sono un problema serio, e lo è anche la mancanza di risposta dell’industria.»
Cittadinanza digitale e barriere sociali
La tolleranza culturale verso questi contenuti varia molto. La Corea del Sud è al primo posto al mondo per consumo di “AI slop” (contenuti scadenti generati dall’IA), spinta da un’industria tech che promuove l’adozione della tecnologia. Negli Stati Uniti, invece, i giovani hanno opinioni estremamente negative verso l’IA e il suo impiego per contenuti non consensuali.
Keith nota che le agenzie proteggono gli artisti solo come investimento, mentre i fan tendono a difenderli come persone, sia dai fan molesti che dalle stesse compagnie. In assenza di tutele legali o tecniche, la pressione sociale rimane uno dei pochi deterrenti efficaci. «È rassicurante che molti fan stiano apertamente condannando l’uso non consensuale dell’IA, perché in assenza di barriere tecniche, l’accettabilità sociale è ciò che conta», conclude la professoressa. «I fan attivi stanno costruendo una cultura di rispetto in cui l’immagine degli idol non viene usata in modo non consensuale.»
