Le persone usano l'intelligenza artificiale per far dire alla voce di TotalBiscuit cose terribili
#12Marzo #Tech #AI #deepfake #totalbiscuit
Contenuto originale di VICE US - TECH
Le persone usano l'intelligenza artificiale per far dire quello che vogliono alla voce del defunto YouTuber e commentatore di StarCraft TotalBiscuit, inclusa un'affermazione transfobica che Motherboard ha ascoltato e un altro esempio di come i modelli vocali AI possono essere abusati senza consenso.
John Bain, che era meglio conosciuto come TotalBiscuit dai suoi milioni di follower, è morto nel 2018 di cancro all'intestino all'età di 33 anni. La vedova di John Bain, Genna Bain, ha menzionato le versioni AI di TotalBiscuit su Twitter.
Annuncio
“Oggi è stato divertente. Trovarmi di fronte alla scelta di cancellare da Internet tutti i contenuti della vita del mio defunto marito ", ha detto su Twitter. "Apparentemente le persone pensano che sia giusto usare la sua biblioteca per addestrare le IA vocali per promuovere i loro commenti sociali e le loro opinioni politiche".
Il canale YouTube di TotalBiscuit è composto da oltre 3.000 video pubblicati in 15 anni. La creazione di un modello vocale AI che può quindi essere fatto per dire qualunque cosa si digiti richiede solo pochi minuti di audio. I fan di Bain hanno lanciato l'allarme per il possibile scrub dei contenuti su Reddit, ma la sua community di fan ha sottolineato di aver archiviato tutti i suoi video più di due anni fa.
Bain ha guadagnato popolarità su YouTube come critico di giochi intorno al 2011 ed era anche noto per aver sostenuto alcuni aspetti della controversia sul gamergate, vale a dire affermazioni su pratiche non etiche nella stampa di giochi. La sua voce distinta e il suo umorismo secco lo hanno aiutato a ottenere un vasto pubblico. È quella voce che le persone usano l'intelligenza artificiale per replicare, contro i desideri di sua moglie. Nel 2014, Bain ha rivelato che stava combattendo contro il cancro intestinale.
In un video visualizzato da Motherboard, un modello AI di TotalBiscuit descriveva il ciclo di vita di una locusta. In un altro, una versione della voce di TotalBiscuit priva del suo distinto accento britannico recita una battuta dal documentario What Is a Woman del troll di destra Matt Walsh.
Le clip vocali generate dall'intelligenza artificiale sono diventate virali dopo il lancio beta di un programma chiamato ElevenLabs. Il programma consente alle persone di addestrare un modello vocale AI e fargli dire quello che vogliono. Potresti aver visto i video di Joe Rogan e Ben Shapiro che discutono sui videogiochi o guardato clip di Joe Biden e Donald Trump che giocano a Overwatch. Ma c'è un lato più oscuro.
Gli utenti di 4chan hanno utilizzato il programma per creare clip audio deepfake di celebrità che pronunciano insulti. Un thread includeva Emma Watson che leggeva sezioni di Mein Kampf e Mary Elizabeth Winstead usando insulti transfobici e ripetendo meme 4chan. Uno di questi thread includeva la versione americanizzata di TotalBiscuit che citava Matt Walsh.