Le immagini dell'intelligenza artificiale di donne di tutto il mondo sono diventate virali. Promuovono il colorismo e gli standard di bellezza culturale?

Jul 19, 2023

Che aspetto ha una "bella" donna indiana?

Che dire delle Filippine o del Laos?

L’intelligenza artificiale (AI) pretende di avere la risposta.

Le immagini generate dall'intelligenza artificiale di "belle donne" da tutto il mondo sono diventate virali da mesi.

Un video di TikTok con immagini AI di donne dell’Asia meridionale e orientale – recentemente pubblicato da un account chiamato AI World Beauties – ha più di 1,7 milioni di visualizzazioni.

Tuttavia, gli esperti affermano che, poiché sono “addestrati” su set di dati distorti e stereotipi, le immagini possono perpetuare ideali limitati, esclusivisti e potenzialmente dannosi.

Le immagini che diventano virali vengono create dai cosiddetti programmi "IA generativa" o "GenAI".

"GenAI è un tipo di intelligenza artificiale basata su modelli di apprendimento automatico", ha detto alla ABC Shibani Antonette, docente di scienza dei dati e innovazione presso l'Università di Tecnologia di Sydney.

"Utilizza modelli e informazioni apprese da milioni di punti dati per creare nuovi contenuti mai esistiti prima."

La dott.ssa Antonette afferma che la qualità e la diversità dei dati di addestramento determinano l'output di un generatore di immagini.

Quando è stato contattato dalla ABC, il creatore del video virale ha affermato di aver utilizzato un modello di diffusione chiamato Midjourney per generare le immagini.

Hanno rifiutato di essere nominati nella storia o di commentare ulteriormente.

Pelle chiara, naso sottile, labbra carnose e zigomi alti.

Secondo i video virali, le donne "belle" condividono queste stesse caratteristiche.

I bias sono "un problema serio" nelle tecnologie di generazione di immagini e di riconoscimento facciale, afferma la dott.ssa Antonette.

"I modelli possono creare una realtà distorta amplificando pregiudizi e stereotipi su razza e genere", afferma.

"La maggior parte delle immagini generate perpetuano il colorismo e gli standard di bellezza culturale."

Osservando le immagini virali dell'intelligenza artificiale, la dott.ssa Antonette afferma che il modello che le ha generate probabilmente "non disponeva di un set di dati di addestramento diversificato che contenesse molti volti di persone di colore con diverse tonalità e forme della pelle".

"Dopo tutto, i dati per questi modelli sono stati estratti da tutta Internet negli ultimi decenni - senza responsabilità per copertura, diversità e inclusione - per soddisfare applicazioni specifiche."

Asia Jackson spesso fa indovinare le persone sulla sua etnia, e di solito riceve un "non sembri così" quando lo dice alla gente.

L'attrice e creatrice di contenuti nera e filippina afferma che da bambina il fatto di essere "mista" creava "molti problemi di identità".

Ora 29enne, la signora Jackson afferma di avere un senso di sé e di identità più forte.

"Mi sento decisamente più offeso quando qualcuno mi dice 'non sembro nero' o 'non sembro asiatico'.

"Perché entrambe queste categorie razziali contengono uno spettro così ampio di colori e caratteristiche della pelle."

Lo stesso vale quando le persone dicono alla signora Jackson che "non sembra filippina".

"Le Filippine sono un paese con più di 7.100 isole e centinaia di gruppi etnici diversi", afferma.

La signora Jackson si sente "piuttosto indifferente" riguardo alle immagini virali dell'intelligenza artificiale.

"L'intelligenza artificiale non fa altro che copiare il comportamento umano, per quanto non inclusivo o non politicamente corretto possa essere", afferma.

"Questo non è niente di diverso da ciò che accade nella vita reale.

"Allo stesso tempo, non credo davvero che sia possibile includere la grande diversità di caratteristiche o etnie di ogni paese in un video di 30 secondi."

Quando Ishara Sahama vide per la prima volta le immagini sopra, le trovò "quasi eteree".

Poi si rese conto che quello che vedeva erano "gli standard di bellezza più accettati da ogni gruppo etnico".

"La diversità dei gruppi etnici all'interno di ciascun paese è generalizzata in un modello. È riduttivo e lungi dal riflettere la diversità di quei paesi", afferma.

Il venticinquenne cofondatore dell'agenzia di design strategico Echo Impact Group è stato scambiato per indiano, pakistano, arabo e indigeno australiano.

È dello Sri Lanka, con origini singalesi, tamil e malesi.

"Dare per scontato la propria etnia e poi associarla senza chiedere è ciò che mi dà più fastidio."