Gli esperti di marketing stanno scoprendo sempre più spesso che l’intelligenza artificiale può essere distorta.
Nelle ultime settimane, i test condotti da The Brandtech Group sulla sua piattaforma di AI-as-a-service, Pencil, hanno rivelato risultati preoccupanti nella generazione di immagini di un CEO. Due modelli hanno prodotto esclusivamente immagini maschili in 100 generazioni, mentre un terzo modello ha mostrato il 98% di risultati maschili. Un quarto e un quinto modello hanno visualizzato CEO di sesso maschile rispettivamente nell’86% e nell’85% dei casi.
I risultati, che sono molto maschili, evidenziano uno scollamento con la realtà, dove il rapporto 2023 di McKinsey ha rilevato che le donne ricoprono il 28% dei ruoli C-suite e che il 10,4% dei CEO di Fortune 500 è di sesso femminile. Pencil aggrega i principali modelli di intelligenza artificiale addestrati su dati web aperti e librerie protette da copyright. L’azienda non ha voluto condividere informazioni specifiche su quali modelli di intelligenza artificiale abbiano mostrato pregiudizi.
Per affrontare i pregiudizi derivanti dall’IA, come la stereotipizzazione dell’età e della razza, The Brandtech Group sta lanciando un prodotto tecnologico chiamato Bias Breaker. Bias Breaker è in fase di beta da oltre un anno. Il Gruppo Brandtech ha dichiarato che lo strumento viene ora offerto a tutti i clienti.
Il Gruppo Brandtech presenta Bias Breaker come un modo per correggere i fattori di diversità come razza, sesso ed età. È incorporato in Pencil, che ha generato oltre 1 milione di annunci per più di 5.000 marchi e ha gestito 1 miliardo di dollari di spesa mediatica dal 2018. Il Brandtech Group ha riconosciuto a Bias Breaker il merito di aver ottenuto nuovi affari, ma non ha voluto fare i nomi dei clienti.
“L’etica nel marketing consiste nell’utilizzare questa tecnologia in modo responsabile”, ha dichiarato Rebecca Sykes, partner di The Brandtech Group e responsabile delle tecnologie emergenti. “Ciò significa che non fa danni e che è positiva in termini di capacità degli operatori di marketing di raggiungere più persone in modi più pertinenti e applicabili”
Gli operatori di marketing stanno apprezzando l’efficienza e la scalabilità degli strumenti di IA generativa per la creazione di immagini pubblicitarie mirate. Tuttavia, secondo The Brandtech Group, se queste immagini generate dall’intelligenza artificiale si orientano verso determinati stereotipi, il potenziale ROI potrebbe essere compromesso.
Secondo Sykes, alcuni dei grandi marchi che collaborano con The Brandtech Group hanno lanciato l’allarme sulla tendenza a creare stereotipi negli annunci generati dall’intelligenza artificiale con Pencil. Ad esempio, l’intelligenza artificiale potrebbe generare automaticamente l’immagine di una donna che pulisce la casa per un marchio di prodotti per la pulizia.
“I marchi non vogliono sempre questo stereotipo”, ha detto Sykes. “Stiamo facendo in modo di non ricadere silenziosamente nell’accettazione di una posizione predefinita”
Il Bias Breaker funziona incorporando i principali fattori di diversità come età, razza, abilità, identità di genere e religione, provenienti da fonti come Citizens Advice, Gov.uk e U.S. Census Bureau, in suggerimenti generati dall’intelligenza artificiale.
Quando si chiede a Pencil di generare un CEO, la tecnologia applica automaticamente questi criteri di diversità selezionando casualmente uno o più fattori per arricchire la richiesta, ottenendo quello che The Brandtech Group considera un risultato più inclusivo.
“È ancora compito dell’utente umano scegliere immagini valide e sollecitare consapevolmente a fare scelte valide”, ha affermato Sykes.
Oltre i pregiudizi di genere e di professione
Le immagini generate dall’IA rivelano pregiudizi che si estendono alle descrizioni, influenzando le rappresentazioni al di là del genere e della professione.
I clienti di Brandtech Group si rivolgono spesso a persone che si trovano in varie fasi della loro vita, utilizzando messaggi come “emotiva”, “forte”, “intelligente”, “bella” o “in menopausa”. Tuttavia, le immagini predefinite dell’intelligenza artificiale per “bella” sono spesso orientate verso donne giovani e magre. Secondo Sykes, la menopausa viene rappresentata con donne molto più anziane, sui 70 o 80 anni, piuttosto che con quarantenni. E “emotivo” è quasi sempre associato alle donne, mentre “forte” è legato agli uomini, secondo The Brandtech Group.
“Si tratta di termini di genere nel modo in cui sono stati usati storicamente nel linguaggio, e questo si riflette su di noi”, ha detto Sykes. “Ma la maggior parte dei marchi non vuole questo tipo di riflesso di genere o distorto”
I clienti del Brandtech Group che hanno testato Bias Breaker stanno perfezionando il loro approccio all’IA, passando da una mentalità ampia a una strategia più mirata, ha detto Sykes. Inizialmente, la maggior parte dei brief dei marchi cercava di applicare l’IA a tutti gli aspetti del loro lavoro, dalla generazione di immagini alla messaggistica del marchio. Ora sono più selettivi e si concentrano sui punti in cui l’automazione e la scalabilità possono essere più efficaci.
Ad esempio, quando si tratta di creare immagini per le campagne per eventi come il Mese della Storia Nera o il Mese dell’Orgoglio, The Brandtech Group incoraggia i brand a non utilizzare l’IA e a lavorare direttamente con i membri della comunità, retribuendoli equamente per partecipare alla campagna.
“Dal punto di vista del posizionamento, si tratta di un cattivo brief sull’IA”, ha detto Sykes. “Non si può sostituire l’IA a quello che sarebbe il lavoro della vita reale, come la comprensione della comunità”
Per quanto riguarda la comunicazione di prodotto o l’ottimizzazione della messaggistica e delle prestazioni del marchio, dove l’esperienza umana è meno critica, i vantaggi dell’IA generativa diventano più evidenti.
“Si tratta di un’applicazione più intenzionale dell’IA”, ha affermato Sykes.
Leddi di più su www.adweek.com
