Gli esperti di marketing stanno scoprendo sempre più spesso che l’intelligenza artificiale può essere distorta.
Nelle ultime settimane, i test condotti da The Brandtech Group sulla sua piattaforma di AI-as-a-service, Pencil, hanno rivelato risultati preoccupanti nella generazione di immagini di un CEO. Due modelli hanno prodotto esclusivamente immagini maschili in 100 generazioni, mentre un terzo modello ha mostrato il 98% di risultati maschili. Un quarto e un quinto modello hanno visualizzato CEO di sesso maschile rispettivamente nell’86% e nell’85% dei casi.
I risultati, che sono molto maschili, evidenziano uno scollamento con la realtà, dove il rapporto 2023 di McKinsey ha rilevato che le donne ricoprono il 28% dei ruoli C-suite e che il 10,4% dei CEO di Fortune 500 è di sesso femminile. Pencil aggrega i principali modelli di intelligenza artificiale addestrati su dati web aperti e librerie protette da copyright. L’azienda non ha voluto condividere informazioni specifiche su quali modelli di intelligenza artificiale abbiano mostrato pregiudizi.
Per affrontare i pregiudizi derivanti dall’IA, come la stereotipizzazione dell’età e della razza, The Brandtech Group sta lanciando un prodotto tecnologico chiamato Bias Breaker. Bias Breaker è in fase di beta da oltre un anno. Il Gruppo Brandtech ha dichiarato che lo strumento viene ora offerto a tutti i clienti.
Il Gruppo Brandtech presenta Bias Breaker come un modo per correggere i fattori di diversità come razza, sesso ed età. È incorporato in Pencil, che ha generato oltre 1 milione di annunci per più di 5.000 marchi e ha gestito 1 miliardo di dollari di spesa mediatica dal 2018. Il Brandtech Group ha riconosciuto a Bias Breaker il merito di aver ottenuto nuovi affari, ma non ha voluto fare i nomi dei clienti.
“L’etica nel marketing consiste nell’utilizzare questa tecnologia in modo responsabile”, ha dichiarato Rebecca Sykes, partner di The Brandtech Group e responsabile delle tecnologie emergenti. “Ciò significa che non fa danni e che è positiva in termini di capacità degli operatori di marketing di raggiungere più persone in modi più pertinenti e applicabili”
Gli operatori di marketing stanno apprezzando l’efficienza e la scalabilità degli strumenti di IA generativa per la creazione di immagini pubblicitarie mirate. Tuttavia, secondo The Brandtech Group, se queste immagini generate dall’intelligenza artificiale si orientano verso determinati stereotipi, il potenziale ROI potrebbe essere compromesso.
Secondo Sykes, alcuni dei grandi marchi che collaborano con The Brandtech Group hanno lanciato l’allarme sulla tendenza a creare stereotipi negli annunci generati dall’intelligenza artificiale con Pencil. Ad esempio, l’intelligenza artificiale potrebbe generare automaticamente l’immagine di una donna che pulisce la casa per un marchio di prodotti per la pulizia.
“I marchi non vogliono sempre questo stereotipo”, ha detto Sykes. “Stiamo facendo in modo di non ricadere silenziosamente nell’accettazione di una posizione predefinita”
