Il Bias Breaker funziona incorporando i principali fattori di diversità come età, razza, abilità, identità di genere e religione, provenienti da fonti come Citizens Advice, Gov.uk e U.S. Census Bureau, in suggerimenti generati dall’intelligenza artificiale.
Quando si chiede a Pencil di generare un CEO, la tecnologia applica automaticamente questi criteri di diversità selezionando casualmente uno o più fattori per arricchire la richiesta, ottenendo quello che The Brandtech Group considera un risultato più inclusivo.
“È ancora compito dell’utente umano scegliere immagini valide e sollecitare consapevolmente a fare scelte valide”, ha affermato Sykes.
Oltre i pregiudizi di genere e di professione
Le immagini generate dall’IA rivelano pregiudizi che si estendono alle descrizioni, influenzando le rappresentazioni al di là del genere e della professione.
I clienti di Brandtech Group si rivolgono spesso a persone che si trovano in varie fasi della loro vita, utilizzando messaggi come “emotiva”, “forte”, “intelligente”, “bella” o “in menopausa”. Tuttavia, le immagini predefinite dell’intelligenza artificiale per “bella” sono spesso orientate verso donne giovani e magre. Secondo Sykes, la menopausa viene rappresentata con donne molto più anziane, sui 70 o 80 anni, piuttosto che con quarantenni. E “emotivo” è quasi sempre associato alle donne, mentre “forte” è legato agli uomini, secondo The Brandtech Group.
