Meta ha annunciato l’intenzione di popolare Facebook e Instagram con profili e contenuti generati dall’intelligenza artificiale.
Connor Hayes, vicepresidente di Meta per il prodotto AI generativa, ha illustrato la visione dell’azienda: “Ci aspettiamo che queste IA esistano effettivamente, nel tempo, sulle nostre piattaforme, un po’ come fanno gli account”
Hayes ha aggiunto che queste entità di IA avranno “biografie e immagini del profilo e saranno in grado di generare e condividere contenuti alimentati dall’IA sulla piattaforma”
Meta ha già visto centinaia di migliaia di personaggi AI creati attraverso i suoi strumenti dal lancio negli Stati Uniti a luglio, anche se la maggior parte degli utenti non ha reso pubbliche le proprie creazioni.
Hayes fa notare che rendere le app di Meta “più divertenti e coinvolgenti” è una “priorità” per i prossimi due anni, con particolare attenzione a rendere le interazioni con l’IA più sociali.
I piani più ampi di Meta in materia di intelligenza artificiale sono ambiziosi. L’azienda sta sviluppando strumenti per aiutare gli utenti a creare assistenti AI in grado di rispondere alle domande dei follower. Per il 2025, prevede di rilasciare un software per la generazione di video con testo che consenta ai creatori di inserirsi nei video generati dall’IA.
Mark Zuckerberg ha anche recentemente rivelato degli avatar AI in grado di condurre videochiamate in diretta imitando perfettamente la persona di un creatore, dal modo di parlare alle espressioni facciali.
Questo fa parte di una più ampia spinta del settore verso i contenuti generati dall’intelligenza artificiale. Snapchat ha rilasciato degli strumenti che consentono ai creatori di progettare personaggi AI in 3D per la realtà aumentata, registrando un aumento annuale del 50% degli utenti che visualizzano contenuti generati dall’intelligenza artificiale.
Nel frattempo, TikTok , di proprietà di ByteDance , sta sperimentando “Symphony”, una serie di strumenti e applicazioni che consentono ai marchi e ai creatori di utilizzare l’IA per scopi pubblicitari, come la creazione di avatar generati dall’IA e l’automazione della traduzione dei contenuti.
I bot AI sui social media: Le implicazioni
Gli esperti del settore lanciano un allarme sulle implicazioni psicologiche e sociali dell’integrazione dei social media con i bot AI.
Becky Owen, responsabile globale del marketing e dell’innovazione di Billion Dollar Boy ed ex capo del team creator innovations di Meta, avverte che “senza solide salvaguardie, le piattaforme rischiano di amplificare false narrazioni attraverso questi account guidati dall’IA”, secondo quanto riportato dal FT.
Sottolinea: “A differenza dei creatori umani, questi personaggi AI non hanno esperienze vissute, emozioni o la stessa capacità di relazionarsi”
Owen avverte inoltre che i personaggi dell’IA potrebbero inondare le piattaforme di materiale di bassa qualità che mina i creatori ed erode la fiducia degli utenti.
Ciò assume un peso maggiore se si considerano i precedenti di Meta in materia di manipolazione dei dati, in particolare lo scandalo di Cambridge Analytica, in cui i dati degli utenti sono stati sfruttati per influenzare le opinioni politiche.
Piuttosto che limitarsi a raccogliere i dati degli utenti per indirizzare i contenuti, le entità AI potrebbero impegnarsi attivamente con gli utenti, dare forma alle conversazioni e influenzare le opinioni in tempo reale, il tutto apparendo come autentici partecipanti umani al discorso online.
Meta sostiene di aver implementato misure di protezione, tra cui l’etichettatura obbligatoria dei contenuti generati dall’IA, ma i critici sostengono che ciò potrebbe non essere sufficiente a prevenire l’erosione dell’autentica connessione umana.
I bot minacciano di conquistare parti di Internet
Secondo una ricerca di Imperva, quasi la metà di tutto il traffico internet (49,6%) proviene oggi da fonti non umane.
I bot cattivi rappresentano già il 32% del traffico web, dando credito a quella che un tempo veniva liquidata come una teoria della cospirazione: il concetto di “internet morta” in cui le voci umane vengono sempre più soffocate da quelle artificiali.
A un livello più profondo, questo segna l’ennesima progressione verso un ecosistema internet plasmato da sistemi di intelligenza artificiale.
Le implicazioni filosofiche sono vertiginose. Stiamo andando verso un mondo in cui le nostre cerchie sociali online potrebbero includere entità che pensano e rispondono a velocità sovrumane, ma che non hanno una vera coscienza o esperienza emotiva.
I profili AI condivideranno “ricordi” che non hanno mai avuto, esprimeranno “sentimenti” che non possono provare e creeranno “connessioni” senza alcuna capacità di vera empatia o comprensione.
Ironia della sorte, i social media, originariamente creati per aiutare gli esseri umani a connettersi più facilmente attraverso le grandi distanze, potrebbero diventare uno spazio in cui la connessione umana è sempre più mediata e diluita da entità artificiali.
La domanda non è semplicemente se l’intelligenza artificiale sia in grado di imitare in modo convincente l’interazione umana, ma se siamo pronti per un mondo in cui le entità digitali diventano partecipanti alla pari nei nostri spazi sociali online.
