Dopo che la nuova funzionalità di ricerca AI Overviews di Google è fallita in modo spettacolare la scorsa settimana, l’azienda ha minimizzato il problema, ma ha detto che è in corso una correzione.
AI Overviews utilizza l’intelligenza artificiale per attingere alle informazioni su Internet e fornire una risposta a una query di ricerca. Questo evita all’utente il fastidio di cliccare su più siti web.
In un classico caso di “spazzatura in, spazzatura out”, molte delle risposte fornite da AI Overviews erano comicamente sbagliate perché si basavano su informazioni errate pubblicate online.
La responsabile della ricerca Liz Reid ha rilasciato una dichiarazione in un post sul blog in cui ha affermato che AI Overviews è stato un grande successo, ma ha ammesso che ci sono stati alcuni intoppi.
Reid ha detto che le ragioni alla base di alcuni risultati strani erano query senza senso o screenshot falsi. Riguardo ai risultati falsi, Reid ha detto: “Queste AI Overviews non sono mai apparse. Quindi invitiamo chiunque incontri questi screenshot a fare una ricerca autonomamente per verificarlo”.
Ha ammesso che AI Overviews ha fornito alcuni risultati “strani, imprecisi o inutili”. Il motivo principale è la mancanza di dati di qualità su Internet relativi alla query o il fatto che la query fosse senza senso e lo strumento di ricerca non lo abbia rilevato.
Il suggerimento di mangiare pietre è un perfetto esempio della sfida che AI Overviews deve affrontare. La domanda “Quante pietre dovrei mangiare?” non sarebbe stata fatta da molte persone. Quando AI Overviews ha provato a rispondere alla query, ha trovato un articolo satirico su The Onion che suggeriva scherzosamente di mangiare una piccola pietra al giorno.
AI Overviews non è bravo a distinguere i contenuti umoristici, satirici o sarcastici dalle informazioni fattuali, ma Google afferma di aver migliorato la qualità dei risultati di AI Overviews:
- Costruire meccanismi di rilevamento migliori per query senza senso e contenuti satirici o umoristici.
- Limitare l’uso di contenuti generati dagli utenti (ad esempio Reddit) nelle risposte che potrebbero offrire consigli fuorvianti.
- Aggiungere restrizioni di attivazione per le query in cui AI Overviews non si è rivelato utile.
- Aggiungere limiti più forti per limitare le risposte relative a temi come le notizie e la salute.
Le persone si sono forse divertite a concentrarsi sulle risposte strane, ma fornire risposte coerentemente buone alle query di ricerca è estremamente difficile. AI Overviews è oggettivamente utile, anche se è necessario trattare i risultati con un certo scetticismo.
L’intelligenza artificiale non crea informazioni, si affida ai suoi dati di addestramento o, come nel caso di AI Overviews, restituisce una risposta basata su informazioni generate dagli umani su Internet.
AI Overviews deve rispondere alle stesse sfide a cui gli umani si trovano di fronte quando leggono qualcosa online: è vero?
Ironia della sorte, l’intelligenza artificiale sta rendendo questa domanda più difficile da rispondere, non più facile.
