Scalare l’inferenza dell’intelligenza artificiale con efficienza open-source
NVIDIA ha lanciato Dynamo, un software di inferenza open-source progettato per accelerare e scalare i modelli di ragionamento all’interno delle fabbriche di AI. Gestire e coordinare in modo efficiente le richieste di inferenza dell’intelligenza artificiale su una flotta di GPU è un’impresa fondamentale per garantire che le fabbriche di intelligenza artificiale possano operare con un ottimo rapporto costo-efficacia e massimizzare la generazione di gettoni. Man mano che il ragionamento dell’IA diventa sempre più diffuso, si prevede che ogni modello di IA generi decine di migliaia di token per ogni richiesta, rappresentando essenzialmente il suo processo di “pensiero”. Migliorare le prestazioni di inferenza e contemporaneamente ridurne il costo è quindi fondamentale per accelerare la crescita e aumentare le opportunità di guadagno per i fornitori di servizi. Una nuova generazione di software di inferenza dell’intelligenza artificiale NVIDIA Dynamo, che succede a NVIDIA Triton Inference Server, rappresenta una nuova generazione di software di inferenza dell’intelligenza artificiale specificamente progettato per massimizzare la generazione di ricavi token per le fabbriche di intelligenza artificiale che distribuiscono modelli di ragionamento dell’intelligenza artificiale. Dynamo orchestra e accelera la comunicazione dell’inferenza su migliaia di GPU. Utilizza il servizio disaggregato, una tecnica che separa le fasi di elaborazione e generazione dei modelli linguistici di grandi dimensioni (LLM) su GPU distinte. Questo approccio permette di ottimizzare ogni fase in modo indipendente, soddisfacendo le sue specifiche esigenze di calcolo e garantendo il massimo utilizzo delle risorse della GPU. “Le industrie di tutto il mondo stanno addestrando i modelli di intelligenza artificiale a pensare e ad apprendere in modi diversi, rendendoli sempre più sofisticati”, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “Per consentire un futuro di AI con ragionamento personalizzato, NVIDIA Dynamo aiuta a servire questi modelli su scala, consentendo di risparmiare sui costi e di aumentare l’efficienza delle fabbriche di AI” Utilizzando lo stesso numero di GPU, Dynamo ha dimostrato di poter raddoppiare le prestazioni e i ricavi delle fabbriche di AI che servono modelli Llama sull’attuale piattaforma Hopper di NVIDIA. Inoltre, eseguendo il modello DeepSeek-R1 su un grande cluster di rack GB200 NVL72, le ottimizzazioni intelligenti dell’inferenza di NVIDIA Dynamo hanno dimostrato di aumentare il numero di token generati di oltre 30 volte per GPU. Per ottenere questi miglioramenti nelle prestazioni di inferenza, NVIDIA Dynamo incorpora diverse funzionalità chiave progettate per aumentare il throughput e ridurre i costi operativi. Dynamo può aggiungere, rimuovere e riallocare dinamicamente le GPU in tempo reale per adattarsi alle fluttuazioni dei volumi e dei tipi di richiesta. Il software è anche in grado di individuare, all’interno di cluster di grandi dimensioni, le GPU specifiche più adatte a ridurre al minimo i calcoli di risposta e a instradare in modo efficiente le query. Dynamo può anche scaricare i dati di inferenza su dispositivi di memoria e di archiviazione più economici, recuperandoli rapidamente quando necessario, riducendo così al minimo i costi complessivi di inferenza. NVIDIA Dynamo viene rilasciato come progetto completamente open-source, offrendo un’ampia compatibilità con framework popolari come PyTorch, SGLang, NVIDIA TensorRT-LLM e vLLM. Questo approccio aperto supporta le imprese, le startup e i ricercatori nello sviluppo e nell’ottimizzazione di nuovi metodi per servire i modelli di intelligenza artificiale attraverso infrastrutture di inferenza disaggregate. NVIDIA si aspetta che Dynamo acceleri l’adozione dell’inferenza dell’intelligenza artificiale in un’ampia gamma di organizzazioni, tra cui i principali cloud provider e innovatori dell’intelligenza artificiale come AWS, Cohere, CoreWeave, Dell, Fireworks, Google Cloud, Lambda, Meta, Microsoft Azure, Nebius, NetApp, OCI, Perplexity, Together AI e VAST. NVIDIA Dynamo: Potenziamento dell’inferenza e dell’intelligenza artificiale agenziale Un’innovazione fondamentale di NVIDIA Dynamo consiste nella sua capacità di mappare la conoscenza che i sistemi di inferenza conservano in memoria grazie alle richieste precedenti, nota come KV cache, su migliaia di GPU. Il software instrada quindi in modo intelligente le nuove richieste di inferenza verso le GPU che possiedono la migliore corrispondenza di conoscenze, evitando di fatto costose ricomputazioni e liberando le altre GPU per gestire le nuove richieste in arrivo. Questo meccanismo di instradamento intelligente migliora significativamente l’efficienza e riduce la latenza. “Per gestire centinaia di milioni di richieste al mese, ci affidiamo alle GPU e al software di inferenza di NVIDIA per ottenere le prestazioni, l’affidabilità e la scalabilità richieste dalla nostra azienda e dai nostri utenti”, ha dichiarato Denis Yarats, CTO di Perplexity AI. “Non vediamo l’ora di sfruttare Dynamo, con le sue migliori capacità di servizio distribuito, per ottenere un’efficienza di servizio di inferenza ancora maggiore e soddisfare le richieste di calcolo dei nuovi modelli di ragionamento dell’intelligenza artificiale” La piattaforma di AI Cohere sta già pianificando di sfruttare NVIDIA Dynamo per migliorare le capacità di AI agenziale della sua serie di modelli Command. “La scalabilità di modelli di IA avanzati richiede una sofisticata pianificazione multi-GPU, una coordinazione senza soluzione di continuità e librerie di comunicazione a bassa latenza che trasferiscano i contesti di ragionamento senza soluzione di continuità attraverso la memoria e lo storage”, ha spiegato Saurabh Baji, SVP of engineering di Cohere. “Ci aspettiamo che NVIDIA Dynamo ci aiuti a offrire un’esperienza d’uso eccellente ai nostri clienti aziendali” Supporto per il servizio disaggregato La piattaforma di inferenza NVIDIA Dynamo offre anche un solido supporto per il servizio disaggregato. Questa tecnica avanzata assegna le diverse fasi computazionali degli LLM – compresi i passaggi cruciali della comprensione della query dell’utente e della generazione della risposta più appropriata – a diverse GPU all’interno dell’infrastruttura. Il servizio disaggregato è particolarmente adatto ai modelli di ragionamento, come la nuova famiglia di modelli NVIDIA Llama Nemotron, che impiega tecniche di inferenza avanzate per migliorare la comprensione del contesto e la generazione delle risposte. Consentendo a ogni fase di essere messa a punto e di disporre di risorse in modo indipendente, il servizio disaggregato migliora il throughput complessivo e offre tempi di risposta più rapidi agli utenti. Together AI, un’azienda di spicco nel settore dell’accelerazione dell’intelligenza artificiale, sta cercando di integrare il suo motore di inferenza proprietario Together Inference Engine con NVIDIA Dynamo. Questa integrazione mira a consentire una scalabilità perfetta dei carichi di lavoro di inferenza
I marketer dovranno ripensare il ruolo delle piattaforme digitali
E se non fosse mai durato? Sono passati più di tre decenni da quando il primo banner pubblicitario è apparso su un sito web. Il digitale non era solo una nuova frontiera, ma un luogo che registrava una crescita stratosferica di anno in anno – e l’aspettativa non dichiarata era che la crescita sarebbe continuata per sempre. Questa aspettativa ha senso se si considera che il web è entrato a far parte delle nostre vite; ogni anno che passa, milioni di persone in più si connettono. Con l’aumento del numero di persone connesse, sembrava logico che la pubblicità digitale avrebbe continuato a crescere. Ma poi le cose sono cambiate. È difficile stabilire con esattezza il momento in cui l’umore è cambiato. È stato forse quando il mercato della pubblicità digitale si è concentrato su una manciata di aziende tecnologiche super-giganti? È stato quando la legislazione sulla privacy e l’atteggiamento dei consumatori sono cambiati e le pratiche che un tempo erano di routine sono diventate proibite? Oppure è stato quando le strategie che un tempo davano risultati hanno iniziato a deludere? Come ogni situazione complessa, la risposta a questa domanda è una combinazione di tutti questi fattori, oltre a molti altri che non potrei citare nei limiti di un’introduzione. Il punto è che l’industria pubblicitaria è disperata. Non ha nuove idee e non ha assi nella manica. L’impatto mancante Se cerchi il termine “declino dell’efficacia degli annunci online”, ti imbatterai in un articolo del 2024 che mette in guardia sul fatto che gli annunci di Google non offrono più le prestazioni di una volta. Un altro articolo del 2023 dichiara: “La pubblicità digitale è morta. Che liberazione” Ho trovato un altro articolo del 2022 che sostiene la stessa tesi, oltre a un blog della World Federation of Advertisers che illustra i modi per “invertire il declino dell’efficacia della pubblicità” E questo prima di arrivare alle montagne di dati aneddotici provenienti da siti come Reddit e Twitter, in cui gli esperti di marketing si lamentano delle piattaforme sempre più inefficaci che inghiottono i loro budget senza generare conversioni. “Google ha finalmente perso la testa. 694 dollari per un clic non identificato oggi“, urla un post della fine del 2024. Un altro post chiede: “Quanto sono truffaldini gli annunci di Google?“, citando una conversione in un periodo di sei mesi in cui l’azienda ha speso 3.000 dollari. Sui social media la situazione è particolarmente negativa. Secondo uno studio, la spesa per la pubblicità sui social media è scesa dal 17% nella primavera del 2023 all’11% un anno dopo. Si tratta del livello più basso registrato negli ultimi sette anni. Lo studio, redatto dal professore della Northwestern University Koen Pauwels, indica alcune ragioni, ma probabilmente la più importante è che i responsabili delle decisioni di marketing non sono convinti che i social media offrano molto. Mentre aziende come Meta hanno profili dettagliati sui loro utenti e sui loro interessi, i dati diventano molto più frammentari quando riguardano le attività al di fuori della piattaforma. Meta ti dice con quali marchi ti sei impegnato, ma non quali hai acquistato. Questa ambiguità, unita ad altri fattori come la stanchezza dei consumatori per la pubblicità e la natura affollata della pubblicità sui social media, spiega perché molti leader del marketing ritengono che i social media abbiano un impatto mediocre sui profitti delle loro aziende. Paradossalmente, le aziende al centro di questa insoddisfazione stanno andando bene. Non abbiamo ancora raggiunto il punto in cui la pubblicità digitale viene abbandonata in massa. Se le aziende decidono di limitare la spesa per il marketing online, è probabile che altre, soprattutto piccole imprese e startup, comincino a fare pubblicità attraverso la ricerca e i social per la prima volta. Immagino che siano proprio questi nuovi operatori a mantenere lo status quo. Credo anche che l’industria della pubblicità digitale si renda conto della situazione. Non possono essere ciechi di fronte al crescente malcontento dei loro clienti. Pertanto, credo che l’industria cercherà di distrarsi con espedienti e mode per convincere gli inserzionisti che queste piattaforme non sono così decrepite come sembrano, che c’è ancora vita nel settore. La strategia del gatto morto della pubblicità digitale Il consulente politico australiano Lynton Crosby è noto soprattutto per la creazione della “strategia del gatto morto“, che consiste nel dire deliberatamente qualcosa di scioccante o provocatorio in modo che l’attenzione della gente si concentri su questo piuttosto che su un passo falso o un fallimento. È l’equivalente di gettare un gatto morto sul tavolo durante una cena: la gente inizia a parlare del gatto morto, non del fatto che il pollo è troppo cotto. Cosa succede nel mondo del marketing digitale? Prendiamo Facebook: Nell’ultimo decennio, ha apportato sottili (e alla fine anche non sottili) modifiche all’algoritmo del newsfeed in modo che i contenuti della rete di contatti più immediata delle persone venissero seppelliti sotto una marea di “post consigliati”, il tutto con l’obiettivo di aumentare il coinvolgimento. Ora ha fatto un ulteriore passo avanti ampliando la definizione di ciò che considera un contenuto accettabile ed eliminando i suoi verificatori. Forse Zuckerberg sa che i contenuti politici, soprattutto quelli più controversi, aumentano il coinvolgimento e, di conseguenza, il numero di impressioni e di clic sugli annunci sulla sua piattaforma. Immagino che Elon Musk abbia avuto la stessa idea con X, anche se nel suo caso si è completamente ritorto contro, allontanando i grandi clienti blue-chip con i budget più elevati, lasciando solo i venditori di prodotti a basso costo e coloro che pubblicizzano ebook per ottenere guadagni facili. Un discorso simile si può fare per i risultati dell’intelligenza artificiale generativa di Google che ora appaiono in cima a quasi tutti i risultati di ricerca. Si potrebbe pensare che questo sia il modo in cui Google aiuta l’utente finale, anche se il testo generato è, troppo spesso, completamente privo di senso. In alternativa, è un modo per Google di posizionarsi non solo come punto di passaggio per le informazioni, ma piuttosto come fonte di informazioni. I piccoli riquadri
Manus è una svolta nell’IA agenziale cinese
L’agente Manus AI è l’ultima innovazione cinese nel campo dell’intelligenza artificiale che sta facendo girare la testa nella Silicon Valley e non solo. Manus è stato lanciato la scorsa settimana in anteprima su invito e rappresenta l’ingresso più ambizioso della Cina nel mercato emergente degli agenti AI. A differenza di quanto visto finora, l’agente AI Manus non si limita a chattare con gli utenti, ma è presumibilmente in grado di affrontare autonomamente compiti complessi in più fasi con una guida umana minima. Sviluppato dalla startup cinese Butterfly Effect con il sostegno finanziario del gigante tecnologico Tencent Holdings, l’agente Manus AI ha catturato l’attenzione mondiale per la sua capacità di colmare il divario tra le capacità teoriche dell’AI e le applicazioni pratiche del mondo reale. Utilizza un’innovativa architettura multi-modello che combina i punti di forza di diversi modelli linguistici leader del settore. Esecuzione autonoma di compiti rivoluzionari In un post su X, Peak Ji Yichao, co-fondatore e chief scientist di Butterfly Effect, ha dichiarato che l’IA agenziale è stata costruita utilizzando modelli linguistici esistenti di grandi dimensioni, tra cui Claude di Anthropic e versioni perfezionate di Qwen open-source di Alibaba. La sua natura multi-modello permette a Manus di utilizzare diversi punti di forza dell’intelligenza artificiale a seconda di ciò che gli viene richiesto, ottenendo capacità di ragionamento ed esecuzione più sofisticate. “L’agente Manus AI rappresenta un approccio fondamentalmente diverso all’intelligenza artificiale”, ha dichiarato CNN Business. Secondo il servizio, Manus “è in grado di svolgere attività complesse e in più fasi, come lo screening dei curriculum e la creazione di un sito web” e “non si limita a generare idee, ma fornisce risultati tangibili, come la produzione di un rapporto che raccomanda proprietà da acquistare in base a criteri specifici” Valutazione delle prestazioni nel mondo reale Nel corso di un’approfondita valutazione pratica, la MIT Technology Review ha testato l’agente Manus AI in tre distinte categorie di attività: la compilazione di elenchi completi di giornalisti, la conduzione di ricerche immobiliari con parametri complessi e l’identificazione di candidati per il prestigioso programma Innovators Under 35. “Usare Manus è come collaborare con uno stagista altamente intelligente ed efficiente”, ha scritto Caiwei Chen nella valutazione. “Sebbene a volte non capisca cosa gli viene chiesto di fare, faccia ipotesi sbagliate o tagli le curve per accelerare i compiti, spiega chiaramente i suoi ragionamenti, è straordinariamente adattabile e può migliorare sostanzialmente quando gli vengono fornite istruzioni dettagliate o feedback” La valutazione ha rivelato una delle caratteristiche più distintive dell’agente Manus AI: la sua interfaccia “Manus’s Computer”, che offre una trasparenza senza precedenti nel processo decisionale dell’AI. La finestra dell’applicazione consente agli utenti di osservare le azioni dell’agente in tempo reale e di intervenire quando necessario, creando un flusso di lavoro collaborativo uomo-IA che mantiene il controllo dell’utente e al contempo automatizza processi complessi. Sfide tecniche di implementazione Nonostante le impressionanti capacità, l’agente Manus AI incontra notevoli ostacoli tecnici nella sua attuale implementazione. MIT Technology Review ha documentatofrequenti crash di sistema ed errori di timeout durante l’uso prolungato. La piattaforma ha visualizzato messaggi di errore, citando un “alto carico di servizio”, suggerendo che l’infrastruttura di calcolo rimane un limite. Le limitazioni tecniche hanno contribuito a rendere l’accesso molto ristretto: meno dell’1% degli utenti in lista d’attesa ha ricevuto il codice di invito – il canale Discord ufficiale di Manus ha già accumulato oltre 186.000 membri. Secondo quanto riportato dalla pubblicazione tecnologica cinese36Kr, i costi operativi dell’agente Manus AI rimangono relativamente competitivi, pari a circa 2 dollari per attività. Partnership strategica con Alibaba Cloud I creatori dell’agente Manus AI hanno annunciato una partnership con la divisione cloud computing di Alibaba. Secondo un articolo del South China Morning Post dell’11 marzo, “Manus si impegnerà in una cooperazione strategica con il team Qwen di Alibaba per soddisfare le esigenze degli utenti cinesi” La partnership mira a rendere Manus disponibile su “modelli e piattaforme di calcolo nazionali”, anche se le tempistiche di implementazione non sono ancora state specificate. Progressi paralleli nei modelli di fondazione La partnership Manus-Alibaba coincide con i progressi di Alibaba nella tecnologia dei modelli di fondazione dell’intelligenza artificiale. Il 6 marzo, l’azienda ha pubblicato il suo modello di ragionamento QwQ-32B, dichiarando che le sue prestazioni superano quelle del modello o1-mini di OpenAI e rivaleggiano con il modello R1 di DeepSeek, nonostante il numero inferiore di parametri. Come riporta CNN Business, “Alibaba ha pubblicizzato il suo nuovo modello, QwQ-32B, in una dichiarazione online, affermando che offre prestazioni eccezionali, superando quasi completamente OpenAI-o1-mini e rivaleggiando con il modello di ragionamento open-source più forte, DeepSeek-R1” I guadagni di efficienza dichiarati sono particolarmente degni di nota: Alibaba afferma che QwQ-32B raggiunge prestazioni competitive con soli 32 miliardi di parametri, rispetto ai 671 miliardi di parametri del modello R1 di DeepSeek. Le dimensioni ridotte del modello suggeriscono requisiti computazionali sostanzialmente inferiori per l’addestramento e l’inferenza con capacità di ragionamento avanzate. Gli investimenti strategici della Cina nell’intelligenza artificiale L’agente Manus AI e i progressi del modello di Alibaba riflettono la più ampia enfasi strategica della Cina sullo sviluppo dell’intelligenza artificiale. Il governo cinese si è impegnato a sostenere esplicitamente “le industrie emergenti e le industrie del futuro”, e l’intelligenza artificiale ha ricevuto un’attenzione particolare insieme all’informatica quantistica e alla robotica. Alibaba investirà 380 miliardi di yuan (circa 52,4 miliardi di dollari) nell’intelligenza artificiale e nell’infrastruttura di cloud computing nei prossimi tre anni, una cifra che, secondo l’azienda, supera gli investimenti totali effettuati in questi settori nel decennio precedente. Come ha affermato Caiwei Chen di MIT Technology Review, “le aziende cinesi di IA non stanno semplicemente seguendo le orme delle loro controparti occidentali. Piuttosto che limitarsi a innovare i modelli di base, stanno dando forma attiva all’adozione di agenti AI autonomi a modo loro” L’agente AI Manus è anche un esempio di come l’ecosistema dell’intelligenza artificiale cinese si sia evoluto al di là della semplice replica dei progressi occidentali. Le politiche governative che promuovono l’autosufficienza tecnologica, le importanti iniziative di finanziamento e la crescente presenza di talenti specializzati nell’IA provenienti dalle università cinesi hanno creato le
OpenAI e Google chiedono l’intervento del governo statunitense per garantire la leadership dell’IA
OpenAI e Google esortano il governo degli Stati Uniti a intraprendere un ‘azione decisiva per garantire la leadership dell’IA della nazione. “Mentre il settore dell’IA dell’America, leader a livello mondiale, si avvicina all’AGI, con il Partito Comunista Cinese (PCC) determinato a superarci entro il 2030, il nuovo Piano d’azione per l’IA dell’amministrazione Trump può garantire che l’IA guidata dagli americani e costruita su principi democratici continui a prevalere sull’IA autocratica e autoritaria costruita dal PCC”, ha scritto OpenAI in una lettera all’Office of Science and Technology Policy. In una lettera separata, Google ha fatto eco a questo sentimento affermando: “Sebbene l’America sia attualmente leader mondiale nel campo dell’IA – e sia la patria dei modelli e degli strumenti di IA più capaci e ampiamente adottati – il nostro primato non è assicurato” Un piano per il piano d’azione sull’IA OpenAI ha sottolineato il potenziale dell’IA di “scalare l’ingegno umano”, promuovendo produttività, prosperità e libertà. L’azienda ha paragonato gli attuali progressi dell’IA a salti storici nell’innovazione, come l’addomesticamento del cavallo, l’invenzione della stampa e l’avvento del computer. Secondo Sam Altman, CEO di OpenAI, siamo “alle porte del prossimo salto di qualità”. L’azienda sottolinea l’importanza della “libertà dell’intelligenza”, sostenendo la necessità di un accesso aperto all’intelligenza artificiale, salvaguardando al contempo il controllo autocratico e le barriere burocratiche. OpenAI ha anche delineato tre principi di scalabilità: L’intelligenza di un modello di intelligenza artificiale equivale all’incirca al log delle risorse utilizzate per addestrarlo e farlo funzionare. Il costo dell’utilizzo di un determinato livello di capacità di IA diminuisce di circa 10 volte ogni 12 mesi. Il tempo di calendario necessario per migliorare un modello di IA continua a diminuire. Google ha anche un piano in tre punti su cui gli Stati Uniti devono concentrarsi: Investire nell’IA: Google ha chiesto un’azione coordinata per affrontare il crescente fabbisogno energetico dell’infrastruttura dell’IA, controlli equilibrati sulle esportazioni, finanziamenti continui per la R&S e quadri politici federali favorevoli all’innovazione. Accelerare e modernizzare l’adozione dell’IA da parte dei governi: Google ha esortato il governo federale a dare l’esempio nell’adozione e nell’implementazione dell’IA, tra cui l’implementazione di soluzioni di IA interoperabili e multi-vendor e la semplificazione dei processi di approvvigionamento. Promuovere approcci pro-innovazione a livello internazionale: Google si è espressa a favore di una politica economica internazionale attiva a sostegno dell’innovazione dell’IA, sostenendo standard tecnici orientati al mercato, collaborando con i Paesi allineati per affrontare i rischi per la sicurezza nazionale e combattendo le barriere estere restrittive in materia di IA. Raccomandazioni politiche sull’IA per il governo degli Stati Uniti Entrambe le aziende hanno fornito raccomandazioni dettagliate sulle politiche da adottare per il governo degli Stati Uniti. Le proposte di OpenAI includono: Una strategia normativa che garantisca la libertà di innovare attraverso una partnership volontaria tra il governo federale e il settore privato. Una strategia di controllo delle esportazioni che promuova l’adozione globale dei sistemi di IA americani, proteggendo al contempo la leadership americana nel campo dell’IA. Una strategia di copyright che protegga i diritti dei creatori di contenuti, preservando al contempo la capacità dei modelli di IA americani di apprendere da materiale protetto da copyright. Una strategia di opportunità infrastrutturale per favorire la crescita, che includa politiche a sostegno di una forza lavoro fiorente e pronta per l’IA e di ecosistemi di laboratori, start-up e grandi aziende. Un’ambiziosa strategia di adozione governativa per garantire che il governo degli Stati Uniti dia l’esempio di utilizzo dell’IA a beneficio dei suoi cittadini. Le raccomandazioni di Google includono Promuovere le politiche energetiche per l’alimentazione dei centri dati nazionali, compresa la riforma della trasmissione e dei permessi. L‘adozione di politiche di controllo delle esportazioni equilibrate, che supportino l’accesso al mercato e allo stesso tempo si concentrino sui rischi pertinenti. Accelerare la ricerca e lo sviluppo dell’intelligenza artificiale, semplificare l’accesso alle risorse di calcolo e incentivare i partenariati pubblico-privati. Creare un quadro federale favorevole all’innovazione per l’IA, che comprenda una legislazione federale che eviti un mosaico di leggi statali, che garantisca all’industria l’accesso a dati che consentano un apprendimento equo, che ponga l’accento su una governance dell’IA specifica per settore e basata sul rischio e che sostenga le iniziative della forza lavoro per sviluppare le competenze in materia di IA. Sia OpenAI che Google sottolineano la necessità di un’azione rapida e decisa. OpenAI ha avvertito che il vantaggio dell’America nell’IA si sta riducendo, mentre Google ha sottolineato che le decisioni politiche determineranno l’esito della competizione globale sull’IA. “Siamo in una competizione globale sull’IA e le decisioni politiche ne determineranno l’esito”, ha spiegato Google. “Un approccio favorevole all’innovazione, che protegga la sicurezza nazionale e garantisca che tutti traggano vantaggio dall’IA, è essenziale per realizzare il potenziale di trasformazione dell’IA e garantire che l’America mantenga la sua leadership” Leggi di più su www.artificialintelligence-news.com
4 casi di utilizzo dell’AI Marketing Analytics per aumentare le prestazioni delle campagne PPC
Le campagne PPC sono caratterizzate da molti elementi in movimento. Da un lato, devi ricercare le parole chiave, scrivere contenuti e tenere d’occhio i concorrenti. D’altra parte, devi creare report sulle prestazioni per i clienti, monitorare le campagne e regolare costantemente le offerte. In tutto questo, è facile che le campagne poco performanti passino inosservate e consumino la tua spesa pubblicitaria senza ottenere grandi ritorni. È qui che entra in gioco l’AI marketing analytics. Può: identificare più velocemente le parole chiave ad alto impatto generare e perfezionare le varianti della copia dell’annuncio senza alcuno sforzo automatizza il monitoraggio e ottieni informazioni chiave da tutti i tuoi dati PPC in pochi secondi Qui di seguito, analizziamo esattamente come l’intelligenza artificiale può non solo migliorare le prestazioni delle campagne PPC, ma anche farti risparmiare tempo prezioso. Caso d’uso 1: AI per la pianificazione delle parole chiave La ricerca delle parole chiave è la spina dorsale delle campagne PPC, ma è anche una delle parti della pubblicità a pagamento che richiede più tempo. Gli strumenti di analisi di AI marketing eliminano le congetture analizzando enormi set di dati e facendo emergere parole chiave ad alto impatto che si allineano con l’intento degli utenti. Come ha scritto Brooke Osmundson, Direttore del Growth Marketing di Smith Micro Software, nel suo articolo sul Search Engine Journal: La ricerca di parole chiave guidata dall’intelligenza artificiale consiste nel rendere più efficace la pianificazione delle parole chiave facendo emergere intuizioni che potrebbero sfuggire all’uomo. Ecco tutti i modi in cui l’AI può aiutare nella pianificazione delle parole chiave: 1. Identificare nuove opportunità di parole chiave L’intelligenza artificiale analizza milioni di query di ricerca per individuare le tendenze emergenti e le opportunità long-tail. Inoltre, prevede l’intento degli utenti, aiutando gli inserzionisti a fare offerte sui termini di maggior valore. 💡 Esempio di richiesta di identificazione di nuove parole chiave: “Sei un manager di Google Ads e il tuo cliente è [nome del cliente], [tipo di prodotto/azienda]. Fornisci un elenco completo di tutte le parole chiave per le quali consiglieresti di fare offerte nelle aste di Google Ad. Per questa ricerca, fai riferimento al loro sito web: [link al sito web]” Prompt da ElectricKite, agenzia di marketing creativo 2. Ampliare gli elenchi di parole chiave esistenti L’intelligenza artificiale trova sinonimi, varianti e corrispondenze semantiche delle parole chiave per ampliare la copertura delle parole chiave senza allargare troppo il target. 💡 Esempio di richiesta di espansione delle parole chiave: “Genera un elenco di parole chiave PPC a coda lunga basate su ‘migliori scarpe da corsa per principianti’ Includi varianti che si concentrino su prestazioni, comfort e durata” 3. Ottimizzare le parole chiave negative L’intelligenza artificiale analizza lo storico delle query di ricerca e segnala il traffico irrilevante, evitando sprechi di pubblicità. Inoltre, perfeziona le esclusioni per evitare di bloccare le ricerche di alto valore. 💡 Esempio di richiesta di ottimizzazione delle parole chiave negative: “Analizza i dati della mia campagna PPC e suggerisci parole chiave negative che stanno prosciugando il budget ma non convertono” [Carica i tuoi dati PPC in formato CSV o PDF] 4. Analizzare le parole chiave dei concorrenti e prevederne le tendenze L’intelligenza artificiale analizza le campagne PPC dei concorrenti per trovare le parole chiave più performanti su cui stanno facendo offerte. Inoltre: Monitora le variazioni delle offerte e le tendenze della copia degli annunci per aiutarti a stare al passo con la concorrenza Prevede i cambiamenti stagionali nel comportamento di ricerca in modo da poter adattare la tua strategia prima che i trend raggiungano il picco massimo 💡 Esempio di richiesta di approfondimenti sui concorrenti: “Analizza le principali parole chiave PPC su cui il mio concorrente [Brand X] sta facendo offerte e suggeriscimi dei modi per contrastare la strategia” Caso d’uso 2: IA per la generazione di contenuti dinamici Il testo dell’annuncio può fare la differenza nella tua campagna PPC. Ma la creazione di un testo pubblicitario convincente e di diverse varianti è estremamente dispendiosa in termini di tempo. È qui che entra in gioco l’intelligenza artificiale. Gli strumenti di intelligenza artificiale possono generare più versioni di titoli, descrizioni e immagini, per poi testarle in tempo reale su diversi segmenti di pubblico. La parte migliore è che i modelli dell’intelligenza artificiale imparano continuamente quali sono gli elementi del testo dell’annuncio che determinano il maggior coinvolgimento e le conversioni. In questo modo, ogni iterazione dell’annuncio supera la precedente (in teoria). “Con l’intelligenza artificiale stiamo sperimentando contenuti che nessun essere umano potrebbe mai avere il tempo di eseguire. Supponiamo di voler testare 20 versioni di un titolo di un annuncio su LinkedIn; in pochi secondi, l’intelligenza artificiale è in grado di scriverle e di eseguirle tutte insieme”, afferma Peter Lewis, fondatore e CEO di Strategic Pete, un’agenzia di consulenza di marketing. Ma la qualità dei tuoi suggerimenti è importante. Come scrive Braveen Kumar per Foreplay, un software per il flusso di lavoro degli annunci end-to-end, in questo articolo, la chiave per ottenere un output di alta qualità è quella di: Fornisci parametri di copia specifici Chiedere di scegliere tra più generazioni Fornire un contesto tramite istruzioni personalizzate o nel messaggio stesso Condivide un semplice suggerimento per ottenere diverse varianti di copia per la stessa campagna: Prompt 💬 Sei un esperto di copy pubblicitari su Facebook. [Marchio/sito web] vende [prodotto] che [valore aggiunto dell’elenco]. Sto conducendo una [campagna/tipo di promozione] rivolta a [pubblico di riferimento]. La voce del mio marchio è [elencare 3 aggettivi]. Scrivi il copy di 5 varianti di annunci Facebook per il mio pubblico di riferimento utilizzando questo modello di copy: Titolo (max 40 caratteri), Testo principale (125-300 caratteri), Descrizione (max 30 caratteri). Esempio 🤖 Sei un esperto di annunci su Facebook. Lushbakes.biz vende torte artigianali fatte a mano e personalizzabili per ogni occasione. Sto organizzando una promozione per San Valentino rivolta alle coppie che vogliono rendere il loro giorno più speciale. La voce del mio marchio è romantica, carina e calorosa. Genera 5 varianti di copy pubblicitario su Facebook per il mio pubblico di riferimento utilizzando
Opera introduce un agent AI integrato nel browser
Opera ha presentato “Browser Operator”, un agente AI nativo progettato per svolgere attività per gli utenti direttamente all’interno del browser. Piuttosto che agire come uno strumento separato, Browser Operator è un’estensione del browser stesso, progettata per potenziare gli utenti automatizzando attività ripetitive come l’acquisto di prodotti, la compilazione di moduli online e la raccolta di contenuti web. A differenza delle integrazioni AI basate su server che richiedono l’invio di dati sensibili a server di terze parti, Browser Operator elabora le attività localmente all’interno del browser Opera. Il video dimostrativo di Opera mostra come Browser Operator può semplificare un’attività quotidiana come l’acquisto di calzini. Invece di scorrere manualmente le pagine dei prodotti o di compilare i moduli di pagamento, gli utenti possono delegare l’intero processo a Browser Operator, consentendo loro di concentrarsi su attività più importanti per loro, come trascorrere del tempo con i propri cari. Sfruttando l’elaborazione del linguaggio naturale grazie all’AI Composer Engine di Opera, Browser Operator interpreta le istruzioni scritte dagli utenti ed esegue le attività corrispondenti all’interno del browser. Tutte le operazioni avvengono localmente sul dispositivo dell’utente, sfruttando l’infrastruttura del browser per completare i comandi in modo sicuro e rapido. Se Browser Operator incontra una fase delicata del processo, come l’inserimento dei dati di pagamento o l’approvazione di un ordine, si mette in pausa e richiede l’intervento dell’utente. Hai anche la libertà di intervenire e prendere il controllo del processo in qualsiasi momento. Ogni passo che Browser Operator compie è trasparente e completamente rivedibile, in modo da fornire agli utenti una chiara comprensione del modo in cui le attività vengono eseguite. Se si verificano degli errori, come l’inserimento di un ordine errato, puoi istruire l’agente AI a fare delle correzioni, come l’annullamento dell’ordine o la modifica di un modulo. I principali fattori di differenziazione: Privacy, prestazioni e precisione Ciò che distingue Browser Operator da altri strumenti integrati nell’intelligenza artificiale è la sua architettura localizzata e orientata alla privacy. A differenza dei concorrenti che dipendono dagli screenshot o dalle registrazioni video per comprendere il contenuto delle pagine web, l’approccio di Opera utilizza l’albero del Document Object Model (DOM) e i dati di layout del browser, una rappresentazione testuale della pagina web. Questa differenza offre diversi vantaggi chiave: Completamento più rapido delle attività: Browser Operator non ha bisogno di “vedere” e interpretare i pixel sullo schermo o di emulare i movimenti del mouse. Al contrario, accede direttamente agli elementi della pagina web, evitando inutili spese generali e consentendo di elaborare le pagine in modo olistico senza scorrere. Maggiore privacy: Poiché tutte le operazioni vengono eseguite sul browser stesso, i dati dell’utente – compresi i login, i cookie e la cronologia di navigazione – rimangono al sicuro sul dispositivo locale. Nessuna schermata, pressione dei tasti o informazione personale viene inviata ai server di Opera. Interazione più semplice con gli elementi della pagina: L’intelligenza artificiale può interagire con elementi nascosti alla vista dell’utente, come ad esempio i popup dei cookie o le finestre di verifica, consentendo un accesso continuo ai contenuti delle pagine web. Consentendo al browser di svolgere autonomamente le proprie attività, Opera compie un significativo passo avanti nel rendere i browser “agici”, non solo strumenti per accedere a internet, ma assistenti che migliorano attivamente la produttività. Leggi di più su www.artificialintelligence-news.com
Implementazione AI per le agenzie: 7 buone pratiche dagli esperti
In pochi anni, da quando l’intelligenza artificiale è decollata, si è trasformata da nuovo giocattolo scintillante nel marketing a spina dorsale del funzionamento delle agenzie. Infatti, secondo il rapporto 2024 di Forrester, il 91% delle agenzie pubblicitarie statunitensi sta utilizzando o esplorando l’IA generativa. Ma implementare l’IA con successo non è così semplice come collegare uno strumento e aspettarsi una magia. È necessaria una chiara strategia di implementazione dell’IA per assicurarsi che migliori il loro lavoro anziché interromperlo. Per aiutarti, abbiamo parlato con i leader delle agenzie e con gli esperti di IA per scoprire i consigli pratici e le best practice per integrare l’IA nel flusso di lavoro della tua agenzia. Ecco cosa ci hanno detto. 1. Assegna un chiaro campione di intelligenza artificiale Una delle maggiori difficoltà che le agenzie incontrano nell’adozione dell’IA è la mancanza di concentrazione. In genere le agenzie cadono in una delle due trappole (o in entrambe): I team non hanno il tempo (o non lo riservano) per provare gli strumenti di IA o per formarli adeguatamente. Alcuni dipendenti provano gli strumenti qua e là, ma non ne segue un’implementazione adeguata a livello generale. “Se dicessimo: ‘tutti devono implementare l’IA’ senza che nessuno lo faccia davvero, non arriveremmo da nessuna parte”, afferma Artūras Lazejevas, CTO di Whatagraph. Il modo migliore per combattere questo problema è nominare una persona responsabile di guidare l’adozione dell’IA in tutti i reparti. Nella maggior parte delle organizzazioni, si tratta del CEO o del CMO, secondo il rapporto State of Marketing AI 2024 di Salesloft e Marketing AI Institute. Sorprendentemente, il CTO si colloca al quarto posto, appena sotto “nessuno possiede l’IA”. 2. Identifica le aree in cui il tempo del tuo team viene sprecato Una volta che hai un campione di intelligenza artificiale, il suo primo compito dovrebbe essere quello di individuare i punti in cui i team perdono tempo in attività ripetitive. Artūras suggerisce un semplice esercizio: Tieni traccia delle ore di lavoro del team per una settimana: cosa sta consumando tempo? Identifica le attività ripetitive e di scarso valore: i report manuali, la creazione di contenuti o l’inserimento di dati occupano ore preziose? Trova i successi rapidi dell’automazione: ad esempio, il team SEO di Whatagraph ha risparmiato ore automatizzando la generazione di alt-text con uno strumento AI a basso codice. Ma mentre lo fai, è anche importante valutare se un’attività o un processo specifico è effettivamente necessario e vale la pena automatizzarlo con l’IA. “Un processo sbagliato, se automatizzato, diventa un processo sbagliato più veloce”, afferma Peter Lewis, fondatore e CEO di Strategic Pete, un’agenzia di consulenza di marketing. “Ho visto agenzie lanciarsi nell’IA per la generazione di lead senza un buon sistema per seguirli. I contatti iniziavano ad arrivare, ma le vendite no, perché il team non aveva un buon flusso di lavoro per gestire il carico” Prima di automatizzare qualcosa, verifica i tuoi processi. Chiediti: Questo processo è prezioso ed effettivamente necessario? Quali inefficienze possiamo eliminare? Esiste un modo più intelligente per raggiungere lo stesso obiettivo? Una volta individuato che un processo specifico è necessario e prezioso, puoi decidere di automatizzarlo con l’intelligenza artificiale. 3. Iniziare in piccolo e creare una prova di concetto L’intelligenza artificiale sembra enorme e travolgente per la maggior parte delle agenzie, ma non deve esserlo per forza. Invece di revisionare interi flussi di lavoro, inizia con piccoli progetti pilota a basso rischio. “Le aziende si bloccano perché l’intelligenza artificiale sembra un elefante e temono di non essere in grado di affrontarla”, afferma Artūras. “Ma è possibile adottarla passo dopo passo. Inizia con compiti semplici, ad esempio usando Perplexity AI per le ricerche invece di Google” Il suo consiglio è di concentrarsi su: Vittorie rapide: Individua piccole attività ripetitive che l’intelligenza artificiale può automatizzare. Iterazioni rapide: Costruisci e testa soluzioni semplici senza complicarle troppo. Scalabilità: Una volta che un concetto funziona, scalalo rapidamente per massimizzarne l’impatto. Questo è anche il modo in cui Justin Belmont, fondatore e CEO di Prose ed ex caporedattore di Google, ha implementato l’intelligenza artificiale nella sua agenzia. Ci racconta: “Abbiamo iniziato a testare gli strumenti su progetti interni e a vedere cosa funzionava. Una volta definito il flusso di lavoro, lo abbiamo ampliato per il lavoro dei clienti. Non è stato un lancio in grande stile, ma una serie di piccoli successi” 4. Addestra il tuo team, ma non pensarci troppo Un’altra area chiave per una strategia di implementazione dell’IA di successo è la formazione, ma non è necessario che sia un’iniziativa massiccia e ricca di risorse. “L’allenamento non deve essere perfetto, deve solo accadere”, dice Artūras. Ad esempio, quando voleva che i non ingegneri imparassero a scrivere i prompt, Artūras ha trovato rapidamente le diapositive di Anthropic online, si è esercitato su di esse e poi ha organizzato una rapida sessione di gruppo, registrandola per un uso futuro. “Il lavoro di preparazione mi ha richiesto solo quattro ore. Non ho progettato un intero programma di allenamento, ho semplicemente deciso di farlo”, racconta. Per formare il tuo team in modo efficace: Mantieni le cose semplici: Concentrati su piccole competenze specifiche di cui il tuo team ha bisogno per adottare l’IA in modo efficace. Inizia con i risultati rapidi: Scegli uno strumento o un processo che fornisca un valore immediato, come migliorare la scrittura dei messaggi o automatizzare le attività ripetitive. Itera man mano che procedi: Non è necessario che la formazione sia perfetta fin dall’inizio. Esegui una sessione veloce, raccogli il feedback e perfeziona se necessario. 5. Prepara i tuoi dati L’intelligenza artificiale è buona quanto i dati con cui lavora. Se i tuoi dati sono disordinati, incompleti o sparsi su più piattaforme, anche gli strumenti di IA più avanzati non saranno in grado di fornire informazioni accurate. “La preparazione e la pulizia dei dati sono davvero importanti”, afferma Artūras. “Se consolidi i dati cross-channel e chiedi all’IA di generare dei riepiloghi, ti stupirai di quanto l’IA sia in grado di rilevare tutto” Ecco come garantire che i tuoi dati siano pronti per l’intelligenza artificiale:
Meta vuole che le aziende di tutte le dimensioni utilizzino il suo assistente AI
Meta ha introdotto l’assistente digitale Meta AI , alimentato dall’intelligenza artificiale generativa, nel settembre 2023 su Instagram, Messenger e WhatsApp e, a quanto pare, l’azienda sta sviluppando un’applicazione autonoma. Ora sta lavorando per portare la potenza di Meta AI alle aziende di tutte le dimensioni. Meta AI ha più di 700 milioni di utenti attivi mensili e l’amministratore delegato Mark Zuckerberg ha dichiarato, durante la telefonata per gli utili del quarto trimestre del 2024 a fine gennaio, che prevede di superare il miliardo entro la fine dell’anno. L’azienda ha dichiarato martedì di aver lavorato negli ultimi mesi per creare strumenti abbastanza semplici da consentire anche a un’azienda con un solo dipendente di attivare un assistente AI, guidare le vendite, fornire assistenza, coinvolgere e approfondire le relazioni con i clienti. “Nel prossimo futuro, crediamo che la maggior parte delle aziende avrà un’IA che interagirà con i clienti per loro conto”, ha scritto Meta nella pagina dedicata alle IA aziendali. “Le grandi aziende lo sanno e stanno investendo in software complessi e in team di information technology per lanciare le loro soluzioni di IA. L’obiettivo di Meta è quello di rendere l’IA accessibile a tutte le aziende, indipendentemente dalle dimensioni, proprio come abbiamo fatto per gli annunci pubblicitari” Tra gli aggiornamenti che Clara Shih, vicepresidente di Meta per l’AI aziendale, ha condiviso martedì, l’azienda sta perfezionando l’esperienza di onboarding per consentire alle aziende di iniziare subito a lavorare, aggiungendo un nuovo prompt per le informazioni mancanti in modo che il modello continui a migliorare in tempo reale. Meta sta inoltre testando le IA aziendali sugli annunci di Facebook e Instagram, consentendo agli utenti di accedervi direttamente tramite l’annuncio o un browser in-app, dove possono porre domande su prodotti e servizi e ricevere raccomandazioni personalizzate, il tutto senza lasciare l’app. Infine, l’azienda inizierà presto a testare una funzione vocale per le IA aziendali negli annunci, consentendo agli utenti di scegliere se interagire con l’IA tramite testo o voce. Meta ha dichiarato che le sue IA aziendali vengono addestrate sui contenuti e sul catalogo di prodotti di un’azienda, liberando il team per concentrarsi su lavori di maggior valore, e le aziende hanno il pieno controllo sulle situazioni e sugli argomenti che scelgono di delegare all’IA aziendale, nonché su quelli in cui non vogliono che l’IA sia coinvolta. L’azienda ha sottolineato che gli sviluppatori e le aziende possono accedere alla famiglia di modelli aperti Llama e perfezionare e distribuire le IA basate su di essi; inoltre, sono disponibili strumenti come Llama Guard e Llama Prompt Guard per garantire la sicurezza dei modelli e proteggersi dagli attacchi alla sicurezza. “In futuro, ci aspettiamo che le IA lavorino insieme, definendo nuove ed entusiasmanti esperienze digitali che andranno a beneficio di tutti”, ha concluso Meta. Leggi di più su www.adweek.com
Google lancia la modalità AI per le ricerche in più fasi
Google sta testando una nuova modalità AI per la ricerca, ha dichiarato mercoledì. Il programma sperimentale genera un’intera pagina di risultati basati sull’intelligenza artificiale in risposta alle domande degli utenti. A differenza delle attuali panoramiche AI di Google, che visualizzano una singola risposta generata dall’AI in cima ai risultati di ricerca dell’utente, la Modalità AI è progettata per gestire ricerche più complesse e in più fasi, che altrimenti potrebbero richiedere una serie di ricerche separate. Grazie al modello di AI generativa Gemini 2.0 di Google, lo strumento organizza le informazioni in modo da incoraggiare un’esplorazione più approfondita e domande successive. La funzione è in grado di condurre “più ricerche correlate in contemporanea tra sotto-argomenti e più fonti di dati” e di raccogliere i risultati in un formato semplificato e digeribile, ha spiegato Robby Stein, vp of product di Google Search, in un post sul blog. Questo metodo di ricerca consente una maggiore profondità e ampiezza rispetto a una ricerca più tradizionale, ha spiegato Stein. I risultati possono includere vari link, consigli e suggerimenti per altre considerazioni. Nei casi in cui il modello non abbia un’elevata fiducia nella qualità o nell’utilità di una risposta generata dall’intelligenza artificiale, verranno invece forniti risultati di ricerca web standard. Il lancio fa parte degli sforzi più ampi di Google per integrare l’intelligenza artificiale nei suoi prodotti e allo stesso tempo affrontare la sfida di mantenere il lucroso business della pubblicità di ricerca. Strumenti di ricerca basati sull’intelligenza artificiale come ChatGPT Search e Perplexity sono stati considerati come potenziali minacce al dominio di Google nel settore della ricerca, anche se lunedì l’azienda ha dichiarato di effettuare oltre 5.000 miliardi di ricerche all’anno, suggerendo che i chatbot dell’intelligenza artificiale non hanno avuto un impatto significativo sul comportamento degli utenti. L’AI Mode, tuttavia, rappresenta un cambiamento nel modo in cui Google intende evolvere la ricerca, colmando potenzialmente il divario tra la ricerca tradizionale e l’AI conversazionale. Mercoledì Google ha anche dichiarato che sta lavorando per migliorare le panoramiche AI, che sono state distribuite a oltre un miliardo di utenti. L’azienda ha aggiornato le panoramiche con Gemini 2.0, migliorando le prestazioni in aree come la codifica, la matematica avanzata e le query multimodali. Inoltre, le panoramiche AI sono ora disponibili per gli utenti adolescenti e non richiedono più l’accesso a un account Google. L’AI Mode è ancora in fase iniziale, in quanto Google sta cercando di ottenere un feedback dai tester. Stein ha notato che i primi utenti hanno utilizzato la funzione in modo diverso rispetto alla ricerca tradizionale, scrivendo query più lunghe e ponendo domande di approfondimento con maggiore frequenza. Man mano che l’azienda perfeziona l’AI Mode, prevede di ampliarne le funzionalità, includendo risposte più visive con immagini e video, una formattazione più ricca e ulteriori modalità di accesso ai contenuti web. La Modalità AI è attualmente disponibile per un numero limitato di abbonati a Google One AI Premium negli Stati Uniti attraverso Search Labs, anche se Google non ha fornito una tempistica per un’implementazione più ampia. Leggi di più su www.adweek.com
Alibaba Qwen QwQ-32B: vetrina dell’apprendimento per rinforzo scalato
Il team Qwen di Alibaba ha presentato QwQ-32B, un modello di intelligenza artificiale da 32 miliardi di parametri che ha dimostrato di poter competere con il più grande DeepSeek-R1. Questa scoperta evidenzia il potenziale della scalabilità dell’Apprendimento Rinforzato (RL) su modelli di base robusti. Il team di Qwen ha integrato con successo le capacità degli agenti nel modello di ragionamento, consentendogli di pensare in modo critico, di utilizzare gli strumenti e di adattare il ragionamento in base al feedback ambientale. “La scalabilità dell’RL ha il potenziale per migliorare le prestazioni del modello al di là dei metodi convenzionali di pre-formazione e post-formazione”, ha dichiarato il team. “Studi recenti hanno dimostrato che l’RL può migliorare significativamente le capacità di ragionamento dei modelli” QwQ-32B raggiunge prestazioni paragonabili a quelle di DeepSeek-R1, che vanta 671 miliardi di parametri (con 37 miliardi di parametri attivati), a riprova dell’efficacia dell’RL quando viene applicato a modelli di base robusti e preaddestrati sulla base di un’ampia conoscenza del mondo. Questo notevole risultato sottolinea il potenziale di RL nel colmare il divario tra le dimensioni del modello e le prestazioni. Il modello è stato valutato attraverso una serie di benchmark, tra cui AIME24, LiveCodeBench, LiveBench, IFEval e BFCL, progettati per valutare il ragionamento matematico, la capacità di codifica e le capacità generali di risoluzione dei problemi. I risultati evidenziano le prestazioni di QwQ-32B rispetto ad altri modelli leader, tra cui DeepSeek-R1-Distilled-Qwen-32B, DeepSeek-R1-Distilled-Llama-70B, o1-mini e il DeepSeek-R1 originale. Risultati dei benchmark: AIME24: QwQ-32B ha ottenuto un punteggio di 79,5, leggermente inferiore al 79,8 di DeepSeek-R1-6718, ma nettamente superiore al 63,6 di OpenAl-o1-mini e ai modelli distillati. LiveCodeBench: QwQ-32B ha ottenuto un punteggio di 63,4, anche in questo caso molto vicino al 65,9 di DeepSeek-R1-6718 e superando i modelli distillati e il 53,8 di OpenAl-o1-mini. LiveBench: QwQ-32B ha ottenuto 73,1, mentre DeepSeek-R1-6718 ha ottenuto 71,6, superando i modelli distillati e OpenAl-o1-mini (57,5). IFEval: QwQ-32B ha ottenuto un punteggio di 83,9, molto vicino all’83,3 di DeepSeek-R1-6718, superando i modelli distillati e il 59,1 di OpenAl-o1-mini. BFCL: QwQ-32B ha ottenuto un punteggio di 66,4, mentre DeepSeek-R1-6718 ha ottenuto un punteggio di 62,8, dimostrando un vantaggio rispetto ai modelli distillati e al 49,3 di OpenAl-o1-mini. L’approccio del team di Qwen prevedeva un checkpoint di avvio a freddo e un processo di RL in più fasi guidato da ricompense basate sui risultati. La fase iniziale si è concentrata sulla scalabilità dell’RL per compiti matematici e di codifica, utilizzando verificatori di precisione e server di esecuzione del codice. La seconda fase si è estesa alle capacità generali, incorporando ricompense da modelli di ricompensa generali e verificatori basati su regole. “Abbiamo scoperto che questa fase di addestramento RL con una piccola quantità di passi può aumentare le prestazioni di altre capacità generali, come il seguire le istruzioni, l’allineamento con le preferenze umane e le prestazioni dell’agente, senza un calo significativo delle prestazioni in matematica e codifica”, ha spiegato il team. QwQ-32B è aperto e disponibile su Hugging Face e ModelScope con licenza Apache 2.0 ed è accessibile anche tramite Qwen Chat. Il team di Qwen ritiene che questo sia un primo passo verso la scalabilità dell’RL per migliorare le capacità di ragionamento e intende esplorare ulteriormente l’integrazione degli agenti con l’RL per il ragionamento a lungo termine. “Mentre lavoriamo allo sviluppo della prossima generazione di Qwen, siamo fiduciosi che la combinazione di modelli di base più solidi con l’RL alimentato da risorse computazionali scalabili ci porterà più vicino al raggiungimento dell’Intelligenza Generale Artificiale (AGI)”, ha dichiarato il team. Leggi di più su www.artificialintelligence-news.com
