Man mano che l’IA diventa sempre più parte integrante delle operazioni aziendali, emergono nuovi problemi di sicurezza e minacce alla sicurezza a un ritmo senza precedenti, che superano le capacità delle soluzioni di cybersecurity tradizionali.
La posta in gioco è alta e le ripercussioni potenzialmente significative. Secondo il 2024 AI Readiness Index di Cisco, solo il 29% delle organizzazioni intervistate si sente pienamente equipaggiato per rilevare e prevenire manomissioni non autorizzate delle tecnologie AI.
Convalida continua dei modelli
DJ Sampath, Head of AI Software & Platform di Cisco, ha dichiarato: “Quando parliamo di convalida del modello, non si tratta di una cosa una tantum, giusto? La convalida del modello avviene su base continua.
quindi, man mano che si verificano cambiamenti nel modello – se si sta effettuando un qualsiasi tipo di messa a punto, o si scoprono nuovi attacchi che iniziano a manifestarsi e da cui i modelli devono imparare – stiamo costantemente apprendendo tutte queste informazioni e riconvalidando il modello per vedere come si comportano i modelli in caso di nuovi attacchi che abbiamo scoperto”.
“L’altro punto molto importante è che disponiamo di un team di ricerca sulle minacce davvero avanzato che esamina costantemente questi attacchi dell’intelligenza artificiale e capisce come questi attacchi possano essere ulteriormente migliorati. Infatti, stiamo contribuendo ai gruppi di lavoro all’interno di organizzazioni standard come MITRE, OWASP e NIST”
Oltre a prevenire gli output dannosi, Cisco affronta le vulnerabilità dei modelli di intelligenza artificiale alle influenze esterne dannose che possono modificarne il comportamento. Questi rischi includono gli attacchi di tipo prompt injection, il jailbreak e l’avvelenamento dei dati di formazione, ognuno dei quali richiede misure preventive rigorose.
L’evoluzione porta nuove complessità
Frank Dickson, Group VP for Security & Trust di IDC, ha espresso la sua opinione sull’evoluzione della cybersecurity nel tempo e su cosa significhino i progressi dell’IA per il settore.
“La prima tendenza macro è stata il passaggio dall’on-premise al cloud, che ha introdotto una serie di nuovi problemi da affrontare. Poi, con il passaggio dalle applicazioni monolitiche ai microservizi, abbiamo assistito a una serie di nuovi problemi.
“L’intelligenza artificiale e l’aggiunta dei LLM… la stessa cosa, una serie di nuovi problemi”
Le complessità della sicurezza dell’IA aumentano quando le applicazioni diventano multi-modello. Le vulnerabilità possono sorgere a vari livelli, dai modelli alle applicazioni, coinvolgendo diverse parti interessate come sviluppatori, utenti finali e fornitori.
“Una volta che un’applicazione si spostava dall’on-premise al cloud, in un certo senso rimaneva lì. Sì, abbiamo sviluppato applicazioni su più cloud, ma una volta che hai messo un’applicazione su AWS, Azure o GCP, non l’hai spostata da un ambiente all’altro con cadenza mensile, trimestrale o settimanale, giusto?
“Una volta che si passa dallo sviluppo di applicazioni monolitiche ai microservizi, si rimane lì. Una volta che metti un’applicazione in Kubernetes, non salti di nuovo in un altro ambiente.
“Quando cerchi di assicurarti un LLM, la cosa importante da notare è che il modello cambia. E quando parliamo di cambiamento di modello, non si tratta di una revisione… questa settimana forse [gli sviluppatori] usano Anthropic, la prossima settimana potrebbero usare Gemini.
“Sono completamente diversi e i vettori di minaccia di ciascun modello sono completamente diversi. Tutti hanno i loro punti di forza e tutti hanno le loro drammatiche debolezze”
A differenza delle misure di sicurezza convenzionali integrate nei singoli modelli, Cisco offre controlli per un ambiente multi-modello attraverso la sua nuova AI Defense. La soluzione si auto-ottimizza, utilizzando gli algoritmi di machine learning proprietari di Cisco per identificare i problemi di sicurezza e protezione dell’intelligenza artificiale in continua evoluzione, informati dalle informazioni sulle minacce di Cisco Talos.
Adattarsi alla nuova normalità
Jeetu Patel, Executive VP e Chief Product Officer di Cisco, ha condiviso la sua opinione sul fatto che i grandi progressi in un breve periodo di tempo sembrano sempre rivoluzionari, ma in breve tempo diventano normali.
“Waymo è, come dire, l’auto a guida autonoma di Google. Sali, non c’è nessuno seduto nell’auto e ti porta dal punto A al punto B. È una sensazione incredibile, come se vivessimo nel futuro. La seconda volta ci si abitua. La terza volta, inizi a lamentarti dei sedili.
“Anche per la rapidità con cui ci siamo abituati all’intelligenza artificiale e al ChatGPT negli ultimi due anni, penso che qualsiasi progresso importante si sentirà eccezionalmente progressista per un breve periodo di tempo. Poi si verifica una normalizzazione in cui tutti iniziano ad abituarsi”
Patel ritiene che questa normalizzazione avverrà anche con l’AGI. Tuttavia, osserva che “non si possono sottovalutare i progressi che questi modelli stanno iniziando a fare” e, in ultima analisi, il tipo di casi d’uso che riusciranno a sbloccare.
“Nessuno pensava che avremmo avuto uno smartphone con una capacità di calcolo superiore a quella di un computer mainframe a portata di mano e in grado di fare migliaia di cose in qualsiasi momento e ora è solo un altro modo di vivere. Mia figlia di 14 anni non ci pensa nemmeno.
“Dovremmo fare in modo che le aziende si adeguino molto rapidamente a questa situazione”
