Aziende, se adottate l’IA dovete anche proteggerla. Come? Ce lo spiega Cisco

L’intelligenza artificiale può anche essere un’arma formidabile nelle mani di un malintenzionato, come dimostra il costante incremento di attacchi che fanno leva proprio sull’IA per colpire più efficacemente le vittime. Non parliamo solo di potenziare tecniche note come phishing o deep fake, ma anche di assistenti virtuali usati per scrivere malware in grado di superare le difese dei bersagli, o per trovare più rapidamente vulnerabilità nelle infrastrutture prese di mira. E c’è di più: anche i sistemi di IA aziendali sono sotto attacco.

Cosa possono fare le imprese ora che le tradizionali soluzioni di sicurezza risultano meno efficaci contro attacchi così sofisticati? A ben vedere, l’unica via di uscita è quella di migliorare i sistemi di difesa con strumenti che integrano l’IA in vari modi. Usandola per correlare automaticamente e in tempo reale centinaia di migliaia di alert dei vari sistemi di sicurezza, e per semplificare l’interazione con i team IT tramite assistenti AI based. A tal proposito, Cisco sta sviluppando nuove soluzioni di cybersecurity in grado di contrastare le emergenti minacce AI powered. Come AI Defence, l’equivalente di un firewall che protegge l’intelligenza artificiale, una soluzione progettata per proteggere sia l’utilizzo sia lo sviluppo dell’IA. Per comprendere perché gli attaccanti prendono di mira anche le infrastrutture aziendali di IA e come queste possono mettere in sicurezza abbiamo intervistato Renzo Ghizzoni, country leader cybersecurity sales di Cisco Italia.

D: Cosa si sta evolvendo lo scenario della cybersecurity?

R: Si continua a evidenziare un trend di costante crescita degli attacchi informatici. Avanzano rapidamente le minacce State Sponsored [quelle provenienti da gruppi affiliati a Governi come Cina, Russia e Nord Corea NdR], anche a causa della situazione geopolitica. I nostri principali clienti sono preoccupati. Mitigano i tentativi di attacco sfruttando la tecnologia, ma la minaccia rimane. C’è da dire che si vedono i risultati degli investimenti fatti sulla cybersecurity, e sebbene ci sia una crescita del numero di incidenti, questa tendenza è minore rispetto al previsto. Al momento, in Cisco non siamo né ottimisti né pessimisti, anche perché siamo in una fase di forte evoluzione: sappiamo che dobbiamo convivere con questi problemi e la maggior parte degli operatori del settore si sta attrezzando per proteggersi meglio. Che è necessario: nei prossimi mesi emergeranno ulteriori minacce AI powered, che sono in costante evoluzione. Noi dobbiamo fare in modo che chi si difende abbia le stesse armi di chi attacca.

D: Cosa si intende per minacce AI Powered?

R: Il phishing e i deep fake sono solo la punta dell’iceberg. Esistono supply chain del malware che stanno utilizzando l’intelligenza artificiale per potenziare la capacità di offesa, dato che gli attaccanti sono industrie con budget importanti da investire. Per esempio, oggi il Ransomsware as a Service [cioè avviare e gestire campagne di ransomware per conto terzi NdR] è AI powered, potenziato dall’IA. L’IA consente anche di fare spear phishing su larghissima scala, così da colpire un maggior numero di bersagli.

Ma ci sono anche altri aspetti da considerare: l’IA può essere vulnerabile e gli attaccanti stanno portando avanti attacchi contro l’IA. Con campagne di DDoS [per bloccare l’accesso all’IA aziendale NdR]; sabotando i modelli di IA per farli rispondere in maniera con congrua tramite tecniche di data poisoning; o, ancora, sfruttando tecniche di prompt injection per esfiltrare dati riservati che teoricamente non dovrebbero venire resi pubblici dai modelli di IA.

D: Cosa devono fare le aziende per proteggersi da queste nuove minacce?

R: L’approccio tradizionale non basta Noi proponiamo un approccio a piattaforma, integrato e potenziato dall’IA. Abbiamo recentemente annunciato AI Defence, un firewall per l’IA. AI Defence funziona in cloud e intercetta i flussi di comunicazione fra l’utente e le applicazioni di intelligenza artificiale. Difende anche l’accesso non autorizzato da parte degli utenti, evitando che qualche impiegato utilizzi in azienda servizi di IA pubblica non consentiti dalle policy interne.

Cisco sta integrando AI Defence su alcune delle sue suite, come Secure Access, che è disponibile anche per le piccole e medie aziende, che difficilmente hanno i budget e le competenze necessarie per soluzioni più complesse e costose. 

Per quanto riguarda le IA private, cioè quelle gestite internamente dalle aziende, bisogna tenere conto del fatto che i modelli privati sono stato oggetto di fine tuning da parte di chi li ha adottati, e potrebbero risultare più deboli sotto il profilo della sicurezza. I modelli di IA, come qualsiasi tipo di applicazione, presentano una serie di vulnerabilità note, che vengono mitigate come si fa con le vulnerabilità tradizionali. Esiste un framework MITRE apposito a disposizione degli esperti di sicurezza.

In Cisco abbiamo sviluppato anche sistemi che identificano comportamenti sospetti nelle infrastrutture complesse, composti da migliaia di macchine, quindi difficili da mettere in sicurezza manualmente. Le applicazioni che stiamo sviluppando sono in grado di andare a capire se ci sono chiamate di sistema potenzialmente malevole e applicare protezioni in tempo reale. Per farlo, serve però un motore di IA che analizzi milioni di eventi intercettando quelli pericolosi. Che opera senza bloccare l’applicazione stessa.

D: Ma perché un malintenzionato è interessato a violare sistema di IA aziendale?

R: Pensa a un chatbot IA utilizzato da un ospedale e addestrato con uno specifico modello. Se il modello venisse manipolato, l’assistente potrebbe dare risposte non deterministiche, sbagliate insomma, oppure non etiche. Ma esistono anche tecniche per esfiltrare informazioni sensibili da questi modelli, come segreti industriali o dati personali. La nostra soluzione agisce a livello di runtime: intercetta le richieste all’IA e blocca quelle potenzialmente dannose.

D: Le soluzioni che proponete sono adatte anche alle Pmi?

R: Cisco sta integrando AI Defence su alcune delle sue suite, come Secure Access, che è disponibile anche per le piccole e medie aziende. È chiaro che sarà sempre più necessario un approccio attivo, gestito da parte di operatori terzi specializzati in sicurezza: questa è un’opportunità molto interessante per i Managed service provider.  Un prodotto che sta dando ottimi risultati è la nostra soluzione Xdr, apprezzata soprattutto dagli Msp: è in grado di fare correlazioni sui log dei sistemi potenziate dell’intelligenza artificiale. È stata progettata per le realtà di medie dimensioni.

D: Cosa ne pensi dell’AI Act Europeo e delle norme sulla cybersecurity come Dora e Nis 2?

R: Il problema dell’iperregolamentazione è reale. Mettersi a norma con Nis 2 e Dora può essere complesso. Ma queste normative sono molto importanti e danno un forte contributo, in particolare perché aiutano ad aumentare la consapevolezza sul tema della sicurezza informatica. Per quanto riguarda AI Act, secondo me ha un approccio sensato: serve per far comprendere a tutti, a livello aziendale, dei rischi associati all’uso dell’intelligenza artificiale. Sono favorevole a questo tipo di regole che, come mi confermano anche alcuni clienti, stanno danno un importante contributo a migliorare la consapevolezza e la postura di sicurezza.

AI Defence: così Cisco protegge l’IA tramite… l’IA

Cisco ha recentemente presentato AI Defence, una soluzione che mira a proteggere sia l’accesso alle applicazioni di IA sia la loro creazione ed esecuzione. L’uso di applicazioni di intelligenza artificiale di terze parti può aumentare notevolmente la produttività, ma comporta rischi come la perdita di dati o il download di contenuti dannosi. AI Defence garantisce visibilità completa sull’utilizzo di queste app, applicando policy per un accesso sicuro e protetto, grazie all’integrazione con Cisco Secure Access. È progettato per rilevare l’impronta dell’IA, convalidare i modelli per individuare eventuali vulnerabilità e applicare le necessarie protezioni in tempo reale su cloud pubblici e privati.

La soluzione di Cisco si basa su due innovazioni fondamentali: la convalida continua dell’IA e la protezione su larga scala. Garantire che i modelli di IA siano idonei allo scopo e privi di vulnerabilità, comportamenti imprevisti e contaminazione dei dati è cruciale. Solitamente, per le applicazioni tradizionali si utilizza un “red team” di esperti che cercano di violare l’applicazione per scoprirne le falle. Tuttavia, questo metodo non è applicabile ai modelli di IA, che presentano dinamiche più complesse e difficili da prevedere.

Per far fronte a queste sfide, Cisco ha acquisito lo scorso anno Robust Intelligence, realtà che ha sviluppato quella che viene considerata la prima soluzione di red teaming algoritmico al mondo. L’AI Algorithmic Red Team di Cisco invia varianti di prompt a un modello per ottenere risposte che non dovrebbe generare. Questo processo, che richiederebbe settimane a un team di migliaia di persone, Cisco riesce a completare in pochi secondi. Una volta identificate le vulnerabilità, AI Defence suggerisce le protezioni da applicare in modo continuo. Ogni volta che il modello viene aggiornato o emerge una nuova minaccia, viene riconvalidato e vengono implementate misure aggiornate per garantirne la sicurezza.

Grazie all’approccio basato su piattaforma, Cisco è in grado di proteggere l’IA su larga scala in modo unico. Integrando la sicurezza tradizionale direttamente nella rete, l’azienda fornisce migliaia di punti di controllo distribuiti, ovunque sia necessario, vicino agli utenti e ai carichi di lavoro. Questi punti possono trovarsi in un’applicazione nel cloud pubblico, su un’infrastruttura privata, su un server, uno switch o sull’Edge Computing. Un elemento chiave di AI Defence è l’assenza totale di attriti per gli sviluppatori, poiché non richiede agenti, librerie aggiuntive o altri strumenti che potrebbero rallentare lo sviluppo. Questo garantisce velocità di sviluppo e innovazione continua.

(Ripubblicazione dell’articolo del 14 aprile 2025)