Scenari

Cybersecurity e AI, verso una nuova frontiera della sicurezza

L’utilizzo dell’Intelligenza Artificiale, e in particolare di quella generativa, si sta rivelando molto efficace per elevare la protezione delle imprese dalle minacce degli attacchi informatici. Ma accanto a tante luci permangono alcune ombre, che è necessario conoscere

Pubblicato il 08 Dic 2023

Federica Maria Rita Livelli

BC & Risk Management Consultant, Business Continuity & Risk Management Consultant, BCI Italy Chapter Leader/BCI SIG Cyber Resilience Committee Member, Training Center Director – BeDisruptive

Nel contesto in continua evoluzione dell’Intelligenza artificiale (AI), sia i team di sicurezza informatica che gli hacker sfruttano questa tecnologia a proprio vantaggio, in una competizione continua. Per questo, è di fondamentale importanza comprendere appieno le diverse implicazioni che l’AI comporta, al fine di affrontare in modo completo e olistico le sfide ad essa correlate.

Cybersecurity e AI: luci ed ombre

Con la crescente adozione delle tecnologie di IA Generativa ci stiamo dirigendo verso un’epoca in cui le misure di sicurezza devono essere altrettanto dinamiche, intelligenti e adattabili delle tecnologie stesse che intendono proteggere.

WHITEPAPER
Come comunicare al CEO la necessità di investire (di più) in sicurezza
Cybersecurity
Security Risk Management

Secondo un recente rapporto di ricerca della società Acumen Research & Consulting, l’uso congiunto di soluzioni di Cybersecurity e AI sul mercato globale ha creato un mercato che valeva 15 miliardi di dollari nel 2021 e aumenterà fino a circa 135 miliardi di dollari entro il 2030.

Artificial Intelligence (AI) in Cybersecurity Market size accounted for USD 14.9 Billion in 2021 and is estimated to reach the market value of USD 133.8 Billion by 2030.

Di fatto, l’IA è destinata a diventare sempre più un elemento chiave nel ridurre i rischi per gli utenti e aumentare la consapevolezza della sicurezza all’interno delle organizzazioni. Tuttavia, essa presenta luci ed ombre, che evidenziamo di seguito.

Punti di forza dell’AI per la Security

L’AI potenzia e affianca strumenti tradizionali come la protezione antivirus, la prevenzione della perdita di dati, rilevamento di frodi, gestione di identità e accessi, rilevamento di intrusioni, gestione dei rischi e altre aree fondamentali di sicurezza. In particolare, l’IA si rivela un alleato prezioso che può analizzare enormi quantità di dati e trovare modelli. Il vantaggio è quello di prevenire le violazioni, agire prima che si verifichino e, in questo modo, garantire una salvaguardia dei dati di individui e aziende, oltre a ridurre i costi IT. Vediamo i compiti specifici in cui si rivela particolarmente adatta.

  • Rilevazione degli attacchi in modo più accurato rispetto agli esseri umani, in modo da generare meno risultati falsi positivi e dare priorità alle risposte in base ai reali rischi.
  • Identificazione e segnalazione di e-mail e di messaggi sospetti spesso utilizzati nelle campagne di phishing.
  • Simulazione di attacchi di ingegneria sociale (truffe che ingannano gli esseri umani), che aiutano i team di sicurezza a individuare potenziali vulnerabilità prima che i criminali informatici le sfruttino.
  • Analisi di enormi quantità di dati relativi agli incidenti, in modo che i team di sicurezza possano agire rapidamente per contenere la minaccia.
  • Analisi predittiva attraverso la disamina di dati storici e le tendenze attuali. Di fatto, l’IA può prevedere potenziali vettori di attacco e vulnerabilità che i criminali informatici potrebbero sfruttare in futuro, consentendo alle organizzazioni di dare priorità alle misure di sicurezza e allocare le risorse in modo efficace, riducendo le possibilità di successo degli attacchi informatici.
  • Rilevamento malware, che rimane una minaccia persistente e che si evolve continuamente per eludere i tradizionali software antivirus. I sistemi di analisi del malware basati IA utilizzano tecniche sofisticate come analisi comportamentale, euristica e sandboxing per individuare e isolare il codice dannoso, aiutando le organizzazioni a rimanere un passo avanti rispetto ai criminali informatici.
  • Riparazione automatica, sfruttando il potenziale dell’IA di automatizzare le risposte agli incidenti di sicurezza, riducendo significativamente i tempi di contenimento e mitigazione. Attraverso strumenti di orchestrazione e automazione basati sull’IA, i team di sicurezza possono affrontare automaticamente i problemi di sicurezza più comuni. Ad esempio, se l’intelligenza artificiale identifica una porta di rete vulnerabile, può chiuderla tempestivamente o, se rileva un dispositivo compromesso, può isolarlo, il tutto bloccando gli indirizzi IP dannosi. Ciò non solo migliora i tempi di risposta, ma riduce anche al minimo il rischio di errore umano.
  • CloudSecOps e DevSecOps proattivi a fronte dell’aumento dell’adozione di cloud computing e di pratiche DevOps da parte delle organizzazioni. Gli strumenti CloudSecOps e DevSecOps basati sull’IA integrano la sicurezza nei processi di sviluppo e distribuzione del software e gestione del cloud, identificando le vulnerabilità nelle prime fasi.
  • Zero Trust Architecture (ZTA), che opera secondo il principio “non fidarsi mai, verificare sempre” e utilizza l’IA per monitorare e analizzare continuamente il comportamento degli utenti, i dispositivi e il traffico di rete per garantire l’affidabilità. Quando viene rilevata un’attività insolita o sospetta, l’IA può limitare l’accesso fino a quando non viene ristabilita la fiducia.

Punti di debolezza dell’AI per la Security

Sfortunatamente, i criminali informatici sono implacabili e pieni di risorse e possono utilizzare l’IA a proprio vantaggio. Vediamo di seguito alcuni esempi.

  • Schemi di social engineering – Si tratta di schemi che si basano sulla manipolazione psicologica per indurre le persone a rivelare informazioni sensibili o a commettere altre azioni che compromettono la sicurezza. Includono un’ampia gamma di categorie di attività fraudolente, tra cui phishing, vishing e truffe che creano accesso alla posta elettronica aziendale. L’IA consente ai criminali informatici di automatizzare molti dei processi utilizzati negli attacchi di social engineering, nonché di creare messaggi più personalizzati, sofisticati ed efficaci per ingannare le vittime ignare. Ciò significa che i criminali informatici possono generare un volume maggiore di attacchi in meno tempo e riscontrare un tasso di successo più elevato.
  • Hacking delle password – I criminali informatici sfruttano l’IA per migliorare gli algoritmi che utilizzano per decifrare le password in modo più rapido e accurato, consentendo agli hacker di diventare più efficienti e redditizi. Ciò potrebbe portare a un’enfasi ancora maggiore sull’hacking delle password da parte dei criminali informatici.
  • Deepfake – Questa tecnica sfrutta la capacità dell’IA di manipolare facilmente contenuti visivi o audio e farli sembrare veri, ad esempio per impersonare un altro individuo. Ne consegue che i contenuti manipolati possono essere ampiamente distribuiti online in pochi secondi, anche su influenti piattaforme di social media, per generare stress, paura o confusione. Inoltre, i criminali informatici possono utilizzare i deepfake insieme all’ingegneria sociale, all’estorsione e ad altri tipi di schemi.
  • Data Poisoning – Gli hacker “avvelenano” o alterano i dati di addestramento utilizzati da un algoritmo di AI per influenzare le decisioni. Se l’algoritmo viene alimentato con informazioni ingannevoli, genera un input errato che porta a un output non attendibile. Inoltre, il data poisoning può essere difficile da rilevare in tempi brevi e, di conseguenza, generare danni gravi.

I limiti dell’AI: le cose da sapere

Se, come visto, l’intelligenza artificiale è una risorsa preziosa per aumentare la sicurezza informatica, presenta limiti che dovrebbero essere attentamente considerati, come la dipendenza dai dati, i falsi allarmi e la mancanza di trasparenza. Vediamo in dettaglio.

  • Dati – Per rimanere efficace, l’AI richiede enormi quantità di dati e formazione continua. La disponibilità limitata di dati limitati o la loro obsolescenza la rendono meno affidabile in un contesto in cui le minacce sono in rapida evoluzione.
  • Falsi allarmi – L’IA a volte può produrre falsi allarmi, impegnando i team di sicurezza con un volume elevato di avvisi. Ciò rischia di  generare un abbassamento dell’allerta, in cui le minacce reali possono essere trascurate.

Implicazioni etiche e legali

Le implicazioni etiche e legali dell’utilizzo dell’IA nella cybersecurity sono complesse e sfaccettate, in particolare per quanto riguarda lo sviluppo e l’implementazione di algoritmi di AI. Vediamone alcune.

  • Distorsione degli algoritmi – Una delle principali preoccupazioni è la potenziale distorsione degli algoritmi di AI dovuta a dati di addestramento non rappresentativi o incompleti, che possono portare a risultati discriminatori. Ciò può essere particolarmente problematico nel contesto della cybersecurity, dove il rilevamento e la prevenzione delle minacce informatiche richiedono un’analisi imparziale e accurata dei dati.
  • Trasparenza – La trasparenza è un altro fattore critico: con i modelli di IA può risultare difficile comprendere come vengono prese le decisioni, il che può portare a sfiducia nel sistema e ostacolare la capacità di identificare e mitigare efficacemente le minacce informatiche. Per affrontare questo problema, i ricercatori stanno esplorando metodi per migliorare l’interpretabilità e la trasparenza degli algoritmi di intelligenza artificiale, ad esempio utilizzando tecniche di Explanable Artificial Intelligence (XAI) per rendere il processo decisionale più trasparente.
  • Implicazioni legali – L’uso di algoritmi di IA può sollevare problemi legati alla protezione dei dati e alla privacy, in particolare nei casi in cui vengono analizzate informazioni sensibili. Di fatto, le organizzazioni europee devono rispettare il Regolamento generale sulla protezione dei dati (GDPR).
  • Responsabilità – L’uso dell’IA nella cybersecurity può anche sollevare questioni di responsabilità. Ovvero, se un sistema di IA non riesce a identificare una minaccia informatica o identifica erroneamente un utente legittimo come una minaccia, diventa difficile individuare chi dovrebbe essere ritenuto responsabile per eventuali danni. Si evidenzia dunque la necessità di normative e linee guida chiare per disciplinare l’uso dell’IA nella cybersecurity, per garantire che le organizzazioni utilizzino queste tecnologie in modo etico e responsabile.

Conclusioni

L’integrazione di strumenti di Cybersecurity e AI rappresenta un punto di svolta cruciale, poiché offre livelli di efficienza senza precedenti, soprattutto considerando la diffusione sempre maggiore dell’IA Generativa. Le implicazioni sono estremamente significative.

Le organizzazioni devono adottare una strategia completa di cybersecurity per raggiungere la cyber resilience, combinando l’efficacia dell’IA con le competenze umane, la formazione continua e i meccanismi di difesa adattivi. Ovvero, devono attuare una strategia scaturita dall’intersezione dei principi di Risk management, business continuity e cybersecurity per conformarsi alle normative dell’Unione Europea che sempre più si basano su un approccio risk-based e resilience-based.

Come visto, lo sviluppo e l’implementazione di algoritmi di IA nella cybersecurity presentano sfide complesse dal punto di vista etico e legale, che richiedono un’attenta considerazione e un cambiamento di paradigma a livello sia tecnologico sia organizzativo. Inoltre, la sicurezza non può più essere considerata un aspetto secondario, ma deve essere incorporata nel tessuto stesso dei sistemi di IA e dei processi aziendali. Solo attraverso la vigilanza, il coordinamento e un adattamento proattivo possiamo sfruttare appieno il potenziale dell’IA, in particolare dell’IA Generativa, per migliorare le capacità umane e allo stesso tempo sviluppare misure di salvaguardia per prevenirne l’uso improprio.

Si tratta di guidare questa trasformazione con saggezza e responsabilità per costruire un futuro basato sull’IA che ponga al centro la sicurezza, l’etica e gli interessi umani. Pertanto, auspichiamo che ricercatori, politici e professionisti lavorino sempre più sinergicamente per sviluppare quadri e standard etici che promuovano la trasparenza, l’equità e la responsabilità negli algoritmi di IA. Solo in questo modo potremo realizzare appieno il potenziale dell’IA nella cybersecurity, tutelandoci al tempo stesso da potenziali conseguenze negative. Concludendo, adelante con juicio.

@RIPRODUZIONE RISERVATA

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Federica Maria Rita Livelli
BC & Risk Management Consultant, Business Continuity & Risk Management Consultant, BCI Italy Chapter Leader/BCI SIG Cyber Resilience Committee Member, Training Center Director – BeDisruptive

Con una certificazione in Business Continuity - AMBCI BCI, UK e CBCP DRI, USA, Risk Management FERMA Rimap, è consulente di Business Continuity & Risk Management e svolge attività di diffusione e sviluppo della cultura della resilienza in diverse istituzioni e università.

Articolo 1 di 4