Agenti IA: la minaccia interna sottovalutata

Quando le aziende parlano di identità digitali, ormai da tempo non si riferiscono più solo ai propri dipendenti umani, ai loro account aziendali, alle piattaforme di automazione e ai bot. Infatti, poco meno di due anni fa si è aggiunto un nuovo tipo di identità digitale, completamente diverso: gli agenti di intelligenza artificiale. A differenza delle identità automatizzate tradizionali, gli agenti di intelligenza artificiale non seguono una sequenza rigida di comandi. Operano in modo indipendente e autonomo. Sono in grado di pianificare, selezionare strumenti, richiamare API, generare codice e persino delegare compiti.

Potenziale di danno considerevole – quasi del tutto ignorato

L'ampia gamma delle loro possibilità di impiego, la loro autonomia e i loro diritti di accesso, spesso molto estesi, rendono gli agenti di IA una fonte di rischio con un notevole potenziale di danno. Si tratta di un rischio per la sicurezza di cui la maggior parte delle aziende sta appena iniziando a comprendere la reale portata. Secondo uno studio della Cloud Security Alliance, attualmente nell’82% di tutte le aziende vengono utilizzati agenti di IA di cui i relativi team di sicurezza informatica ignorano l’esistenza. Solo il 32% di tutte le aziende, secondo un recente studio di Cyberark, ha implementato controlli per la gestione dei rischi legati all’intelligenza artificiale. E solo il 28%, secondo uno studio di Keyfactor, ritiene di poter impedire che un agente di intelligenza artificiale causi danni nel proprio ecosistema.

Non c’è da stupirsi che quasi due terzi di tutte le aziende intervistate abbiano subito, lo scorso anno, almeno un incidente di sicurezza legato agli agenti di intelligenza artificiale. Le conseguenze sono state in alcuni casi significative: il 61% degli incidenti ha causato fughe di dati, il 43% interruzioni operative e il 35% addirittura perdite finanziarie.

I nuovi vettori di attacco si stanno diffondendo rapidamente

Una delle cause principali di questi incidenti di sicurezza è la compromissione degli agenti di IA da parte degli aggressori. A livello mondiale, tecniche quali il prompt injection, il goal hijacking, l’escalation dei privilegi e il memory poisoning si sono rapidamente affermate come vettori di attacco molto diffusi. Per la sicurezza informatica di un’azienda è difficile individuare e respingere tempestivamente tali attacchi. L’autore dell’attacco non ha bisogno di rubare credenziali di accesso. È sufficiente che riesca a manipolare gli input che assegnano i compiti all’agente di IA, ad esempio tramite e-mail, ticket di assistenza o siti web appositamente manomessi.

A complicare ulteriormente la situazione c’è il fatto che le chiavi API degli agenti IA sono per lo più a durata illimitata, le loro autorizzazioni di accesso sono di gran lunga troppo ampie e il loro monitoraggio è, di norma, insufficiente. Gli agenti IA offrono quindi le condizioni ideali per diventare la prossima minaccia interna.

La trasparenza come primo passo verso la sicurezza

Per gestire con successo questo rischio, le aziende devono innanzitutto fare una cosa: garantire la trasparenza. A tal fine, è assolutamente necessario effettuare un inventario di tutti gli agenti di IA utilizzati nell’ecosistema IT. Successivamente, il principio Zero Trust deve essere applicato in modo coerente a tutti gli agenti di IA. Un agente addetto alla gestione dei ticket non deve avere accesso ai database riservati dei clienti. Inoltre, i diritti di accesso permanenti dovrebbero essere sostituiti da quelli temporanei.

Per individuare il prima possibile attività insolite legate all’IA, i team di sicurezza dovrebbero passare dalla verifica dell’identità di un agente al monitoraggio del suo comportamento. Sul mercato sono già disponibili soluzioni adeguate – come ad esempio Agent Risk Manager – in grado di supportare efficacemente i team di sicurezza informatica nell’adozione di misure volte a ridurre al minimo i rischi legati ai propri agenti di IA.

I responsabili della sicurezza informatica devono rendersi conto che gli agenti di intelligenza artificiale sono ormai da tempo parte integrante della forza lavoro digitale della loro azienda. Devono essere protetti in modo diverso rispetto alle identità umane e a quelle delle macchine. Possono essere facilmente manipolati e trasformati in una minaccia interna. È necessario proteggersi da questo rischio, adottando politiche adeguate e una sicurezza completa della forza lavoro digitale che contribuisca a proteggere tutte le componenti della nuova forza lavoro digitale.

Ulteriori informazioni: www.knowbe4.com

Questo articolo è apparso originariamente su m-q.ch - https://www.m-q.ch/de/ki-agenten-die-unterschaetzte-insider-bedrohung/