{"id":27555,"date":"2024-06-11T10:35:28","date_gmt":"2024-06-11T08:35:28","guid":{"rendered":"https:\/\/www.m-q.ch\/?p=19912"},"modified":"2024-11-11T04:23:46","modified_gmt":"2024-11-11T03:23:46","slug":"neue-entwicklungen-in-der-cyberkriminellen-nutzung-von-ki","status":"publish","type":"post","link":"https:\/\/www.organisator.ch\/it\/operational-excellence\/2024-06-11\/neue-entwicklungen-in-der-cyberkriminellen-nutzung-von-ki\/","title":{"rendered":"Nuovi sviluppi nell'uso dell'IA da parte dei criminali informatici"},"content":{"rendered":"
\"L'intelligenza\r\n
Immagine di un hacker generata dall'intelligenza artificiale: \u00e8 ancora innocua rispetto ad altre possibilit\u00e0 utilizzate dai criminali informatici. (Immagine: Pixabay.com)<\/figcaption>\r\n<\/figure>\r\n

L'intelligenza artificiale offre molte opportunit\u00e0 e ha un grande potenziale di utilizzo. Ma c'\u00e8 anche l'altra faccia della medaglia: l'AI pu\u00f2 essere utilizzata anche per scopi criminali. Un'analisi di Trend Micro mostra gli ultimi sviluppi ed evidenzia le minacce che si possono prevedere nel prossimo futuro.<\/p>\r\n

Jailbreaking-as-a-Service<\/strong><\/h3>\r\n

Mentre le tecnologie di intelligenza artificiale si stanno rapidamente affermando nel mondo degli affari, l'anno scorso i tentativi di sviluppare i propri Large Language Model (LLM) per i criminali informatici sono stati in gran parte abbandonati nel mondo della criminalit\u00e0 informatica. I criminali si sono invece concentrati sul \"jailbreak\" dei modelli esistenti, ovvero sull'utilizzo di trucchi speciali per farli aggirare le misure di sicurezza integrate. Esistono ora offerte come Jailbreaking-as-a-Service. I criminali utilizzano tecniche sofisticate per indurre gli LLM a rispondere a richieste che in realt\u00e0 dovrebbero essere bloccate. Queste tecniche vanno da giochi di ruolo e scenari ipotetici all'uso di lingue straniere. I fornitori di servizi come OpenAI o Google stanno lavorando per colmare queste lacune di sicurezza. Gli utenti cybercriminali, a loro volta, devono ricorrere a richieste di jailbreak pi\u00f9 sofisticate. Ci\u00f2 ha creato un mercato per una nuova classe di servizi criminali sotto forma di offerte di chatbot per il jailbreak.<\/p>\r\n

\"I criminali informatici hanno abusato dell'IA molto prima del recente clamore suscitato dall'IA generativa nel settore IT. Per questo motivo ci siamo addentrati nei forum criminali clandestini per scoprire come i criminali informatici stiano effettivamente utilizzando e impiegando l'IA per raggiungere i loro obiettivi e che tipo di servizi criminali alimentati dall'IA vengano offerti\", spiega il team. David Sancho, ricercatore senior sulle minacce di Trend Micro. \"<\/strong>Abbiamo analizzato le conversazioni clandestine sull'IA e abbiamo scoperto che l'interesse per l'IA generativa ha seguito le tendenze generali del mercato, ma l'adozione sembra essere in ritardo. Abbiamo anche visto offerte di LLM da parte di criminali per criminali. Si tratta di FraudGPT, DarkBARD, DarkBERT e DarkGPT, che presentano molte analogie. Per questo motivo, sospettiamo che molto probabilmente funzionino come servizi wrapper per i legittimi ChatGPT o Google BARD - li chiamiamo servizi Jailbreaking-as-a-Service\", ha continuato David Sancho. \"Abbiamo anche indagato su altre offerte di LLM criminali potenzialmente false: WolfGPT, XXXGPT e Evil-GPT. Stiamo anche esaminando i servizi deepfake per i criminali: Abbiamo visto i prezzi e alcuni primi modelli di business intorno a queste immagini e video falsi alimentati dall'intelligenza artificiale\".<\/p>\r\n

Servizi di deepfake in aumento<\/strong><\/h3>\r\n

I deepfake esistono da tempo, ma solo di recente sono state scoperte vere e proprie offerte di criminali informatici. I criminali offrono servizi di deepfake per aggirare i sistemi di verifica dell'identit\u00e0. Questo sta diventando un problema crescente soprattutto nel settore finanziario, poich\u00e9 le banche e le borse di criptovalute richiedono controlli sempre pi\u00f9 severi. I deepfake stanno diventando sempre pi\u00f9 economici e facili da creare. I criminali informatici utilizzano questa tecnologia per creare immagini e video falsi in grado di ingannare anche i sistemi di sicurezza pi\u00f9 avanzati. Spesso basta un documento d'identit\u00e0 rubato per creare un'immagine falsa convincente.<\/p>\r\n

Cosa significa questo per il futuro?<\/strong><\/h3>\r\n

Gli sviluppi dimostrano che i criminali trovano sempre nuovi modi per abusare delle tecnologie AI. Sebbene finora non si siano verificate gravi perturbazioni, \u00e8 solo questione di tempo prima che ci si possa aspettare attacchi pi\u00f9 seri. Le aziende e i privati devono quindi rimanere vigili e migliorare costantemente le loro misure di sicurezza informatica per essere preparati a queste minacce. Tre regole fondamentali dei modelli di business dei criminali informatici saranno decisive per determinare quando gli attori malintenzionati utilizzeranno la GenAI su larga scala:<\/p>\r\n

    \r\n\t
  1. I criminali vogliono una vita facile:<\/strong> L'obiettivo \u00e8 raggiungere un determinato risultato economico con il minor sforzo e il minor rischio possibile.<\/li>\r\n\t
  2. Le nuove tecnologie devono essere migliori degli strumenti esistenti:<\/strong> I criminali adottano nuove tecnologie solo se il ritorno sull'investimento \u00e8 maggiore rispetto ai metodi esistenti.<\/li>\r\n\t
  3. Evoluzione anzich\u00e9 rivoluzione:<\/strong> I criminali preferiscono aggiustamenti graduali piuttosto che revisioni complete, per evitare nuovi fattori di rischio.<\/li>\r\n<\/ol>\r\n

    Conclusione: l'uso dell'IA da parte dei criminali informatici \u00e8 solo agli inizi<\/strong><\/h3>\r\n

    Rimane la necessit\u00e0 di un accesso sicuro, anonimo e non rintracciabile agli LLM. Questo incoragger\u00e0 i servizi di cybercriminalit\u00e0 a continuare a sfruttare nuovi LLM, pi\u00f9 facili da jailbreakare o personalizzati per le loro esigenze specifiche. Attualmente ci sono pi\u00f9 di 6.700 LLM prontamente disponibili sulla piattaforma comunitaria di AI Hugging Face. Si pu\u00f2 anche ipotizzare che sempre pi\u00f9 strumenti criminali vecchi e nuovi integreranno funzioni GenAI. I criminali informatici hanno appena iniziato a scalfire la superficie delle reali possibilit\u00e0 che la GenAI offre loro.<\/p>\r\n

    Trend Micro ha raccolto ulteriori informazioni su questo argomento in un blog:<\/em><\/p>\r\n