Penetration Testing di IA e LLM

Tecniche di attacco IA che testiamo

Riproduciamo le tecniche viste in incidenti reali del 2025–26 contro i tuoi modelli, agents e pipeline RAG — non uno scan da checklist.

Prompt injection diretto e indiretto — Sovrascrivere le istruzioni tramite l'input dell'utente o tramite contenuto avvelenato che il modello recupera da documenti, strumenti o fonti RAG.

Jailbreak e bypass dei guardrail — Tecniche di role-play, encoding e multi-turno che sconfiggono i filtri di sicurezza e i vincoli del system prompt.

Esfiltrazione di system prompt e dati di training — Estrarre istruzioni nascoste, segreti e dati memorizzati dalle risposte e da canali laterali.

Denial-of-service del modello — Prompt di esaurimento risorse e amplificazione dei costi che degradano la disponibilità o gonfiano la bolletta di inferenza.

Gestione insicura dell'output e abuso degli strumenti — Concatenare l'output del modello in XSS, SSRF o esecuzione di codice in sistemi downstream e integrazioni di plugin.

Excessive agency e avvelenamento del RAG — Abusare di agents con permessi eccessivi e knowledge base avvelenate per innescare azioni non intenzionali e ad alto impatto.

Pentest tradizionale vs pentest di IA

Il pentest tradizionale e il pentest di IA condividono il metodo avversariale, ma divergono per obiettivo, classi di falla e criterio di successo. La tabella seguente riassume le differenze che cambiano il modo di pianificare, eseguire e ripetere il test.

Pentest manuale vs AI red teaming automatizzato

Gli strumenti automatizzati scalano la copertura di pattern noti; il test manuale trova le falle di logica di business e concatenate che contano. Berghem combina entrambi, guidato da persone.

Come il pentest IA supporta la governance dell'IA

I risultati sono mappati sui framework che i tuoi auditor e regolatori si aspettano, così un pentest funge anche da evidenza per il tuo programma di governance dell'IA.

EU AI Act — Evidenza di test avversariale e gestione del rischio per i sistemi di IA ad alto rischio immessi sul mercato UE — supportato in Europa tramite Berilo.

ISO/IEC 42001 — Controlli dimostrabili per il sistema di gestione dell'IA, inclusi test, monitoraggio e miglioramento continuo dei rischi IA.

NIST AI RMF — Copertura delle funzioni Measure e Manage con evidenza concreta e comprovata da exploit dei rischi IA e delle relative mitigazioni.

Pentest di IA vs Red Team per l'IA

Il pentest di IA punta all'ampiezza: copertura sistematica e riproducibile delle dieci categorie dell'OWASP LLM Top 10 sull'intera superficie del sistema, con un elenco prioritizzato di vulnerabilità. Il Red Team per l'IA punta alla profondità: una campagna avversariale orientata a un obiettivo di business, che concatena le falle fino all'impatto finale e misura se la difesa rileva e risponde all'attacco.

I due si completano a vicenda — usa il pentest per mappare dove sei vulnerabile e il Red Team per l'IA per validare che i tuoi controlli di rilevamento e risposta tengano sotto un attacco reale e concatenato.

Pentest con l'IA: Berghem Agents

Berghem applica l'intelligenza artificiale anche al proprio processo offensivo, combinando operatori umani con agenti autonomi di sicurezza.

I Berghem Agents automatizzano ricognizione, generazione e mutazione dei payload e triage dei risultati per ampliare la copertura del pentest — sempre sotto la supervisione di specialisti umani, che validano ogni vulnerabilità e scartano i falsi positivi. Così esercitiamo più varianti di attacco in meno tempo, senza rinunciare alla proof of concept riproducibile e al piano di remediation prioritizzato che definiscono un pentest di IA Berghem.