Nexsys

Corso AI Security: Proteggere gli LLM e l'Intelligenza Artificiale aziendale

Vai al corso sul sito del providerIscriviti

Il corso

L’adozione dell'IA Generativa ha creato un vuoto di sicurezza critico: le difese perimetrali tradizionali sono inefficaci contro vulnerabilità logiche e semantiche che agiscono direttamente su token e pesi del modello. Non è più una questione di codice, ma di manipolazione del contesto.

Programma e obiettivi

Obiettivi
  • - Mappare la Superficie di Attacco AI: Analizzare tecnicamente perché le difese tradizionali (WAF, Firewall) falliscono contro attacchi semantici come il Jailbreaking e la Prompt Injection
  • - Securing Agentic Workflows: Comprendere e mitigare i rischi specifici degli agenti autonomi, focalizzandosi su vettori di attacco per server MCP e integrazioni di terze parti
  • - Ingegneria della Difesa: Implementare tecniche avanzate di Input/Output filtering e System Prompt Hardening per ridurre drasticamente la probabilità di leak e manipolazioni
  • - Testing & Red Teaming AI: Applicare metodologie di testing strutturate, imparando a utilizzare e valutare i principali AI Testing Frameworks sul mercato
  • - Compliance Strategica: Tradurre i requisiti normativi dell'EU AI Act e del NIST AI RMF in controlli tecnici e documentali (AI-BOM)

Ammissione e iscrizione

Prerequisiti
  • Per trarre il massimo valore dalle 7 ore di formazione, è consigliabile che i partecipanti possiedano i seguenti requisiti:
  • - Conoscenze di base di cybersecurity: Familiarità con i concetti di vulnerabilità, exploit, OWASP Top 10 (standard) e principi di difesa delle infrastrutture IT.
  • - Fondamentali di Programmazione/Scripting: Conoscenza base di Python (molto utile per comprendere le integrazioni LLM e i framework di testing) e capacità di navigare in ambienti a riga di comando (CLI).
  • - Networking e Web Architecture: Comprensione del funzionamento delle chiamate API (REST), dei protocolli HTTP/HTTPS e della gestione dei dati JSON.
  • - Esperienza con strumenti AI: Conoscenza pregressa nell'utilizzo di tool di IA Generativa (es. ChatGPT, Claude) e una comprensione elementare di cosa sia un "Prompt".
  • - Ambiente di lavoro: Per le parti dimostrative, è utile avere familiarità con ambienti Docker o macchine virtuali (specialmente per i moduli su Open WebUI e self-hosting).

Erogazione

Registrazioni

Rivedi le lezioni quando vuoi per 3 mesi.

Risorse

Documenti PDF

Corsi simili