Nexsys

Corso AI Red Teaming: tecniche di attacco su sistemi AI

Vai al corso sul sito del provider

Il corso

I sistemi di intelligenza artificiale stanno ridisegnando il perimetro della sicurezza aziendale. Agenti autonomi, pipeline di recupero delle informazioni, protocolli di orchestrazione e supply chain dei modelli introducono vettori d'attacco che le metodologie tradizionali di red team non sono attrezzate a coprire. Gli avversari lo sanno già — e stanno imparando a sfruttarli.

Programma e obiettivi

Obiettivi
  • - Condurre ricognizione su ambienti AI per identificare asset, dipendenze e servizi esposti, mappando la superficie d'attacco prima di agire
  • - Manipolare agenti AI e architetture multi-agente sfruttando istruzioni di prompt, sistemi di memoria, relazioni di fiducia tra agenti e integrazioni con strumenti esterni
  • - Compromettere pipeline RAG attraverso l'avvelenamento delle fonti di conoscenza e la manipolazione del livello di recupero, fino al controllo degli output del modello
  • - Estrarre dati sensibili dai modelli tramite attacchi sugli embedding e sfruttare il Model Context Protocol per scalare privilegi o eseguire azioni non autorizzate
  • - Individuare e sfruttare vulnerabilità nella supply chain AI e nell'infrastruttura di deployment, inclusi server di modelli, ambienti cloud e workload containerizzati
  • - Costruire modelli di minaccia per ambienti AI complessi e condurre un'esercitazione completa di red team contro uno scenario enterprise realistico

Ammissione e iscrizione

Prerequisiti
  • Per affrontare il corso con successo è necessario:
  • - Aver completato il corso AI Security di Nexsys o possedere una conoscenza equivalente dei fondamenti di sicurezza dei sistemi AI
  • - Conoscenza solida dei principi di cybersecurity (reti, sistemi operativi, gestione delle vulnerabilità)
  • - Familiarità con i concetti base di machine learning e con l'utilizzo pratico di strumenti e API AI (LLM, agenti, prompt engineering)
  • - Esperienza pregressa in ambito offensive security o penetration testing è un vantaggio significativo

Erogazione

Registrazioni

Rivedi le lezioni quando vuoi per 3 mesi.

Risorse

Documenti PDF

Domande frequenti del provider

faq

Corso AI Red Teaming

Corsi simili