Ciberseguretat en IA Generativa i Agents Autònoms Nivell 1: Fonaments i riscos - Online (Zoom)

Entén els riscos reals de la IA generativa i els agents autònoms, i fes-te amb les eines pràctiques per utilitzar-los de forma segura i responsable en el teu dia a dia.

Objectius

- Comprendre els conceptes fonamentals de la IA generativa i els Agents Autònoms, així com els riscos més comuns associats al seu ús.
- Reconèixer vulnerabilitats habituals: fuites de dades, manipulació d'entrades o comportaments no desitjats.
- Aplicar bones pràctiques de seguretat i ús responsable en sistemes amb IA.
- Avaluar de forma bàsica la seguretat d'un chatbot o agent i proposar millores.

Temari

• Fonaments d'IA generativa i Agents Autònoms

- IA generativa i agents autònoms
- Funcionament conceptual: models, instruccions, context i accions

• Riscos bàsics

- Exfiltració de dades
- Al·lucinacions i fiabilitat
- Exposició de prompts
- Manca de supervisió dels agents

• Riscos tècnics i operatius

- Prompt Injection bàsica
- Accions no autoritzades i desviació d'objectius
- Riscos en integracions (Slack, Teams, apps)
- Errors comuns en el desplegament

• Bones pràctiques

- Principis de seguretat en IA generativa
- Protecció de prompts, entrades i dades sensibles
- Gestió segura dels accessos als models

• Avaluació pràctica de riscos

- Anàlisi d'un xatbot corporatiu
- Riscos potencials d'un agent bàsic
- Checklist per a una implantació segura

• Modalitat: Zoom
• Durada: 2 sessions (6h)
• Idioma: Català
• Dates: Del 20/07/2026 al 21/07/2026