"Cuando la IA deja de obedecer: así funcionan los ataques reales."
📅 Fecha
17 de abril de 202617:30 h
📍 Lugar
UMA · E.T.S.I. Informática, Aula 302Boulevard Louis Pasteur 35, Málaga
🎟️ Plazas
176 plazasEn colaboración con la E.T.S.I. Informática
✍️ Inscripción
Inscríbete aquí →Prompt injection, jailbreaks o RAG poisoning no son conceptos del futuro: son vectores de ataque reales en sistemas de IA que ya están en producción.
En esta charla descubrirás cómo un atacante puede manipular agentes de IA para que ignoren sus instrucciones, filtren datos sensibles o ejecuten acciones no autorizadas.
Exploraremos cómo funcionan estos ataques en la práctica, por qué los modelos de amenaza tradicionales ya no son suficientes y qué ocurre cuando el sistema que tienes que proteger "razona" por sí mismo.
También veremos técnicas como el indirect prompt injection o el RAG pull, y qué medidas defensivas existen hoy en día para mitigar estos riesgos.
Durante la sesión
- Entenderás los principales riesgos del OWASP Top 10 para LLMs.
- Verás cómo se explotan vulnerabilidades en sistemas de IA.
- Aprenderás cómo proteger aplicaciones basadas en modelos.
- Descubrirás cómo pensar como atacante en entornos IA.
Si trabajas (o quieres trabajar) con inteligencia artificial, esta charla te dará una visión práctica y realista de la seguridad en estos sistemas, más allá de lo que cuentan los papers.
¿A quién va dirigido?
A alumnado de la UMA y personas interesadas en Ciberseguridad e Inteligencia Artificial.
Si ya tienes una base y quieres avanzar en el mundo de la ciberseguridad, esta charla es para ti.
Ponentes
Raquel Gálvez
Raquel es pentester y especialista en seguridad en la nube, con un enfoque particular en AWS. Se adentró en el mundo de la ciberseguridad de manera profesional hace seis años, después de trabajar un tiempo para lo que había estudiado. Su trayectoria es un gran ejemplo de cómo es posible reorientar la carrera profesional y especializarse en un campo como la ciberseguridad.
Marta Gómez
Marta forma parte del equipo de ingeniería de VirusTotal, una de las plataformas más importantes de threat intelligence. Su trabajo impacta en el día a día de muchísimos ingenieros de ciberseguridad en el mundo, pero también de personas de a pie, haciendo nuestro mundo un lugar más seguro frente a ciberataques. Su trayectoria refleja una combinación de curiosidad, disciplina y pasión por la tecnología.
¿Dónde?
UMA · E.T.S.I. Informática, Aula 302
Blvr. Louis Pasteur, 35, Teatinos-Universidad, 29071 Málaga.
Imparten y colaboran
Yes We Tech
Asociación feminista en tecnología. Trabajamos desde el 2015 en crear un entorno igualitario en entornos de trabajo y estudiantiles y despertar el interés en la tecnología en niñas para romper la brecha de género del sector. Creamos eventos, becas, contenidos...
E.T.S.I Informática
E.T.S.I Informática.
¿Quieres ver cómo fue?
Descubre el resumen completo con todas las fotos de Prompt, hack, control: el lado oscuro de los agentes de IA.
Te contamos cómo fue →