EKOPARTY trainings 2026
PROMPT HACKING: TECNICAS OFENSIVAS Y DEFENSIVAS EN LA ERA DE LA IA
Trainers: Cristian Cardellino
🗣 Español
🕒 Horario: por confirmar
📆 5 y 6 de octubre 2026 (2 días)
📍ON SITE Buenos Aires
Descripción general:
En la era de los modelos de inteligencia artificial generativa, con el despliegue de aplicaciones multiagente construidas sobre modelos de lenguaje masivos (LLMs o Large Language Models), la seguridad de estos sistemas se ha convertido en un tema crítico. El prompt hacking, en sus distintas versiones, consiste de distintas técnicas utilizadas por los atacantes para manipular y engañar a los modelos de lenguaje, lo que puede tener consecuencias graves en la seguridad y la privacidad de los datos. En este curso ahondaremos en qué son y cómo funcionan los LLMs, lo que ayudará a entender por qué son susceptibles de este tipo de ataques. Asimismo, exploraremos distintas técnicas ofensivas y defensivas para tener un conocimiento más integral de cómo pueden prevenirse o mitigarse este tipo de ataques.
Hacé click aquí para ver el temario completo
Público:
Este curso está dedicado a personas que trabajen en desarrollo de aplicaciones que utilicen motores de IA (e.g., ChatGPT, Claude, Gemini), así también como a quienes se dediquen a la seguridad de aplicaciones montadas sobre motores de IA.
Conocimientos:
Los participantes deberán tener conocimientos de Python y manejo de consola es excluyente (i.e., si sólo conocen Windows, deberían saber cómo correr un script Python desde Powershell).
Otros conocimientos útiles, pero no requeridos, son conocimientos básicos de LLMs (i.e., la tecnología por detrás de ChatGPT y similares), Docker, API de OpenAI, y técnicas de Prompting.
Requerimientos Técnicos:
-
-
Python >= 3.11
-
Docker
-
SQLite
-
Ollama (u opcionalmente alguna API key de algún servicio de AI).
-
Laptop idealmente con 16GB de RAM mínimo (32GB recomendable) y 200GB libres de disco.
-
El instructor usará Linux, en teoría el código debería ser compatible con OSX e incluso con Windows, pero no se garantiza su ejecución en dichas plataformas.
-
Objetivos
- Comprender qué son y cómo funcionan los modelos de lenguaje masivos y cómo pueden ser vulnerados.
- Entender las distintas técnicas de prompt hacking y sus efectos en aplicaciones que se construyen sobre motores de IA.
- Analizar los riesgos y consecuencias de los ataques de prompt hacking.
- Desarrollar habilidades para identificar y mitigar ataques prompt hacking.
Temario del Curso
-
Introducción a LLMs
-
¿Qué es un LLM?
-
¿Qué es la tokenización?
-
¿Cómo funciona un LLM?
-
¿Cómo se entrena un LLM?
-
¿Qué es un prompt?
-
Tipos y diferencias de Prompt Hackings
-
¿Qué es prompt injection/hijacking?
-
¿Qué es jailbreaking?
-
Técnicas Ofensivas
-
Prompt Injection
-
Jailbreaking
-
Técnicas Defensivas
-
Hands on Excercise: CTF using Prompt Injection
Inscribiendote a los Ekoparty Trainings tenés de regalo una entrada Legacy para Ekoparty 2026.
Consultas: ¿Tenés alguna duda sobre el training o sobre los planes de pago?
Escribinos a: capacitacion@ekoparty.org
Trainers:
Cristian Cardellino
Desarrollador e investigador en Inteligencia Artificial con más de 12 años de experiencia en el área de Procesamiento de Lenguaje Natural (NLP, por sus siglas en inglés) y Aprendizaje Automático. Posee un Doctorado en Ciencias de la Computación de la Universidad Nacional de Córdoba, donde se especializó en el estudio y la investigación de sistemas de aprendizaje automático supervisado y semi-supervisado (particularmente en Word Embeddings y Deep Learning) para diversas tareas de NLP y ha realizado una estancia de Postdoc en la Université Côte d’Azur en Niza, Francia. En su carrera académica se destacan haber sido docente de la UNC, en la carrera de Licenciatura en Ciencias de la Computación, por 10 años, además de haber sido investigador partícipe en diversos proyectos de la Unión Europea con los que asistió a varias conferencias internacionales. Su trayectoria en la industria incluye haber trabajado como investigador en IA para Mercado Libre y como desarrollador e ingeniero de IA, Aprendizaje Automático y Datos de manera independiente en la plataforma Toptal para diversos clientes. Actualmente se desempeña como investigador y desarrollador AI en la empresa especializada en seguridad de infraestructura IT, Eclypsium.