September 2025 Kick-off AI Security Guardians Meetup

Kick-off AI Security Guardianes Dutch Capítulo Meetup

18:00 Walk-in con bebidas y comida
18:30 ** Sesión 1 ** Introducción y presentación inaugural sobre la publicación de investigación "Árbol de ataques - Jailbreaking Black Box LLMS con equipo rojo algorítmico". Por Amin Karbasi - Fundación Senior Director AI.
19:00 Break y conocerse
19:15 ** Sesión 2 ** Asegurar el futuro: comunicación descentralizada de agente a agente. Por Raahul Dutta - Fundador Pebbing.ai
20:00 Investigue temas de los que nos gustaría hablar
20:30 Cierre

Ubicación: Haarlebergweg 17, Amsterdam

"Árbol de ataques - Jailbreaking Black Box LLMS con equipo rojo algorítmico".
Mientras que los modelos de idiomas grandes (LLM) muestran funcionalidad versátil, continúan generando contenido dañino, sesgado y tóxico, como lo demuestra la prevalencia de jailbreaks diseñados por humanos. En este trabajo, presentamos el árbol de ataques con poda (TAP), un método automatizado para generar jailbreaks que solo requiere acceso a la caja negra al Target LLM. TAP utiliza un atacante LLM para refinar iterativamente el candidato (ataque) indica hasta que uno de los indicadores refinados encadena el objetivo. Además, antes de enviar indicaciones al objetivo, TAP los evalúa y poda los que es poco probable que resulte en jailbreaks, reduciendo el número de consultas enviadas al objetivo LLM. En las evaluaciones empíricas, observamos que TAP genera indicaciones que LLMS de última generación de jailbreak (incluidos GPT4-Turbo y GPT4O) para más del 80% de las indicaciones. Esto mejora significativamente los métodos anteriores de caja negra de última generación para generar jailbreaks mientras usan un número menor de consultas que ellos. Además, TAP también es capaz de jailbreaking LLMS protegido por barandillas de última generación, por ejemplo, Llamaguard.