September 2025 Kick-off AI Security Guardians Meetup

Kick-off AI Security Guardians Holandês Capítulo Meetup

18:00 Walk-in com bebidas e comida
18:30 ** Sessão 1 ** Introdução e apresentação inaugural sobre a publicação de pesquisa "Tree of Attacks - Jailbreakbreak Black Box LLMS com equipes vermelhas algorítmicas". Por Amin Karbasi - Fundação Sênior do Diretor AI.
19:00 Break e se conheça
19:15 ** Sessão 2 ** Garantindo o futuro: comunicação descentralizada de agente para agente. Por Raahul Dutta - Fundador Pebbing.ai
20:00 Investigue tópicos sobre os quais gostaríamos de falar
20:30 Fechando

Localização: Haarlebergweg 17, Amsterdã

"Tree of Attacks - Jailbreakbreak Black Box LLMs com equipes vermelhas algorítmicas".
Enquanto os grandes modelos de linguagem (LLMS) exibem funcionalidade versátil, eles continuam a gerar conteúdo prejudicial, tendencioso e tóxico, como demonstrado pela prevalência de jailbreaks projetados pelo homem. Neste trabalho, apresentamos a Árvore de Ataques com a poda (TAP), um método automatizado para gerar jailbreaks que requer apenas acesso de caixa preta ao Target LLM. A Tap utiliza um atacante LLM para refinar iterativamente o candidato (ataque) solicitar até que um dos pedidos de jailbreaks refinados. Além disso, antes de enviar prompts para o alvo, a TAP os avalia e poda os que improvam que não resultarão em jailbreaks, reduzindo o número de consultas enviadas para o alvo LLM. Nas avaliações empíricas, observamos que a TAP gera avisos que o Jailbreak de LLMs de ponta (incluindo GPT4-Turbo e Gpt4O) por mais de 80% dos prompts. Isso melhora significativamente os métodos anteriores de caixa preta de última geração para gerar jailbreaks enquanto usam um número menor de consultas do que eles. Além disso, a TAP também é capaz de Jailbraking LLMS protegido por guardrails de última geração, por exemplo, Llamuguard.