September 2025 Kick-off AI Security Guardians Meetup

Kick-off AI Security Guardians Dutch Chapter Meetup

18:00 walk-in con bevande e cibo
18:30 ** Sessione 1 ** Introduzione e presentazione inaugurale sulla pubblicazione di ricerca "Tree of Attacks - Black Box LLMS con squadra algoritmica". Di Amin Karbasi - Senior Director Foundation AI.
19:00 si interrompe e si conosce
19:15 ** Sessione 2 ** Garantire il futuro: comunicazione da agente a agente decentralizzata. Di Raahul Dutta - Fondatore Pebbing.ai
20:00 indagare su argomenti di cui vorremmo parlare
20:30 Chiusura

Posizione: Haarlebergweg 17, Amsterdam

"Tree of Attacks - Black Box Black LLMS con squadra algoritmica".
Mentre i modelli di grandi dimensioni (LLM) mostrano funzionalità versatili, continuano a generare contenuti dannosi, distorti e tossici, come dimostrato dalla prevalenza di jailbreak progettati dall'uomo. In questo lavoro, presentiamo un albero di attacchi con potatura (TAP), un metodo automatizzato per la generazione di jailbreak che richiede solo l'accesso a scatola nera a Target LLM. TAP utilizza un LLM di attaccante per perfezionare iterativamente il candidato (attacco) spinge fino a quando uno dei raffinati suggerisce il jailbreak del bersaglio. Inoltre, prima di inviare istruzioni all'obiettivo, TAP li valuta e le prune quelli che improbabili si traducano in jailbreak, riducendo il numero di domande inviate a Target LLM. Nelle valutazioni empiriche, osserviamo che TAP genera pristenti che il jailbreak LLMS all'avanguardia (inclusi GPT4-Turbo e GPT4O) per oltre l'80% delle istruzioni. Ciò migliora significativamente sui precedenti metodi di black-box all'avanguardia per generare jailbreak mentre si utilizza un numero inferiore di domande di loro. Inoltre, TAP è inoltre in grado di jailbreaking LLMS protetto da Guardrails all'avanguardia, ad esempio LAMAGUARD.