September 2025 Kick-off AI Security Guardians Meetup

Kick-off AI Security Guardians Holandské stretnutie kapitoly

18:00 VÁŠU S DIVADLÁMI A POTRAVINU
18:30 ** Session 1 ** Úvod a inauguračná prezentácia výskumu „Strom útokov - útek z väzenia Black Box LLM s algoritmickým červeným tímom“. Autor: Amin Karbasi - nadácia pre senior riaditeľa AI.
19:00 prestávajte a spoznávajte sa
19:15 ** Relácia 2 ** Zabezpečenie budúcnosti: decentralizovaná komunikácia agenta-agent. Autor: Raahul Dutta - zakladateľ Pebbing.ai
20:00 preskúmajte témy, o ktorých by sme chceli hovoriť
20:30 zatvorenie

Umiestnenie: Haarlebergweg 17, Amsterdam

„Strom útokov - útek z väzenia LLMS s algoritmickým červeným tímom“.
Zatiaľ čo modely veľkých jazykov (LLMS) vykazujú všestrannú funkčnosť, naďalej vytvárajú škodlivý, skreslený a toxický obsah, ako to dokazuje prevalencia útek z väzení navrhnutých človekom. V tejto práci uvádzame strom útokov s prerezávaním (TAP), automatizovanou metódou na generovanie útek z väzení, ktorá vyžaduje iba prístup čiernej skrinky k cieľovej LLM. Tap využíva útočník LLM na iteratívne vylepšovanie kandidáta (útok), kým jeden z rafinovaných tlačí útek z väzení na cieľ. Okrem toho pred odoslaním výziev do cieľa ich TAP posudzuje a orezáva tie, ktoré nepravdepodobné, že budú mať za následok útek z väzení, čím sa zníži počet dotazov zaslaných do Target LLM. Pri empirických hodnoteniach pozorujeme, že TAP generuje výzvy, že najmodernejšie LLM z väzenia (vrátane GPT4-Turbo a GPT4O) pre viac ako 80% výziev. To výrazne zlepšuje predchádzajúce najmodernejšie metódy čiernej skrinky na generovanie útek z väzení pri používaní menšieho počtu otázok ako oni. Ďalej je TAP schopný tiež útek z väzenia chránených najmodernejšími zábradliami, napr. Llamaguard.