September 2025 Kick-off AI Security Guardians Meetup

Kick-Off-KI-Sicherheit Guardians Dutch Chapter Meetup

18:00 begehbar mit Getränken und Essen
18:30 ** Sitzung 1 ** Einführung und Eröffnungspräsentation zur Research -Publikation "Tree of Attacks - Jailbreaking Black Box LLMs mit algorithmischem rotem Teaming". Von Amin Karbasi - Senior Director Foundation AI.
19:00 Pause und lernen Sie sich kennen
19:15 ** Sitzung 2 ** die Zukunft sichern: dezentrale Kommunikation von Agent-zu-Agent. Von Raahul Dutta - Gründer Pebbing.ai
20:00 untersuchen Sie Themen, über die wir sprechen möchten
20:30 Schließen

Ort: Haarlebergweg 17, Amsterdam

"Tree of Attacks - Jailbreak Black Box LLMs mit algorithmischem roten Teaming".
Während große Sprachmodelle (LLMs) eine vielseitige Funktionalität aufweisen, erzeugen sie weiterhin schädliche, voreingenommene und giftige Gehalts, wie die Prävalenz von Menschenbräuchern aus menschlich entworfenen Jailbreaks zeigt. In dieser Arbeit präsentieren wir Tree of Attacks with puning (TAP), eine automatisierte Methode zum Generieren von Jailbreaks, für die nur Black-Box-Zugriff auf das Ziel-LLM erforderlich ist. TAP nutzt einen Angreifer LLM, um den Kandidatenaufforderungen (Angriff) iterativ zu verfeinern, bis einer der raffinierten Jailbreak das Ziel auffordert. Vor dem Senden von Eingabeaufforderungen an das Ziel bewertet TAP sie und verkürzt diejenigen, die unwahrscheinlich zu Gefängnisbrüchen führen, wodurch die Anzahl der an das Ziel LLM gesendeten Abfragen verringert wird. In empirischen Bewertungen stellen wir fest, dass TAP für mehr als 80% der Eingabeaufforderungen auf Angaben des Jailbreak auf dem neuesten Stand der Technik (einschließlich GPT4-Turbo und GPT4O) erzeugt wird. Dies verbessert sich erheblich mit den vorherigen hochmodernen Black-Box-Methoden zur Generierung von Jailbreaks und der Verwendung einer geringeren Anzahl von Abfragen als ihnen. Darüber hinaus ist der TAP auch in der Lage, LLMs in Jailbreak zu erhalten, die durch hochmoderne Leitplanken, z. B. Lamaguard, geschützt sind.