September 2025 Kick-off AI Security Guardians Meetup

Початок AI охоронців голландська глава зустріч

18:00 прогулянки з напоями та їжею
18:30 ** Сесія 1 ** Вступ та вступна презентація щодо дослідницької публікації "Дерево нападів - джейлбрика -чорна коробка LLM з алгоритмічним червоним поєднанням". Автор Амін Карбасі - старший фонд директора AI.
19:00 перерва і познайоміть один одного
19:15 ** Сесія 2 ** Забезпечення майбутнього: Децентралізоване спілкування агента до агента. Раахул Датта - засновник Pebbing.ai
20:00 розслідувати теми, про які ми хотіли б поговорити
20:30 Закриття

Місцезнаходження: Haarlebergweg 17, Amsterdam

"Дерево нападів - джейлбрік -чорна коробка LLM з алгоритмічним червоним поєднанням".
Незважаючи на те, що великі мовні моделі (LLMS) демонструють універсальну функціональність, вони продовжують генерувати шкідливий, упереджений та токсичний вміст, як продемонстровано поширеністю джейлбрейків, розроблених людьми. У цій роботі ми представляємо Дерево атак з обрізкою (TAP), автоматизованим методом генерування джейлбрейків, який вимагає лише доступу до чорної коробки до цільового LLM. TAP використовує LLM зловмисника для ітеративно вдосконаленого кандидата (нападу), поки один із вдосконалених підказок джейлбрейкс не ціль. Крім того, перед тим, як надсилати підказки до цілі, TAP оцінює їх і обрізає тих, хто навряд чи призведе до джейлбрейків, зменшуючи кількість запитів, що надсилаються до цільового LLM. В емпіричних оцінках ми спостерігаємо, що TAP породжує підказки, що Jailbreak найсучасніші LLM (включаючи GPT4-Turbo та GPT4O) більше 80% підказок. Це суттєво покращується за попередніми сучасними методами чорної коробки для генерування джейлбрейків, використовуючи меншу кількість запитів, ніж вони. Крім того, TAP також здатний до джейлблівського LLMS, захищеного найсучаснішими огородженнями, наприклад, Llamaguard.