September 2025 Kick-off AI Security Guardians Meetup

Начало в голландском отделении.

18:00 прогулка с напитками и едой
18:30 ** Сессия 1 ** ВВЕДЕНИЕ И ИНУУГРАЛЬНАЯ ПРЕЗЕНТАЦИЯ ПО ИССЛЕДОВАТЕЛЬНОЙ ИЗДАНИЕ «Дерево атак - Jailbraing Black Box LLM с алгоритмической красной командой». Амин Карбаси - старший директор Фонд AI.
19:00 перелости и познакомитесь друг с другом
19:15 ** Сессия 2 ** Защищение будущего: децентрализованное общение с агентом-агентом. Раахул Датта - основатель pebbing.ai
20:00 Исследуйте темы, о которых мы хотели бы поговорить
20:30 Закрытие

Расположение: Haarlebergweg 17, Amsterdam

«Дерево атак - Jailbraing Black Box LLM с алгоритмической красной командой».
В то время как модели крупных языков (LLMS) демонстрируют универсальную функциональность, они продолжают генерировать вредное, смещенное и токсичное содержание, о чем свидетельствуют распространенность джейлбрейков, разработанных человеком. В этой работе мы представляем дерево атак с обрезкой (TAP), автоматизированный метод генерации джейлбрейков, который требует только доступа к черным ящикам к целевому LLM. TAP использует злоумышленник LLM для итеративного уточнения кандидатов (атака), пока одно из утонченных подсказок не даст джейлбрейк. Кроме того, перед отправкой подсказок в цель TAP оценивает их и обновляет те, которые вряд ли приведут к джейлбрейкам, уменьшив количество запросов, отправленных в целевой LLM. В эмпирических оценках мы наблюдаем, что TAP генерирует подсказки о том, что джейлбрейк современных LLM (включая GPT4-Turbo и GPT4O) для более чем 80% подсказок. Это значительно улучшает предыдущие современные методы черного ящика для создания джейлбрейков при использовании меньшего числа запросов, чем они. Кроме того, TAP также способен к JailBraking LLMS, защищенным современными ограждениями, например, Llamaguard.