AI Safety seminář

[Войдите здесь.] (Https://airtable.com/shrmtl0n5hxxvhrca?utm_source=ais-seminar)

Крайний срок подачи заявок составляет 3.3.2025. Восемь недельный семинар начинается на неделе с 10.3.2025.

** Искусственный интеллект - огромная возможность, но также и один из величайших рисков для будущего человечества. Как застраховать, что будущие системы преобразующего искусственного интеллекта значительно превращаются в мир к лучшему, а не наоборот? Почему ИИ считается экзистенциальным риском и значимыми экспертами в области исследований искусственного интеллекта?

Общий искусственный интеллект (AGI) может не иметь сознания как личность, но в относительно близком будущем он может во многом известном человеку. В настоящее время мы не знаем, как создать такой ИИ, чтобы мы могли гарантировать, что это не угроза для человечества.

Мы подготовили восьминедельный семинар в соответствии с [программой] (https://www.eacbridge.org/agi-safety-fundamentals), который первоначально возник в Кембриджском университете. Вы можете войти в одну из семинарных версий. Один семинар является более [техническим] (https://course.aisafetyfundamentals.com/alenment), а другой сосредоточен на [управлении ИИ] (https://course.aisafetyfundamentals.com/governance), то есть исправление через стандарты, нормативные акты и внешнеполитические подходы к международной безопасности.

** Для кого намерен семинар?
Вы можете подать заявку на обе версии семинара без предыдущих знаний о машинном обучении, если вы готовы посвятить дополнительное время материалам, объясняющим основные принципы машинного обучения в первую неделю.

Войдите, чтобы понять, почему текущие методы развития ИИ не имеют своей долгосрочной безопасности для общества и человечества, и вы хотите узнать, что с ним делать.

За семинаром можно следовать практические рабочие проекты, касающиеся EG, оценки крупных языковых моделей.

** 💡 Что вы научитесь?
** Семинар по технической безопасности AI **

* Краткое вступление в нейронные сети и как поезда ИИ
* Что такое общий искусственный интеллект (AGI) и как быстро мы идем к нему
* Как ИИ может создавать инструментальные цели, то есть, почему он может противостоять отключению или почему он может начать накапливать ресурсы.
* Как пропущена функция вознаграждения может привести к оптимизации нежелательного поведения (взломать вознаграждение, неправильная спецификация)
* Как ИИ может ошибиться, чтобы обобщить свои цели при обучении
* Как обслуживать возможность надзора за ИИ, если мы перестанут понимать проблемы, которые он решает
* Каковы предлагаемые в настоящее время процедуры для безопасного обучения ИИ
* Как исследования похожи на интерпретацию, то есть способность понимать, что «думает» ИИ «думает»
* Как ИИ представляет агентов и агентства внутри

Весь учебный план можно найти [здесь] (https://course.aisafetyfundamentals.com/alenment).

** Семинар o AI Управление **

* Краткое вступление в нейронные сети и как поезда ИИ
* Какой конкретный катастрофический риск плохого установленного лица ИИ
* Почему безопасность ИИ трудно достичь
* Какие стандарты и правила могут помочь с безопасным развитием ИИ
* Как ограничить возможности разработки опасных систем ИИ опасными актерами
* Как повысить риск ИИ посредством регулирования производства чипов
* Как обеспечить международное сотрудничество

Весь учебный план можно найти [здесь] (https://course.aisafetyfundamentals.com/governance).

** 🎓 Как проходит семинар?
Вы будете читать тексты из разных источников на английском языке каждую неделю. Подготовка занимает около 3 часов в неделю или более (в зависимости от вашей медицинской помощи).
Вы будете разделены на небольшие группы от 3 до 6 человек, которые будут встречаться один раз в неделю в течение часа до полутора часа, где вы обсудите тексты чтения на неделю. Само обсуждение происходит в чешском.

Обсуждение поможет вам понять и организовать ваши мысли, а также познакомиться с интересными людьми, которые заинтересованы в ИИ и его безопасности. Обсуждение будет модерировано опытным фасилитатором, который помогает заботиться о его качеством и обеспечивает безопасную и стимулирующую среду.

** ⏳ Когда? Встреча будет 8 или 9 - одна неделя.

** 🗺 Где? Срок подачи заявок - в понедельник, 3 марта. В течение недели после крайнего срока конкретные регулярные встречи будут организованы в соответствии с временными возможностями участников отдельных групп. Встреча будет 8 - одна неделя одна.

** 🏷 Цена: ** бесплатно

👉 **

** нет времени?
Если вы заинтересованы в искусственном интеллекте, но по временным причинам вы не можете участвовать в семинаре, позвольте нам связаться с самим собой, и мы свяжемся с вами с другими возможностями для участия (события, дискуссии, лекции, проекты).

[Я хочу связаться/a] (https://forms.gle/jqvafwphpzmiffy8)

Разве вы не хотите, чтобы другие подобные возможности сбежали? Вы можете узнать о новостях на нашем [веб-сайт] (https://efectivni-altruism.cz/) или на [страницах Facebook] (https://www.facebook.com/efectivnialtruism), или вы можете войти в систему. Информационный бюллетень.