AI Safety seminář

[Увійдіть тут.] (Https://airtable.com/shrmtl0n5hxxvhrca?utm_source=ais-seminar)

Кінцевий термін для заявок - 3.3.2025. Вісім тижнів семінар розпочинається з 10.3.2025.

** Штучний інтелект - це величезна можливість, але також один з найбільших ризиків для майбутнього людства. Як гарантувати, що майбутні трансформаційні системи штучного інтелекту значно перетворюють світ на краще, а не навпаки? Чому AI вважається екзистенціальним ризиком та значними експертами в галузі досліджень штучного інтелекту?

Загальний штучний інтелект (AGI) може не мати свідомості як особистість, але у відносно близькому майбутньому він може багато в чому може бути відома людина. В даний час ми не знаємо, як створити такий ШІ, щоб ми могли гарантувати, що це не загроза для людства.

Ми підготували восьмитижневий семінар згідно з [Програмою] (https://www.eacbridge.org/agi-safety-fondamentals), який спочатку виникла в Кембриджському університеті. Ви можете увійти до однієї з семінарських версій. Один семінар - це більше [технічний] (https://course.aisafetyfundamentals.com/alignment), а інший зосереджений на [AI управління] (https://course.aisafetyfundamentals.com/governance), тобто випрямленням за допомогою стандартів, регламентів та зовнішньої політики до міжнародної безпеки.

** Для кого призначений семінар?
Ви можете подати заявку на обидві версії семінару без попередніх знань про машинне навчання, якщо ви готові приділити додатковий час матеріалам, що пояснюють основні принципи машинного навчання в перший тиждень.

Увійдіть, щоб зрозуміти, чому сучасні методи розвитку AI не мають своєї довгострокової безпеки для суспільства та людства, і ви хочете дізнатися, що з цим робити.

Семінар може супроводжуватися практичними робочими проектами, що стосуються оцінки великих мовних моделей.

** 💡 Що ти навчишся? **
** Семінар технічної безпеки AI **

* Короткий вступ до нейронних мереж та як поїзди AI
* Що таке загальний штучний інтелект (AGI) і як швидко ми прямуємо до нього
* Як AI може створити інструментальні цілі, тобто чому він може протистояти відключенню або чому він може почати накопичувати ресурси.
* Як пропущена функція винагороди може призвести до оптимізації небажаної поведінки (злом винагороди, неправильне визначення винагороди)
* Як AI ERRIL може узагальнити свої цілі на тренуванні
* Як скакати можливість нагляду за ШІ, якщо припинимо розуміння проблем, які він вирішує
* Які в даний час процедури безпечного навчання AI
* Як виглядає дослідження, тобто здатність зрозуміти, що AI «думає»
* Як AI представляє агентів та агентства всередині

Весь навчальний план можна знайти [тут] (https://course.aisafetyfundamentals.com/alignment).

** Семінар O AI Управління **

* Короткий вступ до нейронних мереж та як поїзди AI
* Які конкретні катастрофічні ризики погано встановленого AI обличчя
* Чому безпеку ШІ важко досягти
* Які стандарти та правила можуть допомогти у безпечному розвитку ШІ
* Як обмежити можливості розвитку небезпечних систем AI небезпечним суб'єктам
* Як сприяти ризику AI за допомогою регулювання виробництва мікросхем
* Як забезпечити міжнародне співробітництво

Весь навчальний план можна знайти [тут] (https://course.aisafetyfundamentals.com/governance).

** 🎓 Як проходить семінар?
Ви будете читати тексти з різних джерел англійською мовою щотижня. Підготовка займає близько 3 годин на тиждень або більше (залежно від вашої допомоги).
Ви будете розділені на менші групи від 3 до 6 людей, які збираються раз на тиждень протягом години до півтори години, де ви обговорите тексти читання на тиждень. Сама дискусія відбувається в Чехі.

Дискусія допоможе вам зрозуміти та організувати свої думки, а також познайомитися з цікавими людьми, які цікавляться AI та його безпекою. Обговорення буде модерувати досвідчений фасилітатор, який допомагає піклуватися про його якість та забезпечує безпечне та стимулююче середовище.

** ⏳ Коли? Зустріч буде 8 або 9 - один тиждень.

** 🗺 де? Кінцевий термін для заявок - у понеділок, 3 березня. За тиждень після терміну конкретні регулярні зустрічі будуть організовані відповідно до можливостей часу учасників окремих груп. Зустріч буде 8 - один тиждень.

** 🏷 Ціна: ** безкоштовно

👉 **

** Не встигає? **
Якщо вас цікавить AI, але з причин, які ви не можете брати участь у семінарі, давайте зв’язатися з собою, і ми зв’яжемось з вами з іншими можливостями для залучення (події, дискусії, лекцій, проектів).

[Я хочу зв’язатися/a] (https://forms.gle/jqvafwphpzmiffy8)

Ви не хочете, щоб інші подібні можливості втекли? Ви можете дізнатися про новини на нашому [веб-сайті] (https://efectivni-altruism.cz/) або на [сторінках Facebook] (https://www.facebook.com/efectivnialtruism), або ви можете увійти. Бюлетень.