Superintelligent AI and Loss of Control

​Семінар для початківців про суперінтелект ШІ та про те, як ця нова технологія розвивається та впливає на суспільство.
​**Безкоштовний і відкритий для громадськості — технічна підготовка не потрібна**
​Що насправді означатиме, якщо машини стануть розумнішими за людей — не лише в шахах чи письмі, а в *усьому*? Десятиліттями вчені та дослідники обговорювали ідею **Суперінтелектуального штучного інтелекту**: систем, які могли б перевершити людину майже в усіх когнітивних завданнях. Те, що колись звучало як далека наукова фантастика, тепер все частіше обговорюється як реальна можливість у нашому житті.
​Цей семінар є керованим інтерактивним вступом до ідеї суперінтелекту та проблеми **втрати контролю** — що станеться, якщо ми створимо системи, які є більш дієздатними, ніж ми, але чиї цілі не повністю відповідають людським цінностям.
​**Під час семінару ми вивчимо:**

* **Суперінтелект:** Що означає для системи штучного інтелекту перевершити людський інтелект у різних сферах і чим це відрізняється від сучасного ШІ.
* **Потужність і контроль:** чому передовий штучний інтелект може мати величезний економічний, політичний і стратегічний вплив — і чому «просто вимкнути його» може бути нереально.
* **Ризики неузгодженості:** як системи, які переслідують *неправильні* цілі, можуть завдати шкоди навіть без зловмисного наміру.
* **Суспільний вибір:** Як рішення, прийняті сьогодні дослідниками, компаніями та урядами, можуть вплинути на те, чи стане штучний інтелект інструментом, яким ми керуємо, чи силою, яку ми намагаємося стримати.

​**Що ви отримаєте:**

* Чітке, нетехнічне введення в основні ідеї досліджень безпеки ШІ та екзистенціальних ризиків.
* Живі демонстрації поточних можливостей ШІ для обґрунтування абстрактних проблем у реальних системах.
* ​Обговорення в малих групах і мисленнєві експерименти, які пов’язують ризики ШІ з повсякденним життям, установами та стимулами.
* ​Краща розумова модель для оцінки заголовків, ажіотажу та тверджень про прогрес ШІ.

​**Формат і атмосфера:**
​Це не лекція, це інтерактивний семінар, розроблений, щоб допомогти людям чітко мислити про тему, яка стає все більш важливою та розвивається дуже швидко.
​Незалежно від того, чи ви новачок у ШІ, випадково цікавитеся чи глибоко не впевнені, чому вірити, ви матимете більш чітке уявлення про те, *чому* багато дослідників сприймають суперінтелект серйозно — і *що насправді поставлено на карту*, якщо ми помилимось.