Superintelligent AI and Loss of Control

Пориньте в ризики того, що суперінтелектуальний штучний інтелект стане шахрайським і що ми можемо зробити, поки не пізно.

​Для початківців семінар про суперінтелект ШІ та про те, як ця нова технологія розвивається та впливає на суспільство.

​Безкоштовно та відкрито для публіки — не потрібна технічна підготовка

​Що насправді означатиме, якщо машини стануть розумнішими за людей — не лише в шахах чи письмі, а в усьому? Десятиліттями вчені та дослідники обговорювали ідею Суперінтелектуального штучного інтелекту: систем, які могли б перевершити людину майже в усіх когнітивних завданнях. Те, що колись звучало як далека наукова фантастика, тепер все більше обговорюється як реальна можливість протягом нашого життя.

​Цей семінар є керованим, інтерактивним вступом до ідеї суперінтелекту та проблеми втрати контролю — що станеться, якщо ми створимо системи, які є більш дієздатними, ніж ми, але чиї цілі не повністю відповідають людським цінності.

​Під час семінару ми досліджуватимемо:

• ​Суперінтелект: що означає для системи штучного інтелекту перевершити людський інтелект у різних сферах і чим це відрізняється від сучасного ШІ.
• ​Потужність і контроль: Чому просунутий штучний інтелект може мати величезний економічний, політичний і стратегічний вплив — і чому «просто вимкнути його» може бути нереально.
• ​Ризики неузгодженості: Як системи, які переслідують неправильні цілі, можуть завдати шкоди навіть без злих намірів.
• ​Суспільний вибір: Як Рішення, прийняті сьогодні дослідниками, компаніями та урядами, можуть вплинути на те, чи стане штучний інтелект інструментом, яким ми керуємо, чи силою, яку ми намагаємося стримати.

​Що ви отримаєте:

• ​Чіткий, нетехнічний вступ до основних ідей із досліджень безпеки штучного інтелекту та дослідження ризиків існування.
• ​Демонстрації поточних можливостей штучного інтелекту в прямому ефірі, до анотації занепокоєння в реальних системах.
• ​Обговорення в невеликих групах та дослідницькі експерименти, які пов’язують ризики ШІ з повсякденним життям, установами та стимулами.
• ​Краща розумова модель для оцінки заголовків, галасу та тверджень про прогрес ШІ.

​Формат і атмосфера:

​Це не лекція, а інтерактивний семінар, створений для того, щоб допомогти людям чітко мислити про тему, яка стає дедалі важливішою та розвивається дуже швидко.

​Незалежно від того, чи ви новачок у штучному інтелекті, випадково зацікавлені чи глибоко не впевнені, чому вірити, ви підете з чіткішою картиною того, чому багато дослідників серйозно ставляться до суперінтелекту — і що це насправді робити ставки, якщо ми помиляємось.