Superintelligent AI and Loss of Control

Семинар для начинающих, посвящённый сверхразумному искусственному интеллекту и тому, как эта новая технология развивается и влияет на общество.
**Бесплатно и открыто для всех — никакого технического образования не требуется**
Что на самом деле означает, что машины станут умнее людей – не только в шахматах или письме, но и во всем? На протяжении десятилетий ученые и исследователи обсуждали идею **Сверхразумного ИИ**: систем, которые могли бы превосходить людей практически во всех когнитивных задачах. То, что когда-то звучало как далекая научная фантастика, теперь все чаще обсуждается как реальная возможность при нашей жизни.
​Этот семинар представляет собой управляемое интерактивное введение в идею сверхинтеллекта и проблему **потери контроля** — что произойдет, если мы создадим системы, которые более эффективны, чем мы, но чьи цели не полностью совпадают с человеческими ценностями.
**В ходе семинара мы рассмотрим:**

* ​**Суперинтеллект:** Что значит для системы ИИ превосходить человеческий интеллект во всех областях и чем это отличается от сегодняшнего ИИ.
* **Власть и контроль:** Почему продвинутый ИИ может обладать огромным экономическим, политическим и стратегическим влиянием — и почему «просто отключить его» может оказаться нереалистичным.
* ​**Риски несогласованности:** Как системы, преследующие *неправильные* цели, могут причинить вред даже без злого умысла.
* ​**Общественный выбор:** Как решения, принимаемые сегодня исследователями, компаниями и правительствами, могут повлиять на то, станет ли ИИ инструментом, который мы контролируем, или силой, которую мы изо всех сил пытаемся сдержать.

**Что вы получите:**

* ​Четкое, нетехническое введение в основные идеи исследований безопасности ИИ и экзистенциальных рисков.
* Живые демонстрации текущих возможностей ИИ для обоснования абстрактных проблем в реальных системах.
* ​Дискуссии в небольших группах и мысленные эксперименты, которые связывают риски ИИ с повседневной жизнью, институтами и стимулами.
* ​Улучшенная ментальная модель для оценки заголовков, шумихи и заявлений о прогрессе ИИ.

**Формат и атмосфера:**
​Это не лекция, это интерактивный семинар, призванный помочь людям ясно подумать о теме, которая становится все более важной и быстро развивающейся.
Независимо от того, являетесь ли вы новичком в области ИИ, случайно интересуетесь или глубоко не знаете, во что верить, вы уйдете с более четкой картиной того, *почему* многие исследователи серьезно относятся к сверхинтеллекту — и *что на самом деле поставлено на карту*, если мы ошибемся.