Superintelligent AI and Loss of Control

Познакомьтесь с рисками того, что сверхразумный ИИ выйдет из-под контроля, и что мы можем сделать, пока не стало слишком поздно.

​Семинар для начинающих суперинтеллект ИИ и то, как эта новая технология развивается и влияет на общество.

​Бесплатно и открыто для публики — никакого технического образования не требуется

​Что на самом деле означает, что машины станут умнее людей – не только в шахматах или письме, но и в во всем? На протяжении десятилетий ученые и исследователи обсуждали идею Сверхразумного ИИ: систем, которые могли бы превосходить людей практически во всех когнитивных задачах. То, что когда-то звучало как далекая научная фантастика, теперь все чаще обсуждается как реальная возможность при нашей жизни.

​Этот семинар представляет собой управляемое интерактивное введение в идею сверхразума и проблему потери контроля – что произойдет, если мы создадим системы, которые более способны, чем мы, но чьи цели не полностью совпадают с человеческими ценностями.

​В ходе семинара мы рассмотрим исследуйте:

• ​Суперинтеллект: Что означает, что система ИИ превосходит человеческий интеллект во всех областях, и чем это отличается от сегодняшнего ИИ.
• ​Власть и контроль: Почему продвинутый ИИ может оказывать огромное экономическое, политическое и стратегическое влияние — и почему «просто отключить его» нельзя реалистично.
• ​Риски несогласованности: Как системы, преследующие неправильные цели, могут причинить вред даже без злого умысла.
• ​Общественный выбор: Как решения, принимаемые сегодня исследователями, компаниями и правительствами, могут повлиять на то, станет ли ИИ инструментом, которым мы контролируем, или силой, за которую мы боремся содержать.

​Что вы получите:

• ​Четкое, нетехническое введение в основные идеи безопасности ИИ и исследований экзистенциальных рисков.
• ​Живая демонстрация текущих возможностей ИИ для обоснования абстрактных проблем в реальных системах.
• ​Дискуссии в небольших группах и мысленные эксперименты, которые связывают риски ИИ с повседневной жизнью, институтами и стимулами.
• ​Лучшая ментальная модель для оценки заголовков, шумихи и заявлений о прогрессе ИИ.

​Формат и атмосфера:

​Это не лекция, а интерактивный семинар, призванный помочь людям ясно подумать о теме, которая становится всё более важной и развивается очень быстро.

​Независимо от того, являетесь ли вы новичком в области ИИ, случайно интересуетесь или глубоко не знаете, во что верить, вы уйдете с более четкой картиной почему многие исследователи серьезно относятся к сверхразуму — и что на самом деле будет поставлено на карту, если мы ошибемся в этом.