Superintelligent AI and Loss of Control

​Un atelier adapté aux débutants sur l'IA de superintelligence et sur la façon dont cette nouvelle technologie évolue et a un impact sur la société.
​**Gratuit et ouvert au public — aucune formation technique requise**
​Qu'est-ce que cela signifierait réellement pour les machines de devenir plus intelligentes que les humains, pas seulement aux échecs ou à l'écriture, mais dans *tout* ? Depuis des décennies, les scientifiques et les chercheurs débattent de l'idée d'une **IA superintelligente** : des systèmes qui pourraient surpasser les humains dans presque toutes les tâches cognitives. Ce qui ressemblait autrefois à de la science-fiction lointaine est désormais de plus en plus considéré comme une possibilité réelle de notre vivant.
​Cet atelier est une introduction guidée et interactive à l'idée de superintelligence et au problème de la **perte de contrôle** : que se passe-t-il si nous créons des systèmes plus performants que nous, mais dont les objectifs ne correspondent pas parfaitement aux valeurs humaines.
​**Au cours de l'atelier, nous explorerons :**

* ​**Superintelligence :** Qu'est-ce que cela signifie pour un système d'IA de surpasser l'intelligence humaine dans tous les domaines, et en quoi cela diffère de l'IA d'aujourd'hui.
* ​**Pouvoir et contrôle :** Pourquoi l’IA avancée pourrait exercer une énorme influence économique, politique et stratégique – et pourquoi « simplement la désactiver » n’est peut-être pas réaliste.
* ​**Risques de désalignement :** Comment les systèmes poursuivant les *mauvais* objectifs pourraient causer des dommages même sans intention malveillante.
* ​**Choix de société :** Comment les décisions prises aujourd'hui, par les chercheurs, les entreprises et les gouvernements, peuvent déterminer si l'IA deviendra un outil que nous contrôlons ou une force que nous luttons pour contenir.

​**Ce que vous obtiendrez :**

* Une introduction claire et non technique aux idées fondamentales de la recherche sur la sécurité de l'IA et les risques existentiels.
* ​Démonstrations en direct des capacités actuelles de l'IA, pour ancrer les préoccupations abstraites dans des systèmes réels.
* ​Discussions en petits groupes et expériences de réflexion qui relient les risques de l'IA à la vie quotidienne, aux institutions et aux incitations.
* Un meilleur modèle mental pour évaluer les gros titres, le battage médiatique et les affirmations sur les progrès de l'IA.

​**Format et ambiance :**
​Ce n'est pas une conférence, c'est un atelier interactif conçu pour aider les gens à réfléchir clairement à un sujet qui devient de plus en plus important et qui évolue très rapidement.
Que vous soyez nouveau dans l'IA, intéressé par un simple intérêt ou que vous ne sachiez pas vraiment quoi croire, vous repartirez avec une image plus claire de *pourquoi* de nombreux chercheurs prennent la superintelligence au sérieux – et *de ce qui est réellement en jeu* si nous nous trompons.