Superintelligent AI and Loss of Control

​Ein anfängerfreundlicher Workshop über Superintelligenz-KI und wie sich diese neue Technologie weiterentwickelt und auf die Gesellschaft auswirkt.
​**Kostenlos und für die Öffentlichkeit zugänglich – keine technischen Vorkenntnisse erforderlich**
​Was würde es eigentlich bedeuten, wenn Maschinen schlauer als Menschen würden – nicht nur beim Schach oder Schreiben, sondern bei *allem*? Seit Jahrzehnten diskutieren Wissenschaftler und Forscher über die Idee einer **superintelligenten KI**: Systeme, die den Menschen bei nahezu allen kognitiven Aufgaben übertreffen könnten. Was einst wie ferne Science-Fiction klang, wird heute zunehmend als reale Möglichkeit zu unseren Lebzeiten diskutiert.
​Dieser Workshop ist eine geführte, interaktive Einführung in die Idee der Superintelligenz und das Problem des **Kontrollverlusts** – was passiert, wenn wir Systeme schaffen, die leistungsfähiger sind als wir, deren Ziele jedoch nicht perfekt mit den menschlichen Werten übereinstimmen.
​**Im Laufe des Workshops werden wir Folgendes untersuchen:**

* ​**Superintelligenz:** Was es für ein KI-System bedeutet, die menschliche Intelligenz in allen Bereichen zu übertreffen, und wie sich dies von der heutigen KI unterscheidet.
* ​**Macht und Kontrolle:** Warum fortschrittliche KI enormen wirtschaftlichen, politischen und strategischen Einfluss ausüben könnte – und warum es möglicherweise nicht realistisch ist, sie einfach auszuschalten.
* ​**Fehlausrichtungsrisiken:** Wie Systeme, die die *falschen* Ziele verfolgen, auch ohne böswillige Absicht Schaden anrichten können.
* ​**Gesellschaftliche Entscheidungen:** Wie Entscheidungen, die heute von Forschern, Unternehmen und Regierungen getroffen werden, darüber entscheiden können, ob KI zu einem Werkzeug wird, das wir kontrollieren, oder zu einer Kraft, die wir nur schwer eindämmen können.

​**Was Sie bekommen:**

* ​Eine klare, nicht-technische Einführung in Kernideen aus der KI-Sicherheit und der Forschung zu existenziellen Risiken.
* ​Live-Demonstrationen aktueller KI-Funktionen, um abstrakte Anliegen in realen Systemen zu verankern.
* ​Kleingruppendiskussionen und Gedankenexperimente, die KI-Risiken mit dem Alltag, Institutionen und Anreizen in Verbindung bringen.
* ​Ein besseres mentales Modell zur Bewertung von Schlagzeilen, Hype und Behauptungen über den KI-Fortschritt.

​**Format und Atmosphäre:**
​Dies ist kein Vortrag, sondern ein interaktiver Workshop, der Menschen dabei helfen soll, klar über ein Thema nachzudenken, das immer wichtiger wird und sich sehr schnell bewegt.
​Ganz gleich, ob Sie neu in der KI-Welt sind, sich nur oberflächlich dafür interessieren oder zutiefst unsicher sind, was Sie glauben sollen, Sie werden mit einem klareren Bild davon abreisen, *warum* viele Forscher Superintelligenz ernst nehmen – und *was tatsächlich auf dem Spiel steht*, wenn wir etwas falsch machen.