Superintelligent AI and Loss of Control

Workshop pre začiatočníkov o superinteligenčnej AI a o tom, ako sa táto nová technológia vyvíja a ovplyvňuje spoločnosť.
**Zadarmo a otvorené pre verejnosť – nevyžaduje sa žiadne technické zázemie**
Čo by to vlastne znamenalo, keby sa stroje stali múdrejšími ako ľudia – nielen v šachu alebo písaní, ale vo všetkom? Desaťročia vedci a výskumníci diskutovali o myšlienke **Superinteligentnej AI**: systémov, ktoré by dokázali prekonať ľudí takmer vo všetkých kognitívnych úlohách. O tom, čo kedysi znelo ako vzdialená sci-fi, sa dnes čoraz viac diskutuje ako o skutočnej možnosti v rámci našich životov.
​Tento workshop je riadeným interaktívnym úvodom do myšlienky superinteligencie a problému **straty kontroly** – čo sa stane, ak vytvoríme systémy, ktoré sú schopnejšie ako my, ale ktorých ciele nie sú dokonale v súlade s ľudskými hodnotami.
**V priebehu workshopu preskúmame:**

* **Superinteligencia:** Čo znamená, že systém AI prekoná ľudskú inteligenciu v rôznych doménach, a ako sa to líši od dnešnej AI.
* **Sila a kontrola:** Prečo by pokročilá AI mohla mať obrovský ekonomický, politický a strategický vplyv – a prečo „len to vypnúť“ nemusí byť realistické.
* ​**Riziká nesúladu:** Ako môžu systémy sledujúce *nesprávne* ciele spôsobiť škodu aj bez zlého úmyslu.
* **Spoločenské rozhodnutia:** Ako môžu dnešné rozhodnutia výskumníkov, spoločností a vlád ovplyvniť to, či sa AI stane nástrojom, ktorý kontrolujeme, alebo silou, ktorú len ťažko zvládame.

**Čo získate:**

* ​Jasný, netechnický úvod do základných myšlienok z výskumu bezpečnosti AI a existenčných rizík.
* ​Živé ukážky súčasných schopností AI na uzemnenie abstraktných obáv v reálnych systémoch.
* ​Diskusie v malých skupinách a myšlienkové experimenty, ktoré spájajú riziká AI s každodenným životom, inštitúciami a stimulmi.
* ​Lepší mentálny model na hodnotenie titulkov, humbuku a tvrdení o pokroku AI.

**Formát a atmosféra:**
Toto nie je prednáška, je to interaktívny workshop navrhnutý tak, aby pomohol ľuďom jasne premýšľať o téme, ktorá je čoraz dôležitejšia a veľmi rýchlo sa posúva.
​Nezáleží na tom, či ste v AI nováčikom, náhodne sa zaujímate alebo si nie ste úplne istí, čomu máte veriť, budete mať jasnejšiu predstavu o tom, *prečo* mnohí výskumníci berú superinteligenciu vážne – a *čo je vlastne v stávke*, ak sa mýlime.