Superintelligent AI and Loss of Control

Ponorte sa do rizík, že superinteligentná AI bude nečestná a čo môžeme urobiť, kým nebude príliš neskoro.

​Bezplatné a otvorené pre verejnosť – nevyžaduje sa žiadne technické zázemie

​Čo by to vlastne znamenalo, keby sa stroje stali inteligentnejšími ako ľudia – nielen v šachu alebo písaní, ale aj vo všetkom? Desaťročia vedci a výskumníci diskutovali o myšlienke superinteligentnej AI: systémov, ktoré by dokázali prekonať ľudí takmer vo všetkých kognitívnych úlohách. O tom, čo kedysi znielo ako vzdialená sci-fi, sa dnes čoraz viac diskutuje ako o skutočnej možnosti v našich životoch.

​Tento workshop je riadeným, interaktívnym úvodom do myšlienky superinteligencie a problému straty kontroly – čo sa stane, ak vytvoríme systémy, ktoré sú schopnejšie ako my, ale ktorých ciele nie sú úplne v súlade s ľudskými hodnotami,> workshop preskúmať:

• ​Superinteligencia: Čo znamená, že systém AI prekoná ľudskú inteligenciu naprieč doménami, a ako sa to líši od dnešnej AI.
• ​Sila a kontrola: Prečo by pokročilá umelá inteligencia mohla mať len obrovský ekonomický vplyv, politický a strategický vplyv. realistické.
• ​Riziká nesúladu: Ako môžu systémy, ktoré sledujú nesprávne ciele, spôsobiť škodu aj bez zlého úmyslu.
• ​Spoločenské rozhodnutia: Ako dnes bojujú výskumníci, spoločnosti a vlády, či už sa AI stáva nástrojom kontroly alebo vlády – môžeme obsahovať.

​Čo získate:

• ​Jasný, netechnický úvod do základných myšlienok z výskumu bezpečnosti AI a existenčných rizík.
• ​Naživo ukážky súčasných schopností AI na základe abstraktných obáv v reálnych systémoch.
• ​Diskusie v malých skupinách a myšlienkové experimenty v malých skupinách, diskusie a myšlienkové experimenty v malých skupinách. stimuly.
• ​Lepší mentálny model na vyhodnocovanie titulkov, humbuku a tvrdení o pokroku AI.

​Formát a atmosféra:

​Toto nie je prednáška, je to interaktívny workshop navrhnutý tak, aby pomohol ľuďom jasne premýšľať o téme, ktorá je čoraz dôležitejšia a veľmi rýchlo sa zaujíma, či už ide o novú, nenútenú AI. čomu veriť, odídete s jasnejšou predstavou o tom, prečo veľa výskumníkov berú superinteligenciu vážne – a čo je vlastne v stávke, ak sa mýlime.