AI Safety seminář

[Prihláste sa sem.] (Https://airtable.com/shrmtl0N5Hxxvhrca?utm_source=ais-seminar)

Termín pre žiadosti je 3.3.2025. Osemtýždňový seminár sa začína v týždni od 10.3.2025.

** Umelá inteligencia je obrovskou príležitosťou, ale tiež jedným z najväčších rizík pre budúcnosť ľudstva. Ako zaistiť, že budúce systémy transformačnej umelej inteligencie značne otáčajú svet k lepšiemu, nie naopak? Prečo sa AI považuje za existenčné riziko a významných odborníkov v oblasti výskumu umelej inteligencie?

Všeobecná umelá inteligencia (AGI) nemusí mať vedomie ako osoba, napriek tomu v relatívne blízkej budúcnosti môže osobe znásilniť mnohými spôsobmi. V súčasnosti nevieme, ako vytvoriť takúto AI, aby sme mohli zaručiť, že nejde o hrozbu pre ľudstvo.

Podľa [programu] (https://www.eacbridge.org/agi-safety-funmentáli), ktorý pôvodne vznikol na University of Cambridge. Môžete sa prihlásiť do jednej z seminárov. Jeden seminár je viac [Technical] (https://course.aisafetyfunmamentals.com/Alignment) a druhý sa zameriava na [riadenie AI] (https://course.aisafetyfunmamentals.com/governace), tj rektifikáciu prostredníctvom štandardov, nariadení a cudzích politických prístupov k medzinárodnej bezpečnosti.

** Pre koho je seminár zamýšľaný?
Môžete požiadať o obe verzie seminára bez predchádzajúcich znalostí strojového učenia, ak ste ochotní venovať ďalší čas materiálom vysvetľujúcim základné princípy strojového učenia v prvom týždni.

Prihláste sa, aby ste pochopili, prečo súčasné metódy vývoja AI nemajú svoju dlhoročnú bezpečnosť pre spoločnosť a ľudstvo, a chcete sa naučiť, čo s tým robiť.

Po seminári môžu nasledovať praktické pracovné projekty týkajúce sa hodnotenia veľkých jazykových modelov.

** 💡 Čo sa naučíte?
** Seminár technickej bezpečnosti Ai **

* Stručné úvod do neurónových sietí a ako AI trénuje
* Čo je všeobecná umelá inteligencia (AGI) a ako rýchlo smerujeme k nej
* Ako môže AI vytvárať inštrumentálne ciele, tj, prečo by to mohlo odolávať vypínaniu alebo prečo by mohla začať akumulovať zdroje.
* Ako zmeškaná funkcia odmeňovania môže viesť k optimalizácii nežiaduceho správania (odmeňovanie hackingu, odmeňovanie Misspecification)
* Ako sa môže AI objaviť, aby zovšeobecnila svoje ciele v školení
* Ako škálovať možnosť dohľadu nad AI, ak prestaneme porozumieť problémom, ktoré rieši
* Aké sú v súčasnosti navrhované postupy pre bezpečné školenie AI
* Aký výskum vyzerá ako interpretabilita, to znamená schopnosť pochopiť, čo AI „si myslí“
* Ako AI zastupuje agentov a agentúry v rámci

Celý učebný účel nájdete [tu] (https://course.aisafetyfunmamentals.com/alignment).

** Seminár o správe AI **

* Stručné úvod do neurónových sietí a ako AI trénuje
* Aké špecifické katastrofické riziká slabo nastavenej tváre AI
* Prečo je ťažké dosiahnuť bezpečnosť AI
* Aké normy a nariadenia môžu pomôcť s bezpečným vývojom AI
* Ako obmedziť možnosti rozvoja nebezpečných systémov AI na nebezpečných aktérov
* Ako riadiť riziko AI prostredníctvom regulácie výroby čipov
* Ako zabezpečiť medzinárodnú spoluprácu

Celý učebný účel nájdete [tu] (https://course.aisafetyfunmamentals.com/Governance).

** 🎓 Ako ide seminár?
Každý týždeň budete čítať texty z rôznych zdrojov v angličtine. Príprava trvá asi 3 hodiny týždenne alebo viac (v závislosti od vašej starostlivosti).
Budete sa rozdeliť na menšie skupiny po 3 až 6 ľudí, ktorí sa stretnú raz týždenne po dobu hodiny až hodinu a pol dlhej diskusie, kde budete diskutovať o čítaných textoch za týždeň. Samotná diskusia sa odohráva v Čech.

Diskusia vám pomôže porozumieť a zorganizovať vaše myšlienky a tiež spoznať zaujímavých ľudí, ktorí sa zaujímajú o AI a jej bezpečnosť. Diskusiu bude moderovať skúsený sprostredkovateľ, ktorý pomáha starať sa o jeho kvalitu a zaisťuje bezpečné a stimulačné prostredie.

** ⏳ Kedy? Schôdza bude 8 alebo 9 - jeden týždeň.

** 🗺 Kde? Termín pre žiadosti je v pondelok 3. marca. V týždni po termíne budú konkrétne pravidelné stretnutia usporiadané podľa časových možností účastníkov v jednotlivých skupinách. Schôdza bude 8 - jeden týždeň.

** 🏷 Cena: ** zadarmo

👉 **

** Nemáte čas?
Ak vás zaujíma AI, ale z časových dôvodov sa nemôžete zúčastniť seminára, kontaktujte sa a budeme vás kontaktovať s inými príležitosťami na zapojenie sa (udalosti, diskusie, prednášky, projekty).

[Chcem byť kontaktovaný/A] (https://forms.gle/jqvafwphpzmiffy8)

Nechcete, aby ste mohli uniknúť ďalšie podobné príležitosti? O novinkách sa dozviete na našej [webovej stránke] (https://efectivni-altruism.cz/) alebo na [Facebook Pages] (https://www.facebook.com/efectivnialtruism) alebo sa môžete prihlásiť. Bulletin.