AI Safety seminář

[Accedi qui.] (Https://airtable.com/shrmtl0n5hxxvhrca?utm_source=ais-seminar)

La scadenza per le applicazioni è 3.3.2025. Il seminario di otto settimane inizia nella settimana da 10.3.2025.

** L'intelligenza artificiale è un'enorme opportunità, ma anche uno dei maggiori rischi per il futuro dell'umanità. Come assicurare che i futuri sistemi di intelligenza artificiale trasformativa trasformino in modo significativo il mondo in meglio, non viceversa? Perché l'IA è considerata un rischio esistenziale e esperti significativi nel campo della ricerca sull'intelligenza artificiale?

L'intelligenza artificiale generale (AGI) potrebbe non avere coscienza come persona, eppure nel futuro relativamente vicino, può essere rinomata una persona in molti modi. Al momento, non sappiamo come creare tale INA in modo da poter garantire che non sia una minaccia per l'umanità.

Abbiamo preparato un seminario di otto settimane secondo [programma] (https://www.eacbridge.org/agi-safety-fundamentals), originariamente originariamente dell'Università di Cambridge. Puoi accedere a una delle versioni del seminario. Un seminario è più [tecnico] (https://course.aisafetyfundamentals.com/alignment) e l'altro è focalizzato su [Governance AI] (https://course.aisafetyfundamentals.com/Governance), IE Recction attraverso gli standard, i regolamenti e gli approcci di politica estera per la sicurezza.

** Per chi è previsto il seminario?
Puoi richiedere entrambe le versioni del seminario senza la precedente conoscenza dell'apprendimento automatico, se sei disposto a dedicare tempo aggiuntivo ai materiali che spiegano i principi di base dell'apprendimento automatico nella prima settimana.

Accedi per capire perché gli attuali metodi di sviluppo dell'IA non hanno la sua sicurezza a lungo termine per la società e l'umanità e vuoi imparare cosa farne.

Il seminario può essere seguito da progetti di lavoro pratici riguardanti la valutazione EG di modelli di grandi dimensioni.

** 💡 Cosa imparerai?
** Seminario di sicurezza tecnica Ai **

* Breve introduzione nelle reti neurali e come AI si allena
* Cos'è l'intelligenza artificiale generale (AGI) e quanto velocemente ci stiamo dirigendo verso di esso
* Come l'IA può creare obiettivi strumentali, cioè perché potrebbe resistere all'arresto o perché potrebbe iniziare ad accumulare risorse.
* In che modo una funzione di ricompensa può portare all'ottimizzazione di un comportamento indesiderato (hacking di ricompensa, premi errata specificazione)
* In che modo l'IA può errori per generalizzare i propri obiettivi in ​​allenamento
* Come scalare la possibilità di supervisione dell'IA se smettiamo di capire i problemi che risolve
* Quali sono le procedure attualmente proposte per la formazione sicura AI
* Che aspetto ha la ricerca interpretabilità, cioè la capacità di capire cosa "pensa".
* Come l'IA rappresenta agenti e agenzia all'interno

L'intero programma può essere trovato [qui] (https://course.aisafetyfundamentals.com/alignment).

** Seminario o governance **

* Breve introduzione nelle reti neurali e come AI si allena
* Quali specifici rischi catastrofici di faccia ai scarsamente impostati
* Perché la sicurezza dell'IA è difficile da raggiungere
* Quali standard e regolamenti possono aiutare con lo sviluppo sicuro dell'IA
* Come limitare le possibilità di sviluppare sistemi di intelligenza artificiale per pericolosi attori
* Come guidare il rischio di intelligenza artificiale attraverso la regolamentazione della produzione di chips
* Come garantire la cooperazione internazionale

L'intero programma può essere trovato [qui] (https://course.aisafetyfundamentals.com/governance).

** 🎓 Come va il seminario?
Leggerai testi di diverse fonti in inglese ogni settimana. La preparazione richiede circa 3 ore alla settimana o più (a seconda delle cure).
Sarai diviso in gruppi più piccoli da 3 a 6 persone che si incontreranno una volta alla settimana per un'ora a un'ora e mezza di discussione, in cui discuterai dei testi di lettura per la settimana. La discussione stessa si svolge in ceco.

La discussione ti aiuterà a capire e organizzare i tuoi pensieri e anche conoscere persone interessanti che sono interessate all'IA e alla sua sicurezza. La discussione sarà moderata da un facilitatore esperto che aiuta a prendersi cura della sua qualità e garantisce un ambiente sicuro e stimolante.

** ⏳ Quando? L'incontro avrà 8 o 9 - una settimana uno.

** 🗺️ dove? La scadenza per le domande è lunedì 3 marzo. Nella settimana successiva alla scadenza, verranno organizzate incontri regolari specifici in base alle possibilità dei partecipanti ai singoli gruppi. L'incontro avrà 8 - una settimana uno.

** 🏷️ Prezzo: ** GRATUITO

👉 **

** Non hai tempo?
Se sei interessato all'intelligenza artificiale, ma per motivi di tempo non puoi partecipare al seminario, lasciaci contattare te stesso e ti contatteremo con altre opportunità di coinvolgere (eventi, discussioni, lezioni, progetti).

[Voglio essere contattato/a] (https://forms.gle/jqvafwphpzmiffy8)

Non vuoi altre opportunità simili per fuggire? Puoi scoprire le notizie sul nostro [sito Web] (https://efectivni-altruism.cz/) o sulle [pagine di Facebook] (https://www.facebook.com/efectivnialtruism) o puoi accedere. Newsletter.