AI Safety seminář

[Connectez-vous ici.] (Https://airtable.com/shrmtl0n5hxxvhrca?utm_source=ais-seminar)

La date limite pour les applications est de 3.3.2025. Le séminaire de huit semaines commence dans la semaine à partir de 10.3.2025.

** L'intelligence artificielle est une énorme opportunité, mais aussi l'un des plus grands risques pour l'avenir de l'humanité. Comment s'assurer que les futurs systèmes d'intelligence artificielle transformatrice tournent considérablement le monde pour le mieux, pas vice versa? Pourquoi l'IA est-elle considérée comme un risque existentiel et des experts importants dans le domaine de la recherche sur l'intelligence artificielle?

L'intelligence artificielle générale (AGI) peut ne pas avoir de conscience en tant que personne, mais dans un avenir relativement proche, il peut renommer une personne à bien des égards. À l'heure actuelle, nous ne savons pas comment créer une telle IA afin que nous puissions garantir que ce n'est pas une menace pour l'humanité.

Nous avons préparé un séminaire de huit semaines selon [Programme] (https://www.eacbridge.org/agi-safety-fundamentals), qui est originaire à l'origine de l'Université de Cambridge. Vous pouvez vous connecter à l'une des versions de séminaire. Un séminaire est plus [technique] (https://course.aisafetyfundamentals.com/alignment) et l'autre se concentre sur [la gouvernance de l'IA] (https://course.aisafetyfundamentals.com/governance), c'est-à-dire la rectification via les normes, les réglementations et les approches de la politique étrangère de la sécurité internationale.

** Pour qui est le séminaire destiné? **
Vous pouvez demander les deux versions du séminaire sans connaissance préalable de l'apprentissage automatique, si vous êtes prêt à consacrer du temps supplémentaire aux matériaux expliquant les principes de base de l'apprentissage automatique la première semaine.

Connectez-vous pour comprendre pourquoi les méthodes actuelles de développement d'IA n'ont pas sa sécurité à long terme pour la société et l'humanité, et vous voulez savoir quoi en faire.

Le séminaire peut être suivi par des projets de travail pratiques concernant l'évaluation par exemple des modèles de grandes langues.

** 💡 que allez-vous apprendre? **
** Séminaire de sécurité technique AI **

* Brève introduction dans les réseaux de neurones et comment l'IA s'entraîne
* Qu'est-ce que l'intelligence artificielle générale (AGI) et la rapidité
* Comment l'IA peut créer des objectifs instrumentaux, c'est-à-dire pourquoi il pourrait résister à l'arrêt ou pourquoi il pourrait commencer à accumuler des ressources.
* Comment une fonction de récompense manquée peut conduire à l'optimisation d'un comportement indésirable (piratage de récompense, erreur de récompense)
* Comment IA peut-il errer pour généraliser leurs objectifs dans la formation
* Comment évoluer la possibilité de supervision de l'IA si nous cessons de comprendre les problèmes qu'il résout
* Quelles sont les procédures actuellement proposées pour une formation en toute sécurité
* À quoi ressemble la recherche à l'interprétabilité, c'est-à-dire la capacité de comprendre ce que l'IA «pense»
* Comment l'IA représente les agents et l'agence au sein

L'ensemble du programme peut être trouvé [ici] (https://course.aisafetyfundamentals.com/alignment).

** Séminaire o Ai Governance **

* Brève introduction dans les réseaux de neurones et comment l'IA s'entraîne
* Quels risques catastrophiques spécifiques de face AI mal réglée
* Pourquoi la sécurité de l'IA est difficile à atteindre
* Quelles normes et réglementations peuvent aider à l'élaboration sûre de l'IA
* Comment limiter les possibilités de développer des systèmes d'IA dangereux à des acteurs dangereux
* Comment conduire le risque d'IA grâce à la régulation de la production de puces
* Comment assurer la coopération internationale

L'ensemble du programme peut être trouvé [ici] (https://course.aisafetyfundamentals.com/governance).

** 🎓 Comment va le séminaire? **
Vous lirez des textes de différentes sources en anglais chaque semaine. La préparation prend environ 3 heures par semaine ou plus (selon vos soins).
Vous serez divisé en petits groupes de 3 à 6 personnes qui se réuniront une fois par semaine pendant une heure à une heure et demie de longueur, où vous discutera des textes de lecture de la semaine. La discussion elle-même se déroule en tchèque.

La discussion vous aidera à comprendre et à organiser vos pensées et à connaître les personnes intéressantes qui s'intéressent à l'IA et à sa sécurité. La discussion sera modérée par un facilitateur expérimenté qui aide à prendre soin de sa qualité et assure un environnement sûr et stimulant.

** ⏳ Quand? La réunion sera de 8 ou 9 - une semaine une.

** 🗺️ où? La date limite des candidatures est le lundi 3 mars. Au cours de la semaine qui a suivi la date limite, des réunions régulières spécifiques seront organisées en fonction des possibilités de temps des participants dans les groupes individuels. La réunion aura lieu de 8 à une semaine.

** 🏷️ Prix: ** GRATUIT

👉 **

** Vous n'avez pas le temps?
Si vous êtes intéressé par l'IA, mais pour des raisons de temps, vous ne pouvez pas participer au séminaire, contactons-nous vous-même et nous vous contacterons avec d'autres opportunités de s'engager (événements, discussions, conférences, projets).

[Je veux être contacté / a] (https://forms.gle/jqvafwphpzmiffy8)

Vous ne voulez pas d'autres opportunités similaires de s'échapper? Vous pouvez découvrir les nouvelles sur notre [site Web] (https://efectivni-altruisme.cz/) ou sur les [pages Facebook] (https://www.facebook.com/efectivnialtruisme), ou vous pouvez vous connecter. Bulletin.