AI Safety seminář

[Inicie sesión aquí.] (Https://airtable.com/shrmtl0n5hxxvhrca?utm_source=ais-seminar)

La fecha límite para las aplicaciones es 3.3.2025. El seminario de ocho semanas comienza en la semana desde 10.3.2025.

** La inteligencia artificial es una gran oportunidad, pero también uno de los mayores riesgos para el futuro de la humanidad. ¿Cómo asegurar que los sistemas de inteligencia artificiales transformadores futuros cambien el mundo significativamente para mejor, no viceversa? ¿Por qué la IA se considera un riesgo existencial y expertos significativos en el campo de la investigación de inteligencia artificial?

La inteligencia artificial general (AGI) puede no tener conciencia como persona, sin embargo, en un futuro relativamente cercano, puede salir de renombre a una persona de muchas maneras. En la actualidad, no sabemos cómo crear dicha IA para que podamos garantizar que no sea una amenaza para la humanidad.

Hemos preparado un seminario de ocho semanas según [programa] (https://www.eacbridge.org/agi-safety-fundamentals), que originalmente se originó en la Universidad de Cambridge. Puede iniciar sesión en una de las versiones del seminario. Un seminario es más [técnico] (https://course.aisafetyfundamentals.com/alignment) y el otro se centra en [la gobernanza de AI] (https://course.aisafetyfundamentals.com/Governance), es decir, rectificación a través de estándares, regulaciones y enfoques de política exterior para la seguridad internacional.

** ¿Para quién está destinado el seminario?
Puede solicitar ambas versiones del seminario sin conocimiento previo del aprendizaje automático, si está dispuesto a dedicar tiempo adicional a los materiales que explican los principios básicos del aprendizaje automático en la primera semana.

Inicie sesión para comprender por qué los métodos actuales de desarrollo de IA no tienen su seguridad a largo plazo para la sociedad y la humanidad, y desea aprender qué hacer con él.

El seminario puede ser seguido por proyectos de trabajo prácticos sobre la evaluación de EG de modelos de idiomas grandes.

** 💡 ¿Qué aprenderás?
** Seminario de seguridad técnica ai **

* Introducción breve en redes neuronales y cómo entrena AI
* ¿Qué es la inteligencia artificial general (AGI) y qué tan rápido nos dirigimos a ella?
* Cómo la IA puede crear objetivos instrumentales, es decir, por qué podría resistir el cierre o por qué podría comenzar a acumular recursos.
* Cómo perdió una función de recompensa puede conducir a la optimización del comportamiento indeseable (piratería de recompensas, recompensa malpecificación maltratada)
* ¿Cómo puede AI erril para generalizar sus objetivos en el entrenamiento?
* Cómo calmar la posibilidad de supervisión de la IA si dejamos de comprender los problemas que resuelve
* ¿Cuáles son los procedimientos propuestos actualmente para la AI de capacitación segura?
* ¿Qué parece la investigación como la interpretabilidad, es decir, la capacidad de comprender lo que AI "piensa"
* Cómo la IA representa a los agentes y la agencia dentro

Se puede encontrar todo el plan de estudios [aquí] (https://course.aisafetyfundamentals.com/alignment).

** Seminario o AI Gobierno **

* Introducción breve en redes neuronales y cómo entrena AI
* ¿Qué riesgos catastróficos específicos de la cara de IA mal establecida
* Por qué la seguridad de la IA es difícil de alcanzar
* ¿Qué estándares y regulaciones pueden ayudar con el desarrollo seguro de la IA?
* Cómo limitar las posibilidades de desarrollar sistemas de IA peligrosos a actores peligrosos
* Cómo impulsar el riesgo de IA a través de la regulación de la producción de chips
* Cómo garantizar la cooperación internacional

Se puede encontrar todo el plan de estudios [aquí] (https://course.aisafetyfundamentals.com/governance).

** 🎓 ¿Cómo va el seminario?
Leerá textos de diferentes fuentes en inglés cada semana. La preparación toma aproximadamente 3 horas a la semana o más (dependiendo de su cuidado).
Se dividirá en grupos más pequeños de 3 a 6 personas que se reunirán una vez por semana durante una hora a una hora y media de discusión, donde discutirá los textos de lectura para la semana. La discusión en sí tiene lugar en checo.

La discusión lo ayudará a comprender y organizar sus pensamientos y también conocer personas interesantes que estén interesadas en la IA y su seguridad. La discusión será moderada por un facilitador experimentado que ayuda a cuidar su calidad y garantiza un entorno seguro y estimulante.

** ⏳ ¿Cuándo? La reunión será 8 o 9 - una semana uno.

** 🗺️ ¿Dónde? La fecha límite para las solicitudes es el lunes 3 de marzo. En la semana posterior a la fecha límite, se organizarán reuniones regulares específicas de acuerdo con las posibilidades de tiempo de los participantes en los grupos individuales. La reunión será 8 - una semana uno.

** 🏷️ Precio: ** GRATIS

👉 **

** ¿No tienes tiempo?
Si está interesado en la IA, pero por razones de tiempo, no puede participar en el seminario, contacemos a usted mismo y nos comunicaremos con otras oportunidades para participar (eventos, discusiones, conferencias, proyectos).

[Quiero ser contactado/A] (https://forms.gle/jqvafwphpzmiffy8)

¿No quieres otras oportunidades similares para escapar? Puede conocer las noticias en nuestro [sitio web] (https://efectivni-altruism.cz/) o en [Páginas de Facebook] (https://www.facebook.com/efectivnialtruism), o puede iniciar sesión. Hoja informativa.