Superintelligent AI and Loss of Control

Sumérgete en los riesgos de que la IA superinteligente se vuelva deshonesta y qué podemos hacer antes de que sea demasiado tarde.

​Un taller para principiantes sobre IA de superinteligencia y cómo esto la nueva tecnología está evolucionando e impactando a la sociedad.

​Gratuita y abierta al público, no se requiere experiencia técnica

​¿Qué significaría realmente que las máquinas se volvieran más inteligentes que los humanos, no solo en el ajedrez o la escritura, sino en todo? Durante décadas, científicos e investigadores han debatido la idea de una IA superinteligente: sistemas que podrían superar a los humanos en casi todas las tareas cognitivas. Lo que alguna vez sonó como ciencia ficción lejana ahora se discute cada vez más como una posibilidad real dentro de nuestras vidas.

​Este taller es una introducción guiada e interactiva a la idea de superinteligencia y el problema de la pérdida de control: qué sucede si creamos sistemas que son más capaces que nosotros, pero cuyos objetivos no se alinean perfectamente con los valores humanos.

​A lo largo del taller, analizaremos explore:

• ​Superinteligencia: qué significa que un sistema de IA supere la inteligencia humana en todos los dominios y en qué se diferencia de la IA actual.
• ​Poder y control: por qué la IA avanzada podría ejercer una enorme influencia económica, política y estratégica, y por qué “simplemente apagarla” puede no ser una buena idea realista.
• ​Riesgos de desalineación: Cómo los sistemas que persiguen objetivos incorrectos podrían causar daño incluso sin intención maliciosa.
• ​Elecciones sociales: Cómo las decisiones tomadas hoy (por investigadores, empresas y gobiernos) pueden determinar si la IA se convierte en una herramienta que controlamos o en una fuerza por la que luchamos contiene.

​Lo que obtendrá:

• ​Una introducción clara y no técnica a las ideas centrales de la seguridad de la IA y la investigación de riesgos existenciales.
• ​Demostraciones en vivo de las capacidades actuales de la IA, para fundamentar inquietudes abstractas en sistemas reales.
• ​Discusiones en grupos pequeños y experimentos mentales que conectan los riesgos de la IA con la vida cotidiana, las instituciones y los incentivos.
• ​Un mejor modelo mental para evaluar titulares, publicidad y afirmaciones sobre el progreso de la IA.

​Formato y ambiente:

​Esta no es una conferencia, es un taller interactivo diseñado para ayudar a las personas a pensar con claridad sobre un tema que es cada vez más importante y que avanza muy rápidamente.

​Ya sea que sea nuevo en la IA, esté casualmente interesado o esté profundamente inseguro de qué creer, se irá con una imagen más clara de por qué muchos investigadores se toman en serio la superinteligencia y qué está realmente en juego si nos equivocamos.