Superintelligent AI and Loss of Control

​Un taller para principiantes sobre IA de superinteligencia y cómo esta nueva tecnología está evolucionando e impactando a la sociedad.
​**Gratis y abierto al público: no se requieren conocimientos técnicos**
¿Qué significaría realmente que las máquinas se volvieran más inteligentes que los humanos, no sólo en el ajedrez o en la escritura, sino en *todo*? Durante décadas, los científicos e investigadores han debatido la idea de una **IA superinteligente**: sistemas que podrían superar a los humanos en casi todas las tareas cognitivas. Lo que alguna vez pareció ciencia ficción lejana ahora se discute cada vez más como una posibilidad real dentro de nuestras vidas.
​Este taller es una introducción guiada e interactiva a la idea de superinteligencia y el problema de la **pérdida de control**: qué sucede si creamos sistemas que son más capaces que nosotros, pero cuyos objetivos no se alinean perfectamente con los valores humanos.
​**Durante el transcurso del taller, exploraremos:**

* ​**Superinteligencia:** Qué significa que un sistema de IA supere la inteligencia humana en todos los dominios y en qué se diferencia de la IA actual.
* ​**Poder y control:** Por qué la IA avanzada podría ejercer una enorme influencia económica, política y estratégica, y por qué “simplemente apagarla” puede no ser realista.
* ​**Riesgos de desalineación:** Cómo los sistemas que persiguen objetivos *incorrectos* podrían causar daños incluso sin intenciones maliciosas.
* ​**Elecciones sociales:** La forma en que las decisiones que se toman hoy (por investigadores, empresas y gobiernos) pueden determinar si la IA se convierte en una herramienta que controlamos o en una fuerza que luchamos por contener.

​**Lo que obtendrás:**

* ​Una introducción clara y no técnica a las ideas centrales de la investigación de riesgos existenciales y de seguridad de la IA.
* ​Demostraciones en vivo de las capacidades actuales de IA, para fundamentar inquietudes abstractas en sistemas reales.
* ​Discusiones en grupos pequeños y experimentos mentales que conectan los riesgos de la IA con la vida cotidiana, las instituciones y los incentivos.
* ​Un mejor modelo mental para evaluar titulares, exageraciones y afirmaciones sobre el progreso de la IA.

​**Formato y ambiente:**
​Esta no es una conferencia, es un taller interactivo diseñado para ayudar a las personas a pensar con claridad sobre un tema que es cada vez más importante y que avanza muy rápidamente.
Ya sea que sea nuevo en la IA, esté interesado casualmente o esté profundamente inseguro de qué creer, se irá con una idea más clara de *por qué* muchos investigadores toman en serio la superinteligencia y *lo que realmente está en juego* si nos equivocamos.