Superintelligent AI and Loss of Control

Aprofunde-se nos riscos da IA superinteligente se tornar desonesta e no que podemos fazer antes que seja tarde demais.

​Um workshop para iniciantes sobre IA de superinteligência e como essa nova tecnologia está evoluindo e impactando a sociedade.

​Gratuita e aberta ao público — não é necessária formação técnica

​O que significaria realmente se as máquinas se tornassem mais inteligentes que os humanos — não apenas no xadrez ou na escrita, mas em tudo? Durante décadas, cientistas e investigadores debateram a ideia de uma IA superinteligente: sistemas que poderiam superar os humanos em quase todas as tarefas cognitivas. O que antes parecia ficção científica distante é agora cada vez mais discutido como uma possibilidade real em nossas vidas.

​Este workshop é uma introdução guiada e interativa à ideia de superinteligência e ao problema da perda de controle—o que acontece se criarmos sistemas que são mais capazes do que nós, mas cujos objetivos não se alinham perfeitamente com os valores humanos.

​Ao longo do workshop, iremos explore:

• ​Superinteligência: O que significa para um sistema de IA superar a inteligência humana em todos os domínios e como isso difere da IA atual.
• ​Poder e controle: Por que a IA avançada pode exercer enorme influência econômica, política e estratégica - e por que “simplesmente desligá-la” pode não ser realista.
• ​Riscos de desalinhamento: como os sistemas que buscam os objetivos errados podem causar danos mesmo sem intenção maliciosa.
• ​Escolhas sociais: como as decisões tomadas hoje - por pesquisadores, empresas e governos - podem determinar se a IA se tornará uma ferramenta que controlamos ou uma força que lutamos para controlar contém.

​O que você obterá:

• ​Uma introdução clara e não técnica às ideias principais da segurança da IA e da pesquisa de risco existencial.
• ​Demonstações ao vivo das capacidades atuais da IA, para fundamentar preocupações abstratas em sistemas reais.
• ​Discussões em pequenos grupos e experimentos mentais que conectam os riscos da IA à vida cotidiana, às instituições e aos incentivos.
• ​Uma mente melhor modelo para avaliar manchetes, exageros e afirmações sobre o progresso da IA.

​Formato e vibração:

​Esta não é uma palestra, é um workshop interativo projetado para ajudar as pessoas a pensar com clareza sobre um tópico que é cada vez mais importante e está evoluindo muito rapidamente.

​Se você é novo na IA, tem interesse casual ou está profundamente inseguro em que acreditar, você sairá com uma imagem mais clara de por que muitos pesquisadores levam a superinteligência a sério e o que realmente está em jogo se errarmos.