AI Safety seminář

[Faça login aqui.] (Https://airtable.com/shrmtl0n5hxxvhrca?utm_source=ais-seminar)

O prazo para aplicações é 3.3.2025. O seminário de oito semanas começa na semana a partir das 10.3.2025.

** A inteligência artificial é uma grande oportunidade, mas também um dos maiores riscos para o futuro da humanidade. Como garantir que futuros sistemas de inteligência artificial transformadora voltem o mundo significativamente para melhor, não vice -versa? Por que a IA considerou um risco existencial e especialistas significativos no campo da pesquisa de inteligência artificial?

A Inteligência Artificial Geral (AGI) pode não ter consciência como pessoa, mas, no futuro relativamente próximo, pode superar uma pessoa de várias maneiras. Atualmente, não sabemos como criar a IA para garantir que não seja uma ameaça para a humanidade.

Preparamos um seminário de oito semanas de acordo com [Programa] (https://www.acbridge.org/agi-safety-fundamentals), que originalmente se originou na Universidade de Cambridge. Você pode fazer login em uma das versões do seminário. Um seminário é mais [técnico] (https://course.aisafetyfundamentals.com/alignment) e o outro está focado em [governança da IA] (https://course.aisafetyfundsamentals.com/governança), ou seja, retificação por meio de padrões, regulamentos e abordagens de política externa à segurança internacional.

** Para quem o seminário é pretendido?
Você pode se inscrever para as duas versões do seminário sem conhecimento prévio do aprendizado de máquina, se estiver disposto a dedicar tempo adicional aos materiais que explicam os princípios básicos do aprendizado de máquina na primeira semana.

Faça login para entender por que os métodos atuais de desenvolvimento de IA não têm sua segurança a longo prazo para a sociedade e a humanidade, e você deseja aprender o que fazer com ela.

O seminário pode ser seguido por projetos de trabalho prático relativos à avaliação de EG de grandes modelos de idiomas.

** 💡 O que você aprenderá?
** Seminário de Segurança Técnica AI **

* Breve introdução nas redes neurais e como a IA treina
* O que é inteligência artificial geral (AGI) e com que rapidez estamos indo para ela
* Como a IA pode criar objetivos instrumentais, ou seja, por que ela pode resistir ao desligamento ou por que poderia começar a acumular recursos.
* Quão perdida uma função de recompensa pode levar à otimização do comportamento indesejável (hackers de recompensa, recompensa incorretamente)
* Como a IA pode errar para generalizar seus objetivos em treinamento
* Como escalar a possibilidade de supervisão da IA ​​se pararmos de entender os problemas que resolve
* Quais são os procedimentos atualmente propostos para treinamento seguro ai
* O que a pesquisa parece interpretabilidade, isto é, a capacidade de entender o que a IA "pensa"
* Como a IA representa agentes e agência dentro

Todo o programa pode ser encontrado [aqui] (https://course.aisafetyfundamentals.com/alignment).

** Seminário O Ai Governança **

* Breve introdução nas redes neurais e como a IA treina
* Que riscos catastróficos específicos de definir mal ai
* Por que a segurança da IA ​​é difícil de alcançar
* Quais padrões e regulamentos podem ajudar com o desenvolvimento seguro de IA
* Como limitar as possibilidades de desenvolver sistemas de IA perigosos para atores perigosos
* Como promover o risco de IA através da regulamentação da produção de chips
* Como garantir a cooperação internacional

Todo o programa pode ser encontrado [aqui] (https://course.aisafetyfundamentals.com/governance).

** 🎓 Como vai o seminário?
Você lerá textos de diferentes fontes em inglês toda semana. A preparação leva cerca de 3 horas por semana ou mais (dependendo dos seus cuidados).
Você será dividido em grupos menores de 3 a 6 pessoas que se encontrarão uma vez por semana durante uma hora a uma hora e meia de discussão, onde você discutirá os textos de leitura da semana. A discussão em si ocorre em tcheco.

A discussão o ajudará a entender e organizar seus pensamentos e também conhecer pessoas interessantes que estão interessadas em IA e sua segurança. A discussão será moderada por um facilitador experiente que ajuda a cuidar de sua qualidade e garante um ambiente seguro e estimulante.

** ⏳ Quando? A reunião será de 8 ou 9 - uma semana.

** 🗺️ Onde? O prazo para inscrições é na segunda -feira, 3 de março. Na semana após o prazo, reuniões regulares específicas serão organizadas de acordo com as possibilidades de tempo dos participantes dos grupos individuais. A reunião será de 8 a uma semana.

** 🏷️ Preço: ** grátis

👉 **

** Não tem tempo?
Se você estiver interessado em IA, mas por motivos do tempo não poderá participar do seminário, entre em contato com si mesmo e entraremos em contato com outras oportunidades de se envolver (eventos, discussões, palestras, projetos).

[Eu quero ser contatado/a] (https://forms.gle/jqvafwphpzmiffy8)

Você não quer outras oportunidades semelhantes para escapar? Você pode descobrir as notícias em nosso [site] (https://efectivni-altruism.cz/) ou nas [Páginas do Facebook] (https://www.facebook.com/efectivnialtruism) ou pode fazer login. Boletim informativo.