AI sentience meetups: AI sentience and AI alignment

** Uma abordagem moralmente aceitável para o desenvolvimento da IA ​​deve equilibrar a interseção do alinhamento da IA ​​e do tratamento ético, pois a busca de um objetivo pode prejudicar inadvertidamente o outro. Tentativas de alinhar os sistemas de IA, especificamente aqueles com capacidade de senciência, podem facilmente levar a seus maus -tratos, levantando questões críticas sobre o nosso caminho a seguir. **
❓ Que papel deve ser traços prejudiciais, como esquema, engano ou alinhamento de metas instrumentais, diminuindo a posição moral de um sistema de IA, se é que existe?
❓ Podemos equilibrar os objetivos de garantir a segurança humana em tratar eticamente a IA, dando à AIS alguns direitos básicos que são dados a seres humanos ou/e corporações? Se sim, quais são os riscos?
❓ Que ações específicas (se houver) podem mitigar os riscos de maus -tratos que poderiam surgir durante os processos de alinhamento da IA?
“A IA consciente e pró-social não é uma alternativa mais promissora para entender os valores humanos?
** Leituras: **
👉 Alinhamento da AI vs. Ai Treatment: Dez Desafios (Bradley, Saad, 2024): [https://globalprioritiesinstitute.org/wp-content/uploads/adam-bradley-and-bradford-daad-ai-alignment-vs-ai-ethical-treatment_-ten-challeges.pdf] (https://globalprioritiesinstitute.org/wp-content/uploads/adam-bradley-and-bradford-daad-ai-alignment-vs-ai-ethical-treatment_-ten-challeges.pdf)
(29 páginas, 60 min)
**Opcional:**
🫴 Direitos da AI para a Segurança Humana (Salib, Goldstein, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes ](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167.
(Leia recomendada: Resumo, Introdução, Conclusão e Apêndice, 11 páginas, 25 min)