AI sentience meetups: AI sentience and AI alignment

** Un enfoque moralmente aceptable para el desarrollo de la IA debe equilibrar la intersección de la alineación de la IA y el tratamiento ético, ya que perseguir un objetivo puede socavar inadvertidamente al otro. Los intentos de alinear los sistemas AI, específicamente aquellos con la capacidad de sensibilidad, podrían llevar fácilmente a su maltrato, planteando preguntas críticas sobre nuestro camino a seguir. **
❓ ¿Qué papel deberían jugar rasgos dañinos como el esquema, el engaño o la alineación de objetivos instrumentales para disminuir la posición moral de un sistema de IA, si es que lo hacen?
❓ ¿Podemos equilibrar los objetivos de garantizar la seguridad humana con el tratamiento éticamente de la IA dando a AI algunos derechos básicos que se otorgan a los humanos o corporaciones? Si es así, ¿cuáles son los riesgos?
❓ ¿Qué acciones específicas (si alguna) podrían mitigar los riesgos de maltrato que podrían surgir durante los procesos de alineación de IA?
¿No es una IA empática y pro-social consciente una alternativa más prometedora para comprender los valores humanos?
** Lecturas: **
👉 Alineación de IA versus tratamiento ético de AI: diez desafíos (Bradley, Saad, 2024): [https://globalprioritiesInstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignment-vs-ai-thical-tratment_-ten-challenges.pdf] (https://globalprioritiesInstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignment-vs-ai-ethical-tratment_-ten-challenges.pdf)
(29 páginas, 60 min)
**Opcional:**
🫴 Derechos de IA para la seguridad humana (Salib, Goldstein, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yesfont>(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download)
(Leer recomendado: Resumen, Introducción, Conclusión y Apéndice, 11 páginas, 25 min)