AI sentience meetups: AI sentience and AI alignment

** Une approche moralement acceptable du développement de l'IA doit équilibrer l'intersection de l'alignement de l'IA et du traitement éthique, car la poursuite d'un objectif peut compromettre par inadvertance l'autre. Les tentatives d'aligner les systèmes d'IA, en particulier ceux qui ont la capacité de sensibilité, pourraient facilement conduire à leurs mauvais traitements, soulevant des questions critiques sur notre chemin à suivre. **
❓ Quel rôle des traits nocifs tels que les schémas, la tromperie ou l'alignement instrumental des objectifs devraient-ils jouer pour diminuer la position morale d'un système d'IA, voire pas du tout?
❓Commez-nous pour équilibrer les objectifs d'assurer la sécurité humaine avec un traitement éthique en offrant des droits fondamentaux à AIS qui sont donnés aux humains ou / et aux sociétés? Si oui, quels sont les risques?
❓Quelles actions spécifiques (le cas échéant) pourraient atténuer les risques de mauvais traitements qui pourraient survenir pendant les processus d'alignement de l'IA?
❓S n'est-il pas une alternative plus prometteuse et prometteuse consciente et pro-sociale une alternative plus prometteuse pour comprendre les valeurs humaines?
** lectures: **
👉 Alignement AI vs Traitement éthique de l'IA: Dix défis (Bradley, Saad, 2024): [https://globalprioritésinstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignment-vs-ai-ethical-treatment_-ten-challenge.pdf] (https://globalprioritésinstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignment-vs-ai-ethical-treatment_-ten-challenge.pdf)
(29 pages, 60 min)
**Facultatif:**
🫴 Droits AI pour la sécurité humaine (Salib, Goldstein, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes
(Lire recommandée: Résumé, introduction, conclusion et annexe, 11 pages, 25 min)