AI sentience meetups: AI sentience and AI alignment

** Морально приемлемый подход к развитию ИИ должен сбалансировать пересечение выравнивания ИИ и этического обращения, поскольку преследование одной цели может непреднамеренно подорвать другую. Попытки согласовать системы ИИ, в частности, системы, обладающие способностью к чувствительности, могут легко привести к их жестокому обращению, поднимая критические вопросы о нашем пути вперед. **
❓ Какую роль должны играть вредные черты, такие как интриги, обманы или инструментальное выравнивание целей, чтобы уменьшить моральное положение системы ИИ, если вообще?
❓ Можно ли мы сбалансировать цели обеспечения безопасности человека с этическим лечением ИИ, предоставляя ИИ некоторым основным правам, которые предоставляются людям или/и корпорациям? Если так, каковы риски?
❓ Какие конкретные действия (если таковые имеются) могли смягчить риски плохого обращения, которые могут возникнуть в процессе выравнивания искусственного интеллекта?
«Разве сознательное сочувствие и просоциальное ИИ-более многообещающая альтернатива для понимания человеческих ценностей?
** Чтение: **
👉 Выравнивание AI против AI Этическое лечение: десять проблем (Bradley, Saad, 2024): [https://globalprioritiesInstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alcenment vs-ai-ethical-treatment_-ten-challenges.pdf] (https://globalprioritietyinstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alcenment-vs-ai-etical-treatment_-ten-challenges.pdf)
(29 страниц, 60 мин)
**Необязательный:**
🫴 Права ИИ на безопасность человека (Салиб, Гольдштейн, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes!(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes)
(Рекомендуется прочитать: Аннотация, введение, заключение и приложение, 11 страниц, 25 мин).