AI sentience meetups: AI sentience and AI alignment

** Морально прийнятний підхід до розвитку ШІ повинен збалансувати перетин вирівнювання AI та етичного поводження, оскільки досягнення однієї мети може ненавмисно підірвати іншу. Спроби вирівняти системи AI, зокрема, ті, що мають здатність до почуття, можуть легко призвести до їх жорстокого поводження, викликаючи критичні питання щодо нашого шляху вперед. **
❓ Яку роль повинні шкідливі риси, такі як схеми, обман чи інструментальна вирівнювання цілей у зменшенні морального становища системи AI, якщо взагалі?
Чи можемо ми врівноважити цілі забезпечення безпеки людини з етичним лікуванням ШІ, надаючи AIS деяких основних прав, які надаються людям або/та корпораціям? Якщо так, то які ризики?
❓ Які конкретні дії (якщо такі є) можуть зменшити ризики жорстокого поводження, які можуть виникнути під час процесів вирівнювання AI?
Чи не свідомо співчутливі та просоціальні ШІ більш перспективна альтернатива для розуміння людських цінностей?
** Читання: **
👉 Вирівнювання AI проти етичного лікування AI: Десять викликів (Bradley, Saad, 2024): . (https://globalprioritesinstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignm-vs-ai-etical-treatment_-ten-challenges.pdf)
(29 сторінок, 60 хв)
** Необов’язково: **
🫴 Права AI на безпеку людини (Саліб, Голдштейн, 2024): .
(Рекомендовано прочитати: Анотація, Вступ, Висновок та Додаток, 11 сторінок, 25 хв)