AI sentience meetups: AI sentience and AI alignment

Morálne prijateľný prístup k vývoju AI musí vyvážiť križovatku zosúladenia AI a etického zaobchádzania, pretože sledovanie jedného cieľa môže neúmyselne oslabiť druhý. Pokusy o zosúladenie systémov AI, konkrétne tí, ktorí majú kapacitu vnímania, by mohli ľahko viesť k ich zlému zaobchádzaniu, vyvolávaniu kritických otázok týkajúcich sa našej cesty vpred.

❓ Akú úlohu by mali škodlivé vlastnosti, ako je napríklad schéma, podvod alebo inštrumentálne zarovnanie ciele, ktoré znižujú aifety, s cieľom Zmenšovanie ai, s cieľom, ak sa zameriava ai, že uplatňujeme ai, ak chcete, aby sa znížila ai, že uplatňujeme ai, aby sa znížila ai systému AI. AIS niektoré základné práva, ktoré sa poskytujú ľuďom alebo/a korporáciám? If so, what are the risks?

❓What specific actions (if any) could mitigate the mistreatment risks that could arise during AI alignment processes?

❓Isn’t conscious empathetic and pro-social AI a more promising alternative for understanding human values?

Readings:
👉 AI Alignment vs. AI Ethical Treatment: Ten Challenges (Bradley, Saad, 2024): ht tps: //globalprioritiesInstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-Alignment-alignment-vs-ai-ai-ethical-reatment_-ten--chaallenges.pdf
(29 strany, 60 min)

voliteľné:
🫴 práva AI pre ľudskú bezpečnosť (Salib, Goldstein, 2024): https://papers.sssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes (Odporúča sa Úvod, záver a dodatok, 11 strán, 25 minút)