AI sentience meetups: AI sentience and AI alignment

** Morálne prijateľný prístup k vývoju AI musí vyvážiť križovatku zosúladenia AI a etické zaobchádzanie, pretože sledovanie jedného cieľa môže neúmyselne oslabiť druhý. Pokusy o zosúladenie systémov AI, konkrétne tí, ktorí majú kapacitu vnímania, by mohli ľahko viesť k ich zlému zaobchádzaniu a vyvolať kritické otázky týkajúce sa našej cesty vpred. **
❓ Akú úlohu by mali mať škodlivé vlastnosti, ako je schéma, podvod alebo inštrumentálne vyrovnanie cieľa, pri znižovaní morálneho postavenia systému AI, ak vôbec?
„Vyvážime ciele zabezpečenia bezpečnosti ľudí s etickou liečbou AI poskytovaním AIS niektoré základné práva, ktoré sa poskytujú ľuďom alebo/a korporáciám? Ak áno, aké sú riziká?
❓ Aké konkrétne akcie (ak existujú) by mohli zmierniť riziká zlého zaobchádzania, ktoré by mohli vzniknúť počas procesov zarovnania AI?
„Nie je vedomý empatický a pro-sociálny AI sľubnejšou alternatívou na pochopenie ľudských hodnôt?
** Čítanie: **
👉 Zarovnanie AI vs. Etické zaobchádzanie s AI: Desať výziev (Bradley, Saad, 2024): [https://globalprioritiesInstitute.org/wp-content/uploads/adam-bradley-and-bradford-aad-ai-alignment-vs-ai-ai-etical-reatment_-ten-challenges.pdf] (https://globalprioritiesinstitute.org/wp-content/uploads/adam-bradley-and-bradford-aad-ai-alignment-vs-ai-ai-etical-reatment_-ten-challenges.pdf)
(29 strán, 60 minút)
** Voliteľné: **
🫴 práva AI pre ľudskú bezpečnosť (Salib, Goldstein, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yESΩ(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes)
(Odporúčané čítanie: Abstrakt, úvod, záver a dodatok, 11 strán, 25 minút)