AI sentience meetups: AI sentience and AI alignment

** Un approccio moralmente accettabile allo sviluppo dell'intelligenza artificiale deve bilanciare l'intersezione di allineamento e trattamento etico dell'IA, poiché il perseguimento di un obiettivo può inavvertitamente minare l'altro. I tentativi di allineare i sistemi di intelligenza artificiale, in particolare quelli con la capacità di sensibilità, potrebbero facilmente portare al loro maltrattamento, sollevando domande critiche sul nostro percorso in avanti. **
❓ Quale ruolo dovrebbero tratti dannosi come schemi, inganno o allineamento degli obiettivi strumentali nel diminuire la posizione morale di un sistema di intelligenza artificiale, se non del tutto?
❓ Possiamo bilanciare gli obiettivi di garantire la sicurezza umana con il trattamento etico di AI dando a AIS alcuni diritti fondamentali che vengono dati agli umani o/e alle società? In tal caso, quali sono i rischi?
❓ Quali azioni specifiche (se presenti) potrebbero mitigare i rischi di maltrattamenti che potrebbero sorgere durante i processi di allineamento dell'IA?
Non è consapevole empatico e pro-sociale AI un'alternativa più promettente per comprendere i valori umani?
** Letture: **
👉 allineamento AI vs. trattamento etico AI: dieci sfide (Bradley, Saad, 2024): * )
(29 pagine, 60 min)
**Opzionale:**
🫴 diritti di intelligenza artificiale per la sicurezza umana (Salib, Goldstein, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes lasting(https://papers.ssrn.com/sol3/papers.cfm?abstract_id=49167&download=yes)
(Lettura consigliata: astratto, introduzione, conclusione e appendice, 11 pagine, 25 min)