AI sentience meetups: AI sentience and AI alignment

** Ein moralisch akzeptabler Ansatz zur KI -Entwicklung muss den Schnittpunkt der KI -Ausrichtung und die ethische Behandlung ausgleichen, da das Verfolgen eines Ziels versehentlich das andere untergraben kann. Versuche, KI -Systeme auszurichten, insbesondere diejenigen mit der Fähigkeit zur Empfindlichkeit, können leicht zu ihrer Misshandlung führen und kritische Fragen zu unserem Weg nach vorne aufwerfen. **
❓ Welche Rolle sollten schädliche Merkmale wie Planung, Täuschung oder Instrumentalzielausrichtung bei der Verringerung des moralischen Ansehens eines KI -Systems, wenn überhaupt, spielen?
❓kann wir die Ziele der Gewährleistung der menschlichen Sicherheit durch die ethisch behandelnde KI in Einklang, indem wir AIs einige Grundrechte geben, die Menschen oder/und Unternehmen gegeben werden? Wenn ja, was sind die Risiken?
❓Was spezifische Maßnahmen (falls vorhanden) könnten die Misshandlungsrisiken mildern, die während der AI -Ausrichtungsprozesse auftreten könnten?
Ist nicht bewusster einfühlsamer und pro-sozialer KI eine vielversprechendere Alternative zum Verständnis menschlicher Werte?
** Lesungen: **
👉 AI -Ausrichtung gegen AI Ethische Behandlung: Zehn Herausforderungen (Bradley, Saad, 2024): [https://globalprioritiessinstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignment-vs--ai-ethical treatment_-tenchallengels.pdf] (https://globalprioritiessinstitute.org/wp-content/uploads/adam-bradley-and-bradford-saad-ai-alignment-vs--ai-ethical treatment_-tenchallengels.pdf)
(29 Seiten, 60 min)
** Optional: **
🫴 AI -Rechte für die Sicherheit menschlicher Sicherheit (Salib, Goldstein, 2024): [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4913167&download=yes weise(https://papers.ssrn.com/sol3/papers.cfm?abract_id=4913167&down))
(Empfohlene Lesen: Zusammenfassung, Einführung, Schlussfolgerung und Anhang, 11 Seiten, 25 min)