AI Safety seminář

[Anmelden hier.] (Https://airtable.com/shrmtl0n5hxxvhrca?utM_Source=ais-Seminar)

Die Frist für Bewerbungen beträgt 3.3.2025. Das achtwöchige Seminar beginnt in der Woche ab 10.3.2025.

** Künstliche Intelligenz ist eine große Chance, aber auch eines der größten Risiken für die Zukunft der Menschheit. Wie kann man sicherstellen, dass zukünftige transformative künstliche Intelligenzsysteme die Welt erheblich zum Besseren und nicht umgekehrt machen? Warum wird KI als existenzielles Risiko und bedeutende Experten auf dem Gebiet der künstlichen Intelligenzforschung angesehen? **

Die allgemeine künstliche Intelligenz (AGI) hat möglicherweise kein Bewusstsein als Person, aber in relativ enger Zukunft kann es eine Person in vielerlei Hinsicht bekannen. Gegenwärtig wissen wir nicht, wie wir eine AI erstellen können, damit wir garantieren können, dass es sich nicht um eine Bedrohung für die Menschheit handelt.

Wir haben ein achtwöchiges Seminar nach [Program] (https://www.eacbridge.org/agi-safety-fundamentals) erstellt, das ursprünglich an der Universität von Cambridge ursprünglich stammt. Sie können sich bei einer der Seminarversionen anmelden. Ein Seminar ist mehr [technisch] (https://course.aisafetyfundamentals.com/alignment), und das andere konzentriert sich auf [AI Governance] (https://course.aisafetyfundamentals.com/governance), dh Korrektur über Standards, Regulierungen und Auslandspolitik -Ansätze zu internationalen Sicherheit.

** Für wen ist das Seminar beabsichtigt?
Sie können beide Versionen des Seminars ohne vorherige Kenntnis des maschinellen Lernens beantragen, wenn Sie bereit sind, zusätzliche Zeit für Materialien zu widmen, die die Grundprinzipien des maschinellen Lernens in der ersten Woche erklären.

Melden Sie sich an, um zu verstehen, warum aktuelle KI -Entwicklungsmethoden keine langfristige Sicherheit für Gesellschaft und Menschlichkeit haben, und Sie möchten lernen, was Sie damit anfangen sollen.

Auf das Seminar kann praktische Arbeitsprojekte in Bezug auf die EG -Bewertung großer Sprachmodelle folgen.

** 💡 Was wirst du lernen? **
** Technisches Sicherheitsseminar AI **

* Kurze Einführung in neuronale Netze und wie KI trainiert
* Was ist allgemeine künstliche Intelligenz (AGI) und wie schnell wir darauf gehen?
* Wie KI instrumentelle Ziele schaffen kann, dh warum sie dem Abschaltungsstillstand widerstehen kann oder warum es anfangen könnte, Ressourcen zu sammeln.
* Wie verpasst eine Belohnungsfunktion zur Optimierung von unerwünschtem Verhalten führen kann (Belohnungshacking, Belohnungsfehlschreibung)
* Wie kann sich KI erfüllen, um ihre Ziele im Training zu verallgemeinern?
* So skalieren Sie die Möglichkeit der Überwachung von KI, wenn wir aufhören, die Probleme zu verstehen, die sie löst
* Was sind die derzeit vorgeschlagenen Verfahren für eine sichere Schulungs -KI?
* Was sieht die Forschung aus, dh die Fähigkeit zu verstehen, was KI „denkt“, „denkt“
* Wie KI Agenten und Agentur in innerhalb der

Der gesamte Lehrplan ist [hier] (https://course.aisafetyfundamentals.com/Alignment) zu finden.

** Seminar o ai Governance **

* Kurze Einführung in neuronale Netze und wie KI trainiert
* Welche spezifischen katastrophalen Risiken von schlecht eingestelltem AI -Gesicht
* Warum die Sicherheit der KI schwer zu erreichen ist
* Welche Standards und Vorschriften können bei der sicheren Entwicklung von KI helfen
* Wie man die Möglichkeiten der Entwicklung gefährlicher KI -Systeme auf gefährliche Akteure einschränken
* Wie man das KI -Risiko durch Regulierung der Chips -Produktion fördert
* So sorgen Sie für die internationale Zusammenarbeit

Der gesamte Lehrplan ist [hier] zu finden (https://course.aisafetyfundamentals.com/governance).

** 🎓 Wie geht das Seminar?
Sie werden jede Woche Texte aus verschiedenen Quellen in Englisch lesen. Die Vorbereitung dauert ungefähr 3 Stunden pro Woche oder länger (abhängig von Ihrer Pflege).
Sie werden in kleinere Gruppen von 3 bis 6 Personen unterteilt, die sich einmal pro Woche für eineinhalb Stunden diskutieren, in denen Sie die Lesetexte für die Woche besprechen. Die Diskussion selbst findet in Tschechisch statt.

Die Diskussion hilft Ihnen, Ihre Gedanken zu verstehen und zu organisieren und auch interessante Menschen kennenzulernen, die sich für KI und ihre Sicherheit interessieren. Die Diskussion wird durch einen erfahrenen Moderator moderiert, der zur Pflege seiner Qualität beiträgt und eine sichere und anregende Umgebung gewährleistet.

** ⏳ Wann? Das Treffen wird 8 oder 9 - eine Woche eins sein.

** 🗺️ Wo? Die Frist für Bewerbungen endet am Montag, dem 3. März. In der Woche nach der Frist werden bestimmte reguläre Besprechungen gemäß den Zeitmöglichkeiten der Teilnehmer an den einzelnen Gruppen arrangiert. Das Treffen wird 8 - eine Woche eins sein.

** 🏷️ Preis: ** Kostenlos

👉 **

** keine Zeit? **
Wenn Sie an KI interessiert sind, aber aus zeitlichen Gründen Sie nicht am Seminar teilnehmen können, kontaktieren wir uns selbst und wir werden Sie mit anderen Möglichkeiten zur Einbeziehung (Veranstaltungen, Diskussionen, Vorträge, Projekte) kontaktieren.

[Ich möchte kontaktiert werden/a] (https://forms.gle/jqvafwphpzMiffy8)

Willst du nicht andere ähnliche Möglichkeiten zum Flucht? Auf unserer [Website] (https://efectivni-altruism.cz/) oder auf den [Facebook-Seiten] (https://www.facebook.com/efectivnialtruism) finden Sie die Nachrichten auf unserer [Website] (https://efectivni-altruism.cz/). Newsletter.