Sicherheit und langfristige Risiken
← Vorheriges Kapitel · Inhaltsverzeichnis · Nächstes Kapitel →
Kapitel 154 von 158
Diese Personen beschäftigen sich mit Kontrolle, Ausrichtung an menschlichen Zielen und besonders schweren möglichen KI-Risiken. Die Einschätzungen reichen von technischer Sicherheitsforschung bis zu stark umstrittenen Zukunftsszenarien.
| Nr. / Person und weiterführender Link | Wofür der Name steht |
|---|---|
| 71 Max Tegmark Wikipedia | Mitgründer des Future of Life Institute; Sicherheitsdebatten und langfristige Folgen von KI. |
| 72 Nick Bostrom Wikipedia | Philosophische Arbeiten zu Superintelligenz und existenziellen Risiken. |
| 73 Eliezer Yudkowsky Wikipedia | Frühe Arbeiten zur Ausrichtung von KI; besonders weitreichende Warnungen vor Kontrollverlust. |
| 74 Paul Christiano Wikipedia | Forschung zur Ausrichtung von KI-Systemen und zur menschlichen Bewertung leistungsfähiger Modelle. |
| 75 Jan Leike Wikipedia | Alignment-Forschung: Wie sich das Verhalten von Modellen besser an menschlichen Absichten orientieren lässt. |
| 76 Dan Hendrycks Wikipedia | Modellbewertungen, Robustheit und Forschung zu schweren KI-Risiken; Center for AI Safety. |
| 77 Helen Toner Wikipedia | KI-Governance, Sicherheitsfragen und strategische Entscheidungen über leistungsfähige Systeme. |
| 78 Allan Dafoe Wikipedia-Suche | Governance-Forschung; Institutionen und internationale Zusammenarbeit im Umgang mit KI. |
| 79 Stuart Armstrong Wikipedia-Suche | Technische und konzeptionelle Arbeiten zur Ausrichtung fortgeschrittener KI. |
| 80 Dylan Hadfield-Menell Wikipedia-Suche | KI-Sicherheit und Ausrichtung von Systemen; Forschung zum Zusammenspiel menschlicher Ziele und lernender Maschinen. |
Wichtig: Eine Warnung beschreibt ein Risiko, keine sichere Vorhersage. Langfristige Szenarien und bereits beobachtbare Schäden im Alltag sollten getrennt diskutiert werden.
Quellen und Links
- futureoflife.org
- de.wikipedia.org – Max_Tegmark
- nickbostrom.com
- de.wikipedia.org – Nick_Bostrom
- www.yudkowsky.net
- de.wikipedia.org – Eliezer_Yudkowsky
- paulfchristiano.com
- en.wikipedia.org – Paul_Christiano
- jan.leike.name
- de.wikipedia.org – Jan_Leike
- safe.ai – about
- en.wikipedia.org – Dan_Hendrycks
- cset.georgetown.edu
- en.wikipedia.org – Helen_Toner
- www.allandafoe.com
- de.wikipedia.org – index.php?search=Allan%20Dafoe
- buildaligned.ai – about-us
- de.wikipedia.org – index.php?search=Stuart%20Armstrong
- people.csail.mit.edu
- de.wikipedia.org – index.php?search=Dylan%20Hadfield-Menell
← Vorheriges Kapitel · Inhaltsverzeichnis · Nächstes Kapitel →