Am 30. Mai 2023 unterzeichneten Hunderte von Experten für künstliche Intelligenz und andere namhafte Persönlichkeiten die folgende kurze Erklärung zu KI-Risiken : [ 1 ] [ 2 ] [ 3 ]

Die Minderung des Aussterberisikos durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkriegen eine globale Priorität sein.

Zum Zeitpunkt der Veröffentlichung der Erklärung gehörten über 100 KI -Professoren zu den Unterzeichnern , darunter die beiden meistzitierten Informatiker und Turing-Preisträger Geoffrey Hinton und Yoshua Bengio , sowie die wissenschaftlichen und leitenden Angestellten mehrerer großer KI-Unternehmen (darunter OpenAI , Google DeepMind und Anthropic ) und Experten für Pandemien, Klima, nukleare Abrüstung, Philosophie, Sozialwissenschaften und andere Fachgebiete. [ 4 ] Die Medienberichterstattung hob die Unterschriften zahlreicher führender Persönlichkeiten aus der Technologiebranche hervor; darauf folgten Bedenken in anderen Zeitungen, dass die Erklärung PR- oder regulatorischen Interessen geschuldet sein könnte. [ 5 ] Die Erklärung wurde kurz nach einem offenen Brief veröffentlicht, der einen Stopp der KI-Experimente forderte . [ 6 ] [ 7 ]

Die Erklärung ist auf der Website des gemeinnützigen KI-Forschungs- und Interessenvertretungszentrums Center for AI Safety zu finden . Die Idee für eine solche Ein-Satz-Erklärung stammt ursprünglich von dem KI-Forscher David Krueger , damals Professor an der Universität Cambridge . [ 8 ] Sie wurde zusammen mit einem Begleittext veröffentlicht, in dem es heißt, dass es nach wie vor schwierig sei, über die extremen Risiken von KI zu sprechen, und dass die Erklärung dieses Hindernis überwinden solle. Der CEO des Zentrums, Dan Hendrycks, erklärte, dass „systemische Voreingenommenheit, Fehlinformationen, missbräuchliche Verwendung, Cyberangriffe und die Entwicklung von Waffensystemen“ allesamt Beispiele für „wichtige und dringende Risiken durch KI … nicht nur das Risiko des Aussterbens“ seien, und fügte hinzu: „Gesellschaften können mehrere Risiken gleichzeitig bewältigen; es ist kein ‚Entweder/Oder‘, sondern ein ‚Ja/Und‘ . “ [ 9 ]

Zu den bekannten Unterzeichnern der Erklärung gehören: Sam Altman , Bill Gates , Dario Amodei , Peter Singer , Daniel Dennett , Sam Harris , Grimes, Stuart J. Russell, Jaan Tallinn, Vitalik Buterin, David Chalmers, Ray Kurzweil, Max Tegmark, Lex Fridman, Martin Rees, Demis Hassabis, Dawn Song , Ted Lieu , Ilya Sutskever , Martin Hellman , Bill McKibben , Angela Kane , Audrey Tang , David Silver , Andrew Barto , Mira Murati , Pattie Maes , Eric Horvitz , Peter Norvig , Joseph Sifakis , Erik Brynjolfsson , Ian Goodfellow , Baburam Bhattarai , Kersti Kaljulaid , Rusty Schweickart , Nicholas Fairfax , David Haussler , Peter Railton und Bart Selman , Dustin Moskovitz , Scott Aaronson , Bruce Schneier , Martha Minow , Andrew Revkin , Rob Pike , Jacob Tsimerman , Ramy Youssef , James Pennebaker und Ronald C. Arkin . [ 10 ]

Rezeption

Der damalige britische Premierminister Rishi Sunak retweetete die Erklärung und schrieb: „Die Regierung prüft dies sehr sorgfältig.“ [ 11 ] Auf die Erklärung angesprochen, kommentierte die Pressesprecherin des Weißen Hauses , Karine Jean-Pierre , dass KI „eine der mächtigsten Technologien unserer Zeit ist. Um die damit verbundenen Chancen zu nutzen, müssen wir jedoch zunächst die Risiken minimieren.“ [ 12 ]

Kritiker des Briefes weisen darauf hin, dass KI bestimmte Meilensteine, wie beispielsweise die Prognosen zu selbstfahrenden Autos, nicht erreicht hat . Sie argumentieren außerdem, dass die Unterzeichner des Briefes die KI-Forschung weiterhin finanzierten. Unternehmen würden von der öffentlichen Wahrnehmung profitieren, dass KI-Algorithmen weitaus fortschrittlicher seien als derzeit möglich. Skeptiker, darunter auch Vertreter von Human Rights Watch , argumentieren, dass sich Wissenschaftler auf die bekannten Risiken von KI konzentrieren sollten, anstatt mit spekulativen Zukunftsrisiken abzulenken. [ 13 ] Timnit Gebru kritisiert die Überbewertung des Risikos einer autonomen KI, insbesondere durch „dieselben Personen, die Milliarden von Dollar in diese Unternehmen investiert haben“. [ 13 ] Émile P. Torres und Gebru argumentieren beide gegen die Aussage und vermuten, dass sie von TESCREAL -Ideologien motiviert sein könnte. [ 14 ]

Siehe auch

Referenzen

  1. ^ „Stellungnahme zu KI-Risiken“ . Zentrum für KI-Sicherheit . 30. Mai 2023.
  2. ^ Roose, Kevin (30.05.2023). „KI birgt ‚Aussterberisiko‘, warnen Branchenführer“ . The New York Times . ISSN 0362-4331 . Abgerufen am 30.05.2023 . 
  3. ^ Gregg, Aaron; Lima-Strong, Cristiano; Vynck, Gerrit De (31.05.2023). „KI birgt ein ‚Aussterberisiko‘ vergleichbar mit Atomwaffen, sagen Technologieführer“ . Washington Post . ISSN 0190-8286 . Abgerufen am 03.07.2024 . 
  4. ^ Vincent, James (30.05.2023). „Führende KI-Forscher und CEOs warnen in einer 22-Wort-Erklärung vor dem ‚Aussterberisiko‘“ . The Verge . Abgerufen am 03.07.2024 .
  5. ^ Wong, Matteo (2023-06-02). „KI-Untergangsstimmung ist ein Ablenkungsmanöver“ . The Atlantic . Abgerufen am 26.12.2023 .
  6. ^ Krueger, David. „Rogue AI is already here“ . Fortune . Abgerufen am 16.04.2026 .
  7. ^ Edwards, Benj (30.05.2023). „OpenAI-Führungskräfte warnen in neuem offenen Brief vor dem „Risiko des Aussterbens“ durch künstliche Intelligenz“ . Ars Technica . Abgerufen am 16.04.2026 .
  8. ^ „Häufig gestellte Fragen“ . Zentrum für KI-Sicherheit . 15. September 2025.
  9. ^ Lomas, Natasha (30.05.2023). „OpenAI-Chef Altman und andere KI-Giganten warnen vor fortgeschrittener KI als ‚Aussterberisiko‘“ . TechCrunch . Abgerufen am 30.05.2023 .
  10. ^ „Erklärung zu KI-Risiken | CAIS“ . www.safe.ai. Abgerufen am 18.03.2024 .
  11. ^ „Warnung vor künstlicher Intelligenz und drohendem Aussterben der Menschheit – alles, was Sie wissen müssen“ . The Independent . 31.05.2023 . Abgerufen am 03.06.2023 .
  12. ^ „Präsident Biden warnt, künstliche Intelligenz könnte das menschliche Denken überholen“" . USA TODAY . Abgerufen am 03.06.2023 .
  13. ^ a b Ryan-Mosley, Tate (12. Juni 2023). „Es ist Zeit, über die realen Risiken der KI zu sprechen“ . MIT Technology Review . Abgerufen am 3. Juli 2024 .
  14. ^ Torres, Émile P. (11.06.2023). „KI und die Bedrohung durch das ‚Aussterben der Menschheit‘: Wovor haben die Tech-Bros Angst? Es geht nicht um uns . “ Salon . Abgerufen am 03.07.2024 .