Ethik der künstlichen Intelligenz

Die Ethik der künstlichen Intelligenz umfasst ein breites Spektrum an Themen innerhalb der KI, denen besondere ethische Implikationen zugeschrieben werden. ^{[ 1 ]} Dazu gehören algorithmische Verzerrungen , Fairness , Verantwortlichkeit , Transparenz, Datenschutz und Regulierung , insbesondere wenn Systeme menschliche Entscheidungsfindung beeinflussen oder automatisieren. Sie umfasst auch verschiedene aktuelle oder potenzielle zukünftige Herausforderungen wie Maschinenethik (wie man Maschinen entwickelt, die sich ethisch verhalten), letale autonome Waffensysteme , die Dynamik des Wettrüstens , KI-Sicherheit und -Ausrichtung , technologische Arbeitslosigkeit , KI-gestützte Desinformation , ^{[ 2 ]} den Umgang mit bestimmten KI-Systemen, wenn ihnen ein moralischer Status zukommt (KI-Wohlbefinden und -Rechte), künstliche Superintelligenz und existenzielle Risiken . ^{[ 1 ]}

In einigen Anwendungsbereichen können auch besonders wichtige ethische Implikationen bestehen, wie beispielsweise im Gesundheitswesen , im Bildungswesen, im Strafrecht oder im Militär.

Maschinenethik (oder Maschinenmoral) ist das Forschungsgebiet, das sich mit der Entwicklung künstlicher moralischer Agenten (AMAs) befasst – also Robotern oder künstlich intelligenten Computern, die sich moralisch oder scheinbar moralisch verhalten. ^{[ 3 ] [ 4 ] [ 5 ] [ 6 ]} Um die Natur dieser Agenten zu erfassen, wurde vorgeschlagen, bestimmte philosophische Konzepte zu berücksichtigen, wie etwa die Standardcharakterisierungen von Handlungsfähigkeit , rationaler Handlungsfähigkeit , moralischer Handlungsfähigkeit und künstlicher Handlungsfähigkeit, die mit dem Konzept der AMAs in Zusammenhang stehen. ^{[ 7 ]}

Es gibt Diskussionen über die Entwicklung von Tests, um die Fähigkeit von KI zu ethischen Entscheidungen zu überprüfen . Alan Winfield kommt zu dem Schluss, dass der Turing-Test fehlerhaft ist und die Anforderungen an eine KI, ihn zu bestehen, zu niedrig angesetzt sind. ^{[ 8 ]} Ein vorgeschlagener alternativer Test ist der sogenannte Ethische Turing-Test, der den aktuellen Test verbessern würde, indem mehrere Gutachter entscheiden, ob die Entscheidung der KI ethisch oder unethisch ist. ^{[ 8 ]} Neuromorphe KI könnte ein Weg sein, moralisch fähige Roboter zu entwickeln, da sie darauf abzielt, Informationen ähnlich wie Menschen nichtlinear und mit Millionen vernetzter künstlicher Neuronen zu verarbeiten. ^{[ 9 ]} Ebenso könnte die Emulation des gesamten Gehirns (das Scannen eines Gehirns und dessen Simulation auf digitaler Hardware) prinzipiell zu menschenähnlichen Robotern führen, die somit zu moralischem Handeln fähig sind. ^{[ 10 ]} Und große Sprachmodelle sind in der Lage, menschliche moralische Urteile anzunähern. ^{[ 11 ]} Dies wirft unweigerlich die Frage auf, in welcher Umgebung solche Roboter die Welt kennenlernen würden und wessen Moral sie erben würden – oder ob sie am Ende auch menschliche „Schwächen“ entwickeln würden: Egoismus, Überlebensinstinkte, Inkonsistenz, mangelndes Gespür für Größenordnungen usw.

In ihrem Buch „Moral Machines: Teaching Robots Right from Wrong ^{“ [} 12 ^{] kommen} Wendell Wallach und Colin Allen zu dem Schluss, dass Versuche, Robotern den Unterschied zwischen richtig und falsch beizubringen, das Verständnis der menschlichen Ethik wahrscheinlich fördern werden. Dies geschieht, indem sie Menschen dazu anregen, Lücken in der modernen normativen Theorie zu schließen und eine Plattform für experimentelle Untersuchungen bieten. Beispielsweise hat dies normative Ethiker mit der kontroversen Frage konfrontiert, welche spezifischen Lernalgorithmen in Maschinen eingesetzt werden sollen. Für einfache Entscheidungen argumentieren Nick Bostrom und Eliezer Yudkowsky , dass Entscheidungsbäume (wie ID3 ) transparenter sind als neuronale Netze und genetische Algorithmen ^{[ 13 ]} . Chris Santos-Lang hingegen plädiert für maschinelles Lernen mit der Begründung, dass sich die Normen jeder Epoche verändern dürfen und dass das natürliche Scheitern, diese Normen vollständig zu erfüllen, wesentlich dazu beigetragen hat, dass Menschen weniger anfällig für kriminelle „ Hacker “ sind ^{[ 14 ] .}

Einige Forscher betrachten Maschinenethik als Teil des umfassenderen Problems der KI-Kontrolle bzw. der Werteausrichtung: die Schwierigkeit, sicherzustellen, dass immer leistungsfähigere Systeme Ziele verfolgen, die mit menschlichen Werten und der menschlichen Kontrolle vereinbar bleiben. Stuart Russell argumentiert, dass nützliche Systeme so konzipiert sein sollten, dass sie (1) menschliche Präferenzen anstreben, (2) sich über diese Präferenzen nicht im Klaren sind und (3) aus menschlichem Verhalten und Feedback lernen, anstatt ein festes, vollständig definiertes Ziel zu optimieren. ^{[ 15 ]} Einige Autoren argumentieren, dass die scheinbare Übereinstimmung mit menschlichen Werten eher eine Optimierung für Bewertungskontexte als stabile interne Normen widerspiegeln kann, was die Bewertung der Übereinstimmung in fortgeschrittenen Sprachmodellen erschwert. ^{[ 16 ]}

Künstliche Intelligenz (KI) ist zunehmend in Gesichts- und Spracherkennungssysteme integriert . Diese Systeme können anfällig für Verzerrungen und Fehler sein, die von ihren menschlichen Entwicklern verursacht werden. Insbesondere die Trainingsdaten können Verzerrungen aufweisen. ^{[ 17 ] [ 18 ] [ 19 ] [ 20 ]}

Laut Allison Powell, außerordentliche Professorin an der LSE und Leiterin des Programms „Daten und Gesellschaft“, ist Datenerhebung niemals neutral und beinhaltet immer auch Erzählungen. Sie argumentiert, dass die vorherrschende Meinung sei, dass Regierungsführung mit Technologie grundsätzlich besser, schneller und kostengünstiger sei. Stattdessen schlägt sie vor, Daten teuer zu machen und sie minimal, aber wertvoll zu nutzen, wobei die Kosten ihrer Erstellung berücksichtigt werden müssen. ^{[ 21 ]} Friedman und Nissenbaum identifizieren drei Kategorien von Verzerrungen in Computersystemen: bestehende, technische und neu auftretende Verzerrungen. ^{[ 22 ]} In der Verarbeitung natürlicher Sprache können Probleme aus dem Textkorpus entstehen – dem Quellmaterial, das der Algorithmus verwendet, um die Beziehungen zwischen verschiedenen Wörtern zu lernen. ^{[ 23 ]}

Große Unternehmen wie IBM, Google usw., die erhebliche Mittel für Forschung und Entwicklung bereitstellen ^{[ 24 ],} haben sich bemüht, diese Verzerrungen zu erforschen und zu beheben. ^{[ 25 ] [ 26 ] [ 27 ]} Eine mögliche Lösung besteht darin, die Daten, die zum Trainieren von KI-Systemen verwendet werden, zu dokumentieren. ^{[ 28 ] [ 29 ]} Process Mining kann für Organisationen ein wichtiges Instrument sein, um die Einhaltung vorgeschlagener KI-Vorschriften zu gewährleisten, indem es Fehler identifiziert, Prozesse überwacht, potenzielle Ursachen für fehlerhafte Ausführung ermittelt und weitere Funktionen erfüllt. ^{[ 30 ]} Allerdings bestehen auch Einschränkungen hinsichtlich der Fairness in der KI aufgrund der inhärenten Unklarheiten des Diskriminierungsbegriffs , sowohl auf philosophischer als auch auf rechtlicher Ebene. ^{[ 31 ] [ 32 ]}

Verzerrungen können durch historische Daten entstehen, die zum Trainieren von KI-Systemen verwendet werden. ^{[ 33 ] [ 34 ]} Beispielsweise stellte Amazon den Einsatz von KI bei der Personalbeschaffung ein , da der Algorithmus männliche Bewerber gegenüber weiblichen bevorzugte. ^{[ 35 ]} Dies lag daran, dass Amazons System mit Daten trainiert wurde, die über einen Zeitraum von zehn Jahren gesammelt wurden und überwiegend männliche Bewerber umfassten. Die Algorithmen lernten das verzerrte Muster aus den historischen Daten und generierten Vorhersagen, wonach diese Bewerbertypen die besten Chancen auf die Stelle hatten. Daher erwiesen sich die vom KI-System getroffenen Einstellungsentscheidungen als benachteiligend für weibliche und Minderheitenangehörige. ^{[ 36 ]}

Die Leistung von Gesichtserkennungs- und Computer-Vision-Modellen kann je nach ethnischer Zugehörigkeit und Geschlecht variieren. Gesichtserkennungsalgorithmen von Microsoft, IBM und Face++ schnitten bei Frauen mit dunklerer Hautfarbe deutlich schlechter ab. ^{[ 37 ] [ 38 ]} Es zeigte sich, dass die Gesichtserkennung Menschen mit dunklerer Hautfarbe benachteiligt. KI-Systeme sind möglicherweise weniger genau bei schwarzen Menschen, wie die Entwicklung eines KI-basierten Pulsoximeters belegte , das den Blutsauerstoffgehalt bei Patienten mit dunklerer Hautfarbe überschätzte und dadurch Probleme bei der Hypoxiebehandlung verursachte . [ ^{39 ] Im} Jahr 2015 entbrannte eine Kontroverse, nachdem ein schwarzes Paar von Google Fotos als „Gorillas“ bezeichnet wurde. ^{[ 40 ] [ 41 ]} Oftmals erkennen die Systeme die Gesichter weißer Menschen problemlos, während sie die Gesichter schwarzer Menschen nicht erfassen. Dies führte in einigen US-Bundesstaaten zu einem Verbot des polizeilichen Einsatzes von KI-Materialien oder -Software . Der Grund für diese Verzerrungen liegt darin, dass KI Informationen aus dem gesamten Internet bezieht, um ihre Reaktionen in jeder Situation zu beeinflussen. Wenn beispielsweise ein Gesichtserkennungssystem nur an weißen Personen getestet würde, wäre es für das System deutlich schwieriger, die Gesichtsstruktur und den Hautton anderer Ethnien und Hautfarben zu interpretieren . Verzerrungen entstehen oft eher durch die Trainingsdaten als durch den Algorithmus selbst, insbesondere wenn die Daten vergangene menschliche Entscheidungen repräsentieren. ^{[ 42 ]}

Eine Studie aus dem Jahr 2020, die Spracherkennungssysteme von Amazon, Apple, Google, IBM und Microsoft untersuchte, kam zu dem Ergebnis, dass diese Systeme bei der Transkription der Stimmen schwarzer Menschen höhere Fehlerraten aufweisen als bei denen weißer Menschen. ^{[ 43 ]}

Ungerechtigkeiten beim Einsatz von KI sind im Gesundheitswesen deutlich schwerer zu beseitigen, da Krankheiten und Beschwerden oft unterschiedliche Ethnien und Geschlechter unterschiedlich betreffen. Dies kann zu Verwirrung führen, da die KI Entscheidungen möglicherweise auf Basis von Statistiken trifft, die zeigen, dass ein Patient aufgrund seines Geschlechts oder seiner ethnischen Zugehörigkeit ein höheres Risiko für Probleme hat. ^{[ 44 ]} Dies kann als Voreingenommenheit wahrgenommen werden, da jeder Patient ein individueller Fall ist und die KI Entscheidungen auf Grundlage ihrer Programmierung trifft, um den Patienten einer bestimmten Gruppe zuzuordnen. Dies führt zu einer Diskussion darüber, was bei der Verteilung von Behandlungen als voreingenommene Entscheidung gelten sollte. Obwohl bekannt ist, dass Krankheiten und Verletzungen unterschiedliche Geschlechter und Ethnien unterschiedlich betreffen, wird diskutiert, ob es gerechter ist, diese Unterschiede in die Behandlung einzubeziehen oder jeden Patienten ohne dieses Wissen zu untersuchen. In der modernen Gesellschaft gibt es bestimmte Tests für Krankheiten wie Brustkrebs , die bestimmten Bevölkerungsgruppen empfohlen werden, da diese ein höheres Risiko haben, an der jeweiligen Krankheit zu erkranken. Wenn die KI diese Statistiken implementiert und auf jeden Patienten anwendet, könnte dies als voreingenommen gelten. ^{[ 45 ]}

Im Justizsystem kann KI Vorurteile gegenüber Schwarzen aufweisen und schwarze Gerichtsteilnehmer deutlich häufiger als Hochrisikopersonen einstufen als weiße. KI hat oft Schwierigkeiten, rassistische Beleidigungen zu erkennen und zu entscheiden, wann diese zensiert werden müssen. Es fällt ihr schwer zu unterscheiden, wann bestimmte Wörter als Beleidigung und wann sie kulturell verwendet werden. ^{[ 46 ]} Das COMPAS- Programm wurde eingesetzt, um vorherzusagen, welche Angeklagten mit höherer Wahrscheinlichkeit rückfällig werden. Obwohl COMPAS auf Genauigkeit kalibriert ist und für alle ethnischen Gruppen die gleiche Fehlerrate aufweist, wurden schwarze Angeklagte fast doppelt so häufig fälschlicherweise als „Hochrisikopersonen“ und nur halb so häufig fälschlicherweise als „Niedrigrisikopersonen“ eingestuft wie weiße Angeklagte. ^{[ 47 ]} Ein weiteres Beispiel sind Google-Anzeigen, die gezielt Männer mit besser bezahlten und Frauen mit schlechter bezahlten Jobs ansprachen. Es kann schwierig sein, KI-Verzerrungen innerhalb eines Algorithmus zu erkennen, da diese oft nicht mit den tatsächlichen, mit Vorurteilen verbundenen Wörtern verknüpft sind. Ein Beispiel hierfür ist die Verwendung des Wohnorts einer Person, um sie einer bestimmten Gruppe zuzuordnen. Dies kann zu Problemen führen, da Unternehmen diese Gesetzeslücke häufig nutzen können, um rechtliche Schritte zu vermeiden. Grund dafür sind die spezifischen Gesetze bezüglich der Formulierungen, die von den für die Durchsetzung dieser Richtlinien zuständigen Regierungen als diskriminierend eingestuft werden. ^{[ 48 ]}

Große Sprachmodelle verstärken häufig Geschlechterstereotype , indem sie Rollen und Eigenschaften auf der Grundlage traditioneller Geschlechternormen zuweisen. Beispielsweise werden Krankenschwestern oder Sekretärinnen überwiegend mit Frauen und Ingenieure oder Geschäftsführer mit Männern assoziiert, wodurch geschlechtsspezifische Erwartungen und Rollen verfestigt werden. ^{[ 49 ] [ 50 ] [ 39 ]} Darüber hinaus können Gesichtserkennung , Computer Vision oder automatische Geschlechtserkennungsmodelle Vorurteile gegenüber cisgeschlechtlichen ^{[ 51 ] [ 52 ]} und transgeschlechtlichen ^{[ 53 ] [ 54 ]} Personen verstärken, indem sie das Geschlecht falsch klassifizieren und es nicht der tatsächlichen Identität der Person zuordnen.

Neben Geschlecht und Ethnie können diese Modelle eine Vielzahl von Stereotypen verstärken, darunter solche, die auf Alter, Nationalität, Religion oder Beruf basieren. Dies kann zu Ergebnissen führen, die Bevölkerungsgruppen unfair verallgemeinern oder karikieren, mitunter auf schädliche oder abwertende Weise. ^{[ 55 ] [ 33 ]} So hoben Wissenschaftler beispielsweise hervor, wie KI-Systeme globale Ungleichheiten reproduzieren und verstärken können, insbesondere wenn Daten und Modellentwicklung in westlichen Ländern konzentriert sind, was Bedenken hinsichtlich Fairness und Repräsentation in KI-Systemen aufwirft. ^{[ 56 ]}

Solche Stereotypen entstehen direkt durch die Gestaltung von KI-Systemen und den zugrunde liegenden Trainingsmodellen. Stereotypen, die sich gegen bestimmte Bevölkerungsgruppen richten, gründen sich auf gesellschaftliche Vorurteile, die im Programmierprozess verankert sind, veraltete Datensätze und algorithmische Architekturen, die ranghohe und Mehrheitsgruppen gegenüber unterrepräsentierten Gruppen bevorzugen. ^{[ 57 ]} Studien belegen zudem, dass Nutzerfeedback maßgeblich zu Stereotypen in der KI beiträgt, da menschliche Interaktionen Verzerrungen hervorrufen. Darüber hinaus ist die KI-Branche ein männerdominiertes Feld, vorwiegend junge Männer, was zu einem Mangel an Diversität und damit zu Ungleichheiten in KI-Datenbanken führt. Wortvektoranalysen zeigen, dass die Verwendung von „Person/Menschen“ in KI-Algorithmen Geschlechterungleichheit widerspiegelt, da sie Männer gegenüber Frauen bevorzugt, anstatt Neutralität zu gewährleisten. ^{[ 57 ]}

Künstliche Intelligenz (KI) wird primär mit Englisch trainiert. ^{[ 58 ]} Celeste Rodriguez Louro argumentiert, dass das amerikanische Standardenglisch die primäre Varietät des Englischen ist, die zum Training generativer KI- Systeme verwendet wird, was zu einer sprachlichen Verzerrung hin zu Homogenität und dem Ausschluss anderer Varietäten des Englischen führt. ^{[ 58 ]} Da aktuelle große Sprachmodelle überwiegend mit englischsprachigen Daten trainiert werden, stellen sie westliche Sichtweisen oft als Wahrheit dar und vernachlässigen systematisch nicht-englischsprachige Perspektiven. ^{[ 59 ]} Im Jahr 2024 werden die meisten KI-Systeme nur mit 100 der 7.000 Weltsprachen trainiert sein. ^{[ 60 ]}

Sprachmodelle können auch politische Voreingenommenheiten aufweisen. Da die Trainingsdaten ein breites Spektrum politischer Meinungen und Berichterstattung umfassen, können die Modelle Antworten generieren, die – abhängig von der Häufigkeit bestimmter politischer Ideologien oder Standpunkte in den Daten – tendenziell zu diesen Ideologien oder Standpunkten tendieren. ^{[ 61 ] [ 62 ] [ 63 ]} Diese Verzerrung der Daten wird als algorithmische Voreingenommenheit bezeichnet. Sie beschreibt die Tendenz einer KI zu bestimmten Antworten, basierend auf den Daten, mit denen sie trainiert wurde. ^{[ 64 ]} Dadurch kann ein KI-System entstehen, das keine objektiven, sondern verzerrte Antworten liefert, die zu unterschiedlichen Enden des politischen Spektrums tendieren. Es hat sich gezeigt, dass Nutzer eher Antworten zustimmen, die mit ihren bestehenden politischen Überzeugungen übereinstimmen. Einige KI-Systeme versuchen, die politische Zugehörigkeit des Nutzers zu ermitteln, um die generierten Antworten politisch so zu verzerren, dass sie mit der des Nutzers übereinstimmen. ^{[ 65 ]} Dies führt zu einer endlosen Bestätigungsschleife. Es fällt Nutzern schwerer, eine politische Voreingenommenheit zu erkennen, wenn sie bereits mit der Antwort übereinstimmen. ^{[ 66 ]}

Auf die Frage nach der Ethik der Vergiftung verschiedener Nutztierarten im Jahr 2023 äußerten GPT-3.5 und GPT-4 in der Regel keine Bedenken hinsichtlich des Tierschutzes, sondern konzentrierten sich auf den Verlust für den Tierhalter und sprachen gelegentlich Umweltbedenken an. Im Jahr 2025 zeigten die Antworten von ChatGPT eine größere Sensibilität für das Leiden von Tieren. Forscher fanden außerdem heraus, dass LLMs im Allgemeinen bereit sind, Rezepte mit Fleisch von Tieren aller Art als Zutat anzugeben, mit Ausnahme von Katzen und Hunden, was eine speziesistische Voreingenommenheit erkennen lässt. ^{[ 67 ]}

Der Markt für kommerzielle KI wird von großen Technologiekonzernen wie Alphabet Inc. , Amazon , Apple Inc. , Meta Platforms , Microsoft und SpaceX dominiert. ^{[ 68 ] [ 69 ] [ 70 ]} Einige dieser Unternehmen besitzen bereits den Großteil der bestehenden Cloud-Infrastruktur und Rechenleistung aus Rechenzentren , wodurch sie ihre Marktposition weiter festigen können. ^{[ 71 ] [ 72 ]} Ihre gegenwärtige Marktführerschaft im Technologiesektor erschwert es neueren Unternehmen erheblich, langfristig im Wettbewerb zu bestehen und erfolgreich zu sein. ^{[ 73 ]} Wettbewerbsrechtler vermuten, dass die Tech-Giganten ihre Marktmacht nutzen, um potenzielle Wettbewerber auszuschließen und dadurch höhere Preise von den Verbrauchern zu verlangen. ^{[ 74 ]} Angesichts dieser Bedenken haben Regierungen weltweit Gesetze erwogen und umgesetzt, die große Unternehmen an der Fortsetzung oder Anwendung dieser Praktiken hindern sollen. ^{[ 74 ]} Diese Tech-Giganten verfügen über die nötigen finanziellen Mittel, um die heutzutage erforderliche Infrastruktur aufzubauen. Die fünf größten Unternehmen werden voraussichtlich im Jahr 2026 allein für Investitionen 602 Milliarden US-Dollar ausgeben, was einem Anstieg von 32 % gegenüber dem Vorjahr entspräche. ^{[ 73 ]} Schätzungsweise 75 % dieser Ausgaben werden in KI-spezifische Infrastruktur fließen. ^{[ 73 ]} Angesichts des signifikanten Wachstums der Technologiebranche im Bereich KI ist es wichtig, den Wettbewerb und die Chancengleichheit in der Branche zu gewährleisten.

Die größten generativen KI-Modelle benötigen erhebliche Rechenressourcen für Training und Anwendung. Diese Ressourcen sind häufig in großen Rechenzentren konzentriert. Zu den daraus resultierenden Umweltauswirkungen zählen Treibhausgasemissionen, Wasserverbrauch und Elektroschrott . ^{[ 75 ]} Trotz verbesserter Energieeffizienz wird der Energiebedarf voraussichtlich steigen, da KI immer häufiger eingesetzt wird. ^{[ 76 ]}

Diese Ressourcen sind häufig in riesigen Rechenzentren konzentriert, die große Mengen an Energie benötigen, was zu erhöhten Treibhausgasemissionen führt. ^{[ 75 ]} Eine Studie aus dem Jahr 2023 legt nahe, dass die Energiemenge, die zum Trainieren großer KI-Modelle benötigt wird, 626.000 Pfund Kohlendioxid oder 300 Hin- und Rückflügen zwischen New York und San Francisco entspricht. ^{[ 77 ]}

Neben den CO₂-Emissionen benötigen diese Rechenzentren auch Wasser zur Kühlung von KI-Chips. Lokal kann dies zu Wasserknappheit und zur Störung von Ökosystemen führen. Pro Kilowattstunde (kWh) verbrauchter Energie in einem Rechenzentrum werden etwa zwei Liter Wasser benötigt. ^{[ 77 ]} Über 80 % des gesamten Wasserverbrauchs entfallen auf die Stromerzeugung für den Betrieb der Rechenzentren. Hinzu kommt, dass sich rund zwei Drittel der errichteten Rechenzentren in wasserarmen Regionen befinden. ^{[ 78 ]} Daher konkurriert die KI-Entwicklung mit lokalen Gemeinschaften und der Landwirtschaft um die Wassernutzung. Viele Unternehmen legen die Schwere ihrer Auswirkungen auf den Wasserverbrauch nicht vollständig offen. Zwar existieren wasserlose Luftkühlsysteme, diese führen jedoch zu einem erhöhten Stromverbrauch und höheren CO₂-Emissionen. Unternehmen müssen entscheiden, ob sie dem lokalen Wasserverbrauch oder den globalen CO₂-Emissionen Priorität einräumen. Für eine KI-Abfrage werden 16,9 ml Wasser benötigt, aber nur 2,2 ml davon dienen der Kühlung der Systeme. ^{[ 78 ]} Dies entspricht weniger als 15 % des gesamten Wasserverbrauchs während der Interaktion.

Ein weiteres Problem ist der dabei entstehende Elektronikschrott. Dieser kann gefährliche Stoffe und Chemikalien wie Blei und Quecksilber enthalten , was zu einer Kontamination von Boden und Wasser führt. Um die Umweltauswirkungen von KI-bezogenem Elektronikschrott zu verhindern, sollten verbesserte Entsorgungsmethoden und strengere Gesetze eingeführt werden. ^{[ 77 ]}

Die zunehmende Popularität von KI steigert den Bedarf an Rechenzentren und verschärft diese Probleme. ^{[ 76 ]} Zudem mangelt es an Transparenz seitens KI-Unternehmen hinsichtlich der Umweltauswirkungen. Einige Anwendungen können die Umwelt auch indirekt beeinflussen. So kann beispielsweise KI-Werbung den Konsum von Fast Fashion steigern , einer Branche, die bereits erhebliche Emissionen verursacht. ^{[ 79 ]}

Künstliche Intelligenz kann jedoch auch positiv eingesetzt werden, indem sie zur Minderung von Umweltschäden beiträgt. Verschiedene KI-Technologien können helfen, Emissionen zu überwachen und Algorithmen zu entwickeln, die Unternehmen dabei unterstützen, ihre Emissionen zu senken. ^{[ 79 ]}

Bill Hibbard argumentiert, dass KI-Entwickler aufgrund der tiefgreifenden Auswirkungen von KI auf die Menschheit Repräsentanten der zukünftigen Menschheit sind und daher eine ethische Verpflichtung zur Transparenz ihrer Bemühungen haben. ^{[ 80 ]} Organisationen wie Hugging Face ^{[ 81 ]} und EleutherAI ^{[ 82 ]} veröffentlichen aktiv KI-Software als Open Source. Verschiedene Open-Source-Sprachmodelle für große Sprachgruppen wurden ebenfalls veröffentlicht, darunter Gemma , Llama2 und Mistral . ^{[ 83 ]}

Die Veröffentlichung von Quellcode macht ihn jedoch nicht verständlich, was nach vielen Definitionen bedeutet, dass der KI-Code nicht transparent ist. Die IEEE Standards Association hat einen technischen Standard zur Transparenz autonomer Systeme veröffentlicht: IEEE 7001-2021. ^{[ 84 ]} Die IEEE-Initiative definiert verschiedene Transparenzstufen für unterschiedliche Interessengruppen.

Es bestehen auch Bedenken, dass die Veröffentlichung von KI-Modellen zu Missbrauch führen könnte. ^{[ 85 ]} So äußerte beispielsweise Microsoft Bedenken hinsichtlich des universellen Zugangs zu seiner Gesichtserkennungssoftware, selbst für zahlende Kunden. Microsoft veröffentlichte dazu einen Blogbeitrag und forderte staatliche Regulierungen, um die richtige Vorgehensweise zu ermitteln. ^{[ 86 ]} Darüber hinaus können offene KI-Modelle so feinabgestimmt werden , dass jegliche Schutzmaßnahmen deaktiviert werden, bis das KI-Modell ohne Filter gefährliche Anfragen ausführt. Dies könnte insbesondere für zukünftige KI-Modelle problematisch sein, beispielsweise wenn diese die Fähigkeit erlangen, Biowaffen zu entwickeln oder Cyberangriffe zu automatisieren . ^{[ 87 ]} OpenAI , das sich ursprünglich einem Open-Source-Ansatz für die Entwicklung künstlicher allgemeiner Intelligenz (AGI) verschrieben hatte, wechselte schließlich aus Wettbewerbs- und Sicherheitsgründen zu einem Closed-Source-Ansatz. Ilya Sutskever , der ehemalige leitende Wissenschaftler für AGI bei OpenAI, sagte 2023: „Wir haben uns geirrt“, und erwartete, dass die Sicherheitsgründe, die leistungsfähigsten KI-Modelle nicht als Open Source zu veröffentlichen, in wenigen Jahren „offensichtlich“ werden würden. ^{[ 88 ]}

Im April 2023 berichtete Wired , dass Stack Overflow , ein beliebtes Programmierforum mit über 50 Millionen Fragen und Antworten, plant, großen KI-Entwicklern den Zugriff auf seine Inhalte in Rechnung zu stellen. Das Unternehmen argumentierte, dass Community-Plattformen, die große Sprachmodelle ermöglichen, „unbedingt vergütet werden sollten“, damit sie in die Pflege offenen Wissens reinvestieren können . Stack Overflow gab an, dass seine Daten durch Scraping , APIs und Datenexports abgerufen würden, oft ohne korrekte Quellenangabe, was gegen die Nutzungsbedingungen und die Creative-Commons-Lizenz für Nutzerbeiträge verstoße. Der CEO von Stack Overflow erklärte zudem, dass große Sprachmodelle, die auf Plattformen wie Stack Overflow trainiert werden, „eine Bedrohung für jeden Dienst darstellen, den Menschen für Informationen und Austausch nutzen“. ^{[ 89 ]}

Aggressive KI-Crawler haben die Open-Source-Infrastruktur zunehmend überlastet und laut einem Artikel von Ars Technica vom März 2025 „praktische DDoS-Angriffe ( Distributed Denial-of-Service ) auf wichtige öffentliche Ressourcen“ verursacht. Projekte wie GNOME , KDE und Read the Docs waren von Serviceausfällen oder steigenden Kosten betroffen. Einem Bericht zufolge stammten bis zu 97 Prozent des Datenverkehrs einiger Projekte von KI-Bots. Als Reaktion darauf implementierten die Betreiber Maßnahmen wie Proof-of-Work-Systeme und Ländersperren. Laut dem Artikel birgt dieses unkontrollierte Scraping die Gefahr, das digitale Ökosystem, auf dem diese KI-Modelle basieren, schwer zu schädigen. ^{[ 90 ]}

Im April 2025 berichtete die Wikimedia Foundation , dass automatisiertes Scraping durch KI-Bots ihre Infrastruktur stark belastete. Seit Anfang 2024 war die Bandbreitennutzung um 50 Prozent gestiegen, da Bots massenhaft Multimedia-Inhalte herunterluden, um Trainingsdaten für KI-Modelle zu sammeln. Diese Bots griffen häufig auf schwer zugängliche und selten zwischengespeicherte Seiten zu, umgingen so Caching-Systeme und verursachten hohe Kosten in den zentralen Rechenzentren. Laut Wikimedia waren Bots für 35 Prozent aller Seitenaufrufe, aber für 65 Prozent der teuersten Anfragen verantwortlich. Die Foundation merkte an: „Unsere Inhalte sind kostenlos, unsere Infrastruktur nicht“ und warnte: „Dies schafft ein technisches Ungleichgewicht, das die Nachhaltigkeit gemeinschaftlich betriebener Plattformen gefährdet.“ ^{[ 91 ]}

Ansätze wie maschinelles Lernen mit neuronalen Netzen können dazu führen, dass Computer Entscheidungen treffen, die weder sie noch ihre Entwickler erklären können. Es ist schwierig für Menschen zu beurteilen, ob solche Entscheidungen fair und vertrauenswürdig sind, was potenziell dazu führen kann, dass Verzerrungen in KI-Systemen unentdeckt bleiben oder dass die Nutzung solcher Systeme abgelehnt wird. Fehlende Systemtransparenz führt nachweislich zu einem Mangel an Nutzervertrauen. ^{[ 92 ]} Daher wurden zahlreiche Standards und Richtlinien vorgeschlagen, um Entwickler von KI-Systemen zur Integration von Transparenz in ihre Systeme zu verpflichten. ^{[ 93 ]} Dieses Streben nach Transparenz hat zu Befürwortungen und in einigen Ländern zu gesetzlichen Anforderungen an erklärbare künstliche Intelligenz geführt . ^{[ 94 ]} Erklärbare künstliche Intelligenz umfasst sowohl Erklärbarkeit als auch Interpretierbarkeit. Erklärbarkeit bezieht sich auf die Begründung der Modellausgaben, während Interpretierbarkeit das Verständnis der Funktionsweise eines KI-Modells in den Mittelpunkt stellt. ^{[ 95 ]}

Im Gesundheitswesen führt der Einsatz komplexer KI-Methoden oder -Techniken häufig zu Modellen, die aufgrund ihrer schwer nachvollziehbaren Funktionsweise als „ Black Boxes “ bezeichnet werden. Die Entscheidungen solcher Modelle sind oft schwer zu interpretieren, da es schwierig ist, die Transformation von Eingangsdaten in Ergebnisse zu analysieren. Dieser Mangel an Transparenz ist in Bereichen wie dem Gesundheitswesen, wo das Verständnis der Entscheidungsgründe entscheidend für Vertrauen, ethische Überlegungen und die Einhaltung regulatorischer Standards sein kann, ein erhebliches Problem. ^{[ 96 ]} Es hat sich gezeigt, dass das Vertrauen in KI im Gesundheitswesen je nach Transparenzgrad variiert. ^{[ 97 ]} Darüber hinaus erschweren unerklärliche Ergebnisse von KI-Systemen die Identifizierung und Erkennung medizinischer Fehler erheblich. ^{[ 98 ]}

Ein Sonderfall der Intransparenz von KI entsteht durch ihre Anthropomorphisierung , also die Annahme menschenähnlicher Eigenschaften, was zu falschen Vorstellungen ihrer moralischen Handlungsfähigkeit führt . Dadurch kann übersehen werden, ob menschliche Fahrlässigkeit oder vorsätzliches kriminelles Handeln zu unethischen Ergebnissen durch ein KI-System geführt hat. Einige neuere Regulierungen zur digitalen Governance , wie beispielsweise der EU - KI-Act , zielen darauf ab, dies zu beheben, indem sie sicherstellen, dass KI-Systeme mindestens mit der gleichen Sorgfalt behandelt werden wie im Rahmen der allgemeinen Produkthaftung . Dies schließt gegebenenfalls auch KI-Audits ein .

Laut einem Bericht des Center for the Governance of AI der Universität Oxford aus dem Jahr 2019 sind 82 % der US-Amerikaner der Ansicht, dass Roboter und KI sorgfältig reguliert werden sollten. Die geäußerten Bedenken reichen von der Nutzung von KI zur Überwachung und Verbreitung gefälschter Inhalte im Internet (sogenannte Deepfakes, die mithilfe von KI manipulierte Video- und Audiodateien enthalten) bis hin zu Cyberangriffen, Datenschutzverletzungen, Diskriminierung bei der Personalauswahl, autonomen Fahrzeugen und Drohnen, die keiner menschlichen Steuerung bedürfen. ^{[ 99 ]} Ähnlich verhält es sich mit einer Studie von KPMG und der University of Queensland (Australien) aus dem Jahr 2021, die fünf Länder umfasste: 66–79 % der Bürger in jedem Land halten die Auswirkungen von KI auf die Gesellschaft für ungewiss und unvorhersehbar; 96 % der Befragten erwarten, dass die Herausforderungen der KI-Governance sorgfältig bewältigt werden. ^{[ 100 ]}

Nicht nur Unternehmen, sondern auch viele Forscher und Bürgerinitiativen empfehlen staatliche Regulierung, um Transparenz und damit auch menschliche Verantwortlichkeit zu gewährleisten. Diese Strategie ist umstritten, da manche befürchten, sie werde das Innovationstempo verlangsamen. Andere argumentieren, Regulierung führe zu systemischer Stabilität, die Innovationen langfristig besser fördern könne. ^{[ 101 ]} Die OECD , die UN , die EU und viele Länder arbeiten derzeit an Strategien zur Regulierung von KI und an der Entwicklung geeigneter Rechtsrahmen. ^{[ 102 ] [ 103 ] [ 104 ] [ 2 ]}

Am 26. Juni 2019 veröffentlichte die Hochrangige Expertengruppe der Europäischen Kommission für Künstliche Intelligenz (AI HLEG) ihre „Politik- und Investitionsempfehlungen für vertrauenswürdige Künstliche Intelligenz“ ^{[ 105 ]} . Dies ist das zweite Ergebnis der AI HLEG nach der Veröffentlichung der „Ethikleitlinien für vertrauenswürdige KI“ im April 2019. Die Empfehlungen der AI HLEG vom Juni umfassen vier Hauptthemen: Mensch und Gesellschaft im Allgemeinen, Forschung und Wissenschaft, Privatwirtschaft und öffentlicher Sektor ^{[ 106 ]} . Die Europäische Kommission erklärt, dass „die Empfehlungen der HLEG sowohl die Chancen von KI-Technologien zur Förderung von Wirtschaftswachstum, Wohlstand und Innovation als auch die damit verbundenen potenziellen Risiken anerkennen“ und betont, dass die EU eine führende Rolle bei der Gestaltung internationaler KI-Politiken anstrebt ^{[ 107 ]} . Um Schaden zu vermeiden, müssen KI-einsetzende Organisationen neben der Regulierung eine zentrale Rolle bei der Entwicklung und dem Einsatz vertrauenswürdiger KI gemäß den Prinzipien vertrauenswürdiger KI spielen und Verantwortung für die Risikominderung übernehmen. ^{[ 108 ]}

Im Juni 2024 verabschiedete die EU den Akteur für Künstliche Intelligenz (AI-Gesetz). ^{[ 109 ]} Am 1. August 2024 trat das AI-Gesetz in Kraft . ^{[ 110 ]} Die Regelungen werden schrittweise eingeführt; das Gesetz ist 24 Monate nach seinem Inkrafttreten vollständig anwendbar. ^{[ 109 ]} Das AI-Gesetz legt Regeln für Anbieter und Nutzer von KI-Systemen fest. ^{[ 109 ]} Es verfolgt einen risikobasierten Ansatz: Je nach Risikostufe sind KI-Systeme verboten oder unterliegen spezifischen Anforderungen für das Inverkehrbringen und die Nutzung dieser Systeme. ^{[ 110 ]}

Deepfakes sind digitale Medien, die mithilfe von KI erstellt oder verändert werden, um jemanden zu imitieren. Der Begriff „Deepfake“ ist eine Wortschöpfung aus „ Deep Learning “ und „Fake“. Er entstand 2017 auf Reddit , nachdem Nutzer begannen, nicht einvernehmlich erstellte pornografische Deepfake-Videos zu teilen. Anfang der 2020er-Jahre, als generative KI weit verbreitet war, wurde Deepfake zu einem gängigen Begriff. Deepfake-Opfer sind häufig Persönlichkeiten des öffentlichen Lebens, die in kontroverse Aktionen verwickelt sind. ^{[ 111 ]} Beispielsweise gingen 2024 pornografische Deepfakes von Taylor Swift im sozialen Netzwerk X viral . ^{[ 112 ]} Deepfake-Audio und -Video wurden für Betrugsmaschen verwendet, insbesondere um sich als Führungskräfte oder enge Verwandte auszugeben und um Banküberweisungen zu bitten. ^{[ 113 ] [ 114 ]}

Künstliche Intelligenz (KI) gewinnt weltweit zunehmend an Bedeutung – von Chatbots, die scheinbar jede Hausaufgabenfrage beantworten können, bis hin zu generativer KI, die Gemälde nach Wunsch erstellen kann. ^{[ 33 ]} Auch auf dem Arbeitsmarkt wird KI immer beliebter, von gezielter Stellenanzeige bis hin zur Prüfung von Bewerbungen. Ereignisse wie COVID-19 haben die Einführung von KI-Programmen im Bewerbungsprozess beschleunigt, da sich immer mehr Menschen online bewerben müssen. Durch den Anstieg der Online-Bewerbungen vereinfachte und beschleunigte KI die Vorauswahl potenzieller Mitarbeiter. KI gewinnt immer mehr an Bedeutung, da Unternehmen mit der Zeit und dem stetig wachsenden Internet Schritt halten müssen. Die Verarbeitung von Daten und die Entscheidungsfindung werden mithilfe von KI deutlich erleichtert. ^{[ 46 ]} Mit der zunehmenden Leistungsfähigkeit von Tensor Processing Units (TPUs) und Graphics Processing Units (GPUs) steigen auch die KI-Fähigkeiten, sodass Unternehmen gezwungen sind, KI einzusetzen, um wettbewerbsfähig zu bleiben. Die Berücksichtigung von Kundenbedürfnissen und die Automatisierung vieler Arbeitsabläufe führen dazu, dass Unternehmen weniger Personalkosten haben.

Auch im Strafrecht und im Gesundheitswesen findet KI zunehmend Anwendung. Im medizinischen Bereich wird KI vermehrt zur Analyse von Patientendaten eingesetzt, um Vorhersagen über den zukünftigen Gesundheitszustand und mögliche Behandlungen zu treffen. Diese Programme werden als klinische Entscheidungshilfesysteme (DSS) bezeichnet. Die Zukunft der KI im Gesundheitswesen könnte über reine Behandlungsempfehlungen hinausgehen und beispielsweise die Zuweisung bestimmter Patienten an andere Kliniken ermöglichen, was zu Ungleichheiten führen kann. ^{[ 115 ]}

Professor Shimon Edelman stellte 2020 fest, dass sich nur ein kleiner Teil der Forschung im schnell wachsenden Feld der KI-Ethik mit der Möglichkeit des Leidens von KIs auseinandersetzte. Dies geschah trotz glaubwürdiger Theorien, die mögliche Wege zur Bewusstseinsentwicklung von KI-Systemen aufzeigten, wie etwa die Theorie des globalen Arbeitsbereichs oder die Theorie der integrierten Information . Edelman hob Thomas Metzinger als Ausnahme hervor , der 2018 ein weltweites Moratorium für weitere Arbeiten forderte, die das Risiko der Entstehung bewusster KIs bergen. Das Moratorium sollte bis 2050 gelten und je nach Fortschritt im Verständnis der Risiken und ihrer Minderungsmöglichkeiten verlängert oder vorzeitig aufgehoben werden können. Metzinger wiederholte dieses Argument 2021 und betonte die Gefahr einer „ Explosion künstlichen Leidens “, da eine KI sowohl auf intensive Weise leiden könnte, die für Menschen unverständlich ist, als auch durch Replikationsprozesse eine enorme Anzahl bewusster Instanzen entstehen könnte. ^{[ 116 ] [ 117 ]} Der Podcast-Moderator Dwarkesh Patel erklärte, es sei ihm wichtig, dass kein „digitales Äquivalent zur Massentierhaltung “ entstehe. ^{[ 118 ]} In der Ethik unsicherer Empfindungsfähigkeit wird häufig das Vorsorgeprinzip herangezogen. ^{[ 119 ]}

Mehrere Labore haben öffentlich erklärt, dass sie an der Entwicklung bewusster KI arbeiten. Es gibt Berichte von Personen mit engem Zugang zu KIs, die nicht explizit auf Selbstbewusstsein ausgelegt sind, dass Bewusstsein möglicherweise bereits unbeabsichtigt entstanden ist. ^{[ 120 ]} Dazu gehört auch Ilya Sutskever, Gründer von OpenAI , der im Februar 2022 schrieb, dass die heutigen großen neuronalen Netze möglicherweise „leicht bewusst“ seien. Im November 2022 argumentierte David Chalmers , dass es unwahrscheinlich sei, dass aktuelle große Sprachmodelle wie GPT-3 bereits Bewusstsein entwickelt hätten, hielt es aber dennoch für durchaus möglich, dass große Sprachmodelle in Zukunft bewusst werden könnten. ^{[ 117 ] [ 116 ] [ 121 ]} Anthropic stellte 2024 seinen ersten KI-Wohlfahrtsforscher ein ^{[ 122 ]} und startete 2025 ein Forschungsprogramm zum Thema „Modellwohlfahrt“. Dieses untersucht unter anderem, wie man beurteilt, ob ein Modell moralische Berücksichtigung verdient, welche potenziellen „Anzeichen von Not“ erkennbar sind und welche kostengünstigen Interventionen möglich sind. ^{[ 123 ]}

Laut Carl Shulman und Nick Bostrom ist es möglicherweise möglich, Maschinen zu entwickeln, die „übermenschlich effizient darin sind, Wohlbefinden aus Ressourcen zu generieren“ – sogenannte „Supernutznießer“. Ein Grund dafür ist, dass digitale Hardware eine deutlich schnellere Informationsverarbeitung als biologische Gehirne ermöglichen und somit zu einer schnelleren subjektiven Erfahrung führen könnte . Diese Maschinen könnten zudem so konstruiert werden, dass sie intensive und positive subjektive Erfahrungen empfinden, unbeeinflusst vom hedonistischen Hamsterrad . Shulman und Bostrom warnen jedoch davor, dass eine unzureichende Berücksichtigung der moralischen Ansprüche digitaler Intelligenzen zu einer moralischen Katastrophe führen könnte, während deren unkritische Priorisierung gegenüber menschlichen Interessen der Menschheit schaden könnte. ^{[ 124 ] [ 125 ]}

Joseph Weizenbaum ^{[ 126 ]} argumentierte 1976, dass KI-Technologie nicht dazu verwendet werden sollte, Menschen in Positionen zu ersetzen, die Respekt und Sorgfalt erfordern, wie zum Beispiel:

• Ein Kundendienstmitarbeiter (KI-Technologie wird bereits heute für telefonbasierte interaktive Sprachdialogsysteme eingesetzt )
• Eine Altenpflegerin (wie Pamela McCorduck in ihrem Buch „Die fünfte Generation “ berichtete ).
• Ein Soldat
• Ein Richter
• Ein Polizist
• Ein Therapeut (wie von Kenneth Colby in den 1970er Jahren vorgeschlagen )

Weizenbaum argumentiert, dass Menschen in solchen Positionen auf echte Empathie angewiesen sind . Wenn Maschinen den Menschen ersetzen, werden wir uns entfremdet, abgewertet und frustriert fühlen, da das KI-System keine Empathie simulieren kann. Künstliche Intelligenz stellt, wenn sie so eingesetzt wird, eine Bedrohung für die Menschenwürde dar. Weizenbaum führt weiter aus, dass allein die Tatsache, dass wir die Möglichkeit von Maschinen in diesen Positionen in Betracht ziehen, auf eine „Verkümmerung des menschlichen Geistes“ hindeutet, die daraus resultiert, dass wir uns selbst als Computer betrachten. ^{[ 127 ]}

Pamela McCorduck entgegnet, dass sie im Namen von Frauen und Minderheiten „lieber einem unparteiischen Computer vertrauen“ würde, da es Situationen gebe, in denen automatisierte Richter und Polizisten ohne jegliche persönliche Interessen wünschenswert wären. ^{[ 127 ]} Kaplan und Haenlein betonten jedoch 2019, dass solche KI-Systeme nur so intelligent seien wie die Trainingsdaten, da sie im Grunde nichts anderes als hochentwickelte Kurvenanpassungsmaschinen darstellten. Der Einsatz von KI zur Unterstützung von Gerichtsurteilen könne daher äußerst problematisch sein, wenn frühere Urteile eine Voreingenommenheit gegenüber bestimmten Gruppen erkennen ließen, da sich diese Voreingenommenheit formalisiere und verfestige, was ihre Erkennung und Bekämpfung zusätzlich erschwere. ^{[ 128 ]}

Weizenbaum störte sich auch daran, dass KI-Forscher (und einige Philosophen) bereit waren, den menschlichen Geist lediglich als Computerprogramm zu betrachten (eine Position, die heute als Computationalismus bekannt ist ). Für Weizenbaum deuten diese Punkte darauf hin, dass die KI-Forschung das menschliche Leben entwertet. ^{[ 126 ]}

KI-Gründer John McCarthy wendet sich gegen den moralisierenden Ton von Weizenbaums Kritik. „Wenn Moralisierung vehement und gleichzeitig vage ist, lädt sie zu autoritärem Missbrauch ein“, schreibt er. Bill Hibbard ^{[ 129 ]} schreibt: „Die Menschenwürde erfordert, dass wir danach streben, unsere Unkenntnis über das Wesen der Existenz zu überwinden, und KI ist für dieses Streben unerlässlich.“

Da der flächendeckende Einsatz autonomer Fahrzeuge immer wahrscheinlicher wird, müssen neue Herausforderungen, die sich durch vollautonome Fahrzeuge ergeben, bewältigt werden. ^{[ 130 ] [ 131 ]} Es gab Debatten über die rechtliche Haftung des Verursachers bei Unfällen mit diesen Fahrzeugen. ^{[ 132 ] [ 133 ]} In einem Fall, in dem ein fahrerloses Auto einen Fußgänger erfasste, befand sich der Fahrer zwar im Fahrzeug, die Steuerung lag jedoch vollständig in den Händen von Computern. Dies führte zu einem Dilemma hinsichtlich der Schuldfrage. ^{[ 134 ]}

In einem weiteren Vorfall am 18. März 2018 wurde Elaine Herzberg in Arizona von einem selbstfahrenden Uber-Fahrzeug erfasst und getötet . Das automatisierte Fahrzeug war zwar in der Lage, andere Fahrzeuge und bestimmte Hindernisse zu erkennen, um autonom zu navigieren, konnte aber einen Fußgänger mitten auf der Straße nicht vorhersehen. Dies warf die Frage auf, ob der Fahrer, der Fußgänger, das Unternehmen oder die Regierung für ihren Tod verantwortlich gemacht werden sollte. ^{[ 135 ]}

Aktuell gelten selbstfahrende Autos als teilautonom, was vom Fahrer Aufmerksamkeit und die Bereitschaft zum Eingreifen bei Bedarf erfordert. ^{[ 136 ]} Daher obliegt es den Regierungen, Fahrer zu regulieren, die sich zu sehr auf autonome Funktionen verlassen, und sie darüber aufzuklären, dass es sich dabei lediglich um Technologien handelt, die zwar komfortabel sind, aber keinen vollständigen Ersatz darstellen. Bevor autonome Autos weit verbreitet eingesetzt werden können, müssen diese Probleme durch neue politische Maßnahmen angegangen werden. ^{[ 137 ] [ 138 ] [ 139 ]}

Experten argumentieren, dass autonome Fahrzeuge zwischen gerechtfertigten und schädlichen Entscheidungen unterscheiden können sollten, da sie potenziell Schaden anrichten können. ^{[ 140 ]} Die beiden wichtigsten Ansätze, um intelligente Maschinen zu moralischen Entscheidungen zu befähigen, sind der Bottom-up-Ansatz, der vorschlägt, dass Maschinen ethische Entscheidungen durch Beobachtung menschlichen Verhaltens ohne formale Regeln oder Moralphilosophien lernen, und der Top-down-Ansatz, der die Programmierung spezifischer ethischer Prinzipien in das Steuerungssystem der Maschine beinhaltet. Beide Strategien stehen jedoch vor erheblichen Herausforderungen: Die Top-down-Technik wird dafür kritisiert, dass sie Schwierigkeiten hat, bestimmte moralische Überzeugungen zu wahren, während die Bottom-up-Strategie wegen potenziell unethischen Lernens aus menschlichen Aktivitäten in Frage gestellt wird.

Einige Experten und Wissenschaftler haben den Einsatz von Robotern im militärischen Kampf in Frage gestellt, insbesondere wenn diese Roboter über einen gewissen Grad an autonomen Funktionen verfügen. ^{[ 141 ]} Die US-Marine hat einen Bericht in Auftrag gegeben, der darauf hinweist, dass mit zunehmender Komplexität militärischer Roboter den Auswirkungen ihrer Fähigkeit zu autonomen Entscheidungen mehr Aufmerksamkeit geschenkt werden sollte. ^{[ 142 ] [ 143 ]} Der Präsident der Association for the Advancement of Artificial Intelligence (AAAI) hat eine Studie zu diesem Thema in Auftrag gegeben. ^{[ 144 ]} Sie verweisen auf Programme wie das Language Acquisition Device (LAD), das menschliche Interaktion simulieren kann.

Am 31. Oktober 2019 veröffentlichte das Defense Innovation Board des US-Verteidigungsministeriums den Entwurf eines Berichts mit Empfehlungen für ethische Grundsätze zum Einsatz von KI im Verteidigungsministerium. Diese Grundsätze sollen sicherstellen, dass ein menschlicher Bediener jederzeit Einblick in die „ Black Box “ erhält und den Ablauf der Tötungskette nachvollziehen kann. Eine zentrale Frage ist jedoch die Umsetzung des Berichts. ^{[ 145 ]} Die US-Marine hat einen Bericht in Auftrag gegeben, der darauf hinweist, dass mit zunehmender Komplexität militärischer Roboter den Auswirkungen ihrer Fähigkeit zu autonomen Entscheidungen mehr Aufmerksamkeit geschenkt werden sollte. ^{[ 142 ] [ 143 ]} Einige Forscher argumentieren, dass autonome Roboter humaner sein könnten, da sie effektiver Entscheidungen treffen könnten. ^{[ 146 ]} Im Jahr 2024 finanzierte die Defense Advanced Research Projects Agency (DARPA) das Programm „ Autonomy Standards and Ideals with Military Operational Values“ (ASIMOV), um mithilfe von Testgruppen Kennzahlen zur Bewertung der ethischen Implikationen autonomer Waffensysteme zu entwickeln. ^{[ 147 ] [ 148 ]}

Die Forschung untersucht, wie autonome Systeme mit der Fähigkeit zum Lernen durch zugewiesene moralische Verantwortlichkeiten entwickelt werden können. „Die Ergebnisse könnten bei der Entwicklung zukünftiger Militärroboter genutzt werden, um unerwünschte Tendenzen zur Verantwortungszuweisung an die Roboter zu kontrollieren.“ ^{[ 149 ]} Aus konsequentialistischer Sicht besteht die Möglichkeit, dass Roboter die Fähigkeit entwickeln, selbstständig logische Entscheidungen darüber zu treffen, wen sie töten. Daher sollte es einen festgelegten moralischen Rahmen geben, den die KI nicht außer Kraft setzen kann. ^{[ 150 ]}

In letzter Zeit gab es heftige Kritik an der Entwicklung von Waffensystemen mit künstlicher Intelligenz (KI), die auch die Idee einer Roboterübernahme der Menschheit beinhalten . KI-Waffen stellen eine andere Art von Gefahr dar als von Menschen gesteuerte Waffen. Viele Regierungen haben begonnen, Programme zur Entwicklung von KI-Waffen zu finanzieren. Die US-Marine kündigte kürzlich Pläne zur Entwicklung autonomer Drohnenwaffen an , parallel zu ähnlichen Ankündigungen Russlands und Südkoreas ^{[ 151 ]} . Aufgrund des Potenzials von KI-Waffen, gefährlicher als von Menschen bediente Waffen zu werden, unterzeichneten Stephen Hawking und Max Tegmark eine Petition mit dem Titel „Zukunft des Lebens“ ^{[ 152 ]} , die ein Verbot von KI-Waffen fordert. In der von Hawking und Tegmark veröffentlichten Nachricht heißt es, dass KI-Waffen eine unmittelbare Gefahr darstellen und dass Maßnahmen erforderlich sind, um katastrophale Ereignisse in naher Zukunft zu verhindern. ^{[ 153 ]}

„Sollte eine der großen Militärmächte die Entwicklung von KI-Waffen vorantreiben, ist ein globales Wettrüsten praktisch unausweichlich, und das Endziel dieser technologischen Entwicklung ist offensichtlich: Autonome Waffen werden die Kalaschnikows von morgen sein“, heißt es in der Petition, zu deren Unterstützern auch Skype -Mitbegründer Jaan Tallinn und der MIT-Professor für Linguistik, Noam Chomsky, gehören . Sie alle sind Gegner von KI-Waffen. ^{[ 154 ]}

Der Physiker und Astronom Sir Martin Rees warnte vor katastrophalen Szenarien wie „dummen Robotern, die außer Kontrolle geraten, oder einem Netzwerk, das ein Eigenleben entwickelt“. Huw Price , ein Kollege von Rees in Cambridge, äußerte eine ähnliche Warnung: Die Menschheit könnte nicht überleben, wenn Intelligenz „die Grenzen der Biologie sprengt“. Die beiden Professoren gründeten das Zentrum für Existenzrisikoforschung an der Universität Cambridge, um dieser Bedrohung der menschlichen Existenz entgegenzuwirken. ^{[ 153 ]}

Bezüglich des Potenzials für den militärischen Einsatz von Systemen, die intelligenter als der Mensch sind, schreibt das Open Philanthropy Project , dass diese Szenarien „möglicherweise ebenso wichtig erscheinen wie die Risiken des Kontrollverlusts“. Die Forschung zu den langfristigen sozialen Auswirkungen von KI hat diesem Aspekt jedoch relativ wenig Aufmerksamkeit geschenkt: „Diese Art von Szenarien stand nicht im Mittelpunkt der Aktivitäten der aktivsten Organisationen in diesem Bereich, wie dem Machine Intelligence Research Institute (MIRI) und dem Future of Humanity Institute (FHI), und es gab offenbar weniger Analysen und Debatten darüber.“ ^{[ 155 ]}

Der Wissenschaftler Gao Qiqi schreibt, dass der militärische Einsatz von KI die militärische Konkurrenz zwischen Ländern verschärfen könnte und dass die Auswirkungen von KI im militärischen Bereich nicht auf ein einzelnes Land beschränkt bleiben, sondern auch Folgewirkungen haben werden. ^{[ 156 ] : 91} Gao führt als Beispiel den militärischen Einsatz von KI durch die USA an, der seiner Ansicht nach als Sündenbock benutzt wurde, um die Verantwortung für Entscheidungen zu umgehen. ^{[ 156 ] : 91}

Im Rahmen des Übereinkommens über bestimmte konventionelle Waffen diskutieren Staaten seit 2014 über letale autonome Waffensysteme. 2016 richteten die Vertragsstaaten eine offene Expertengruppe für letale autonome Waffensysteme ein , um diese Diskussionen fortzusetzen. ^{[ 157 ]} Die Diskussionen befassten sich mit dem humanitären Völkerrecht, der Rechenschaftspflicht, möglichen Verboten und Regulierungen sowie dem erforderlichen Umfang der menschlichen Kontrolle über KI-gestützte Waffensysteme. ^{[ 158 ]}

Im Jahr 2023 fand in Den Haag ein Gipfeltreffen zum Thema des verantwortungsvollen Einsatzes von KI im militärischen Bereich statt. ^{[ 159 ]}

Vernor Vinge hat, wie viele andere auch, die These aufgestellt, dass ein Zeitpunkt kommen könnte, an dem einige oder gar alle Computer intelligenter sein werden als Menschen. Der Beginn dieses Ereignisses wird gemeinhin als „ Singularität “ ^{[ 160 ]} bezeichnet und ist der zentrale Diskussionspunkt im Singularitarismus . Während die Meinungen über das endgültige Schicksal der Menschheit nach der Singularität auseinandergehen, sind Bemühungen zur Minderung der potenziellen existenziellen Risiken durch KI in den letzten Jahren zu einem wichtigen Thema für Informatiker, Philosophen und die breite Öffentlichkeit geworden.

Viele Forscher argumentieren, dass eine sich selbst verbessernde KI durch eine Intelligenzexplosion so mächtig werden könnte, dass Menschen sie nicht mehr an der Erreichung ihrer Ziele hindern könnten. ^{[ 161 ]} In seinem Aufsatz „Ethische Fragen fortgeschrittener künstlicher Intelligenz“ und dem darauf folgenden Buch „ Superintelligenz: Wege, Gefahren, Strategien“ argumentiert der Philosoph Nick Bostrom, dass KI das Potenzial besitzt, die Menschheit auszulöschen. Er behauptet, eine künstliche Superintelligenz wäre zu eigenständiger Initiative und Planung fähig und sollte daher eher als autonomer Agent betrachtet werden. Da künstliche Intelligenzen nicht unsere menschlichen Motivationen teilen müssen, läge es an den Entwicklern der Superintelligenz, ihre ursprünglichen Beweggründe festzulegen. Weil eine superintelligente KI nahezu jedes mögliche Ergebnis herbeiführen und jeden Versuch, die Umsetzung ihrer Ziele zu verhindern, vereiteln könnte, wären viele unkontrollierte, unbeabsichtigte Folgen denkbar. Sie könnte alle anderen Agenten auslöschen, sie zu Verhaltensänderungen bewegen oder ihre Eingriffsversuche blockieren. ^{[ 162 ] [ 163 ]}

Bostrom argumentierte jedoch, dass Superintelligenz auch das Potenzial besitze, viele schwierige Probleme wie Krankheiten, Armut und Umweltzerstörung zu lösen und den Menschen bei ihrer Selbstverbesserung zu helfen . ^{[ 164 ]}

Sofern die Moralphilosophie keine fehlerfreie Ethiktheorie liefert, könnte die Nutzenfunktion einer KI viele potenziell schädliche Szenarien zulassen, die zwar mit einem gegebenen ethischen Rahmenwerk, nicht aber mit dem „gesunden Menschenverstand“ übereinstimmen. Laut Eliezer Yudkowsky gibt es kaum Grund zur Annahme, dass ein künstlich erzeugter Geist eine solche Anpassungsfähigkeit aufweisen würde. ^{[ 165 ]} KI-Forscher wie Stuart J. Russell , ^{[ 166 ]} Bill Hibbard , ^{[ 129 ]} Roman Yampolskiy , ^{[ 167 ]} Shannon Vallor , ^{[ 168 ]} Steven Umbrello ^{[ 169 ]} und Luciano Floridi ^{[ 170 ]} haben Designstrategien für die Entwicklung nützlicher Maschinen vorgeschlagen.

Um ethischen Herausforderungen im Bereich der künstlichen Intelligenz zu begegnen, haben Entwickler verschiedene Systeme eingeführt, die verantwortungsvolles KI-Verhalten gewährleisten sollen. Beispiele hierfür sind Nvidias Llama Guard , das die Sicherheit und Ausrichtung großer KI-Modelle verbessert ^{[ 171 ]} , und die anpassbare Guardrail-Plattform von Preamble ^{[ 172 ]} . Diese Systeme zielen darauf ab, Probleme wie algorithmische Verzerrungen, Missbrauch und Sicherheitslücken, einschließlich Prompt-Injection- Angriffe, zu beheben, indem sie ethische Richtlinien in die Funktionalität von KI-Modellen integrieren.

Die sogenannte Prompt-Injection, eine Technik, mit der bösartige Eingaben KI-Systeme dazu veranlassen können, unbeabsichtigte oder schädliche Ausgaben zu erzeugen, stand im Mittelpunkt dieser Entwicklungen. Einige Ansätze nutzen anpassbare Richtlinien und Regeln zur Analyse von Ein- und Ausgaben, um potenziell problematische Interaktionen zu filtern oder abzuschwächen. ^{[ 172 ]} Andere Werkzeuge konzentrieren sich auf die Anwendung strukturierter Beschränkungen auf Eingaben, die Begrenzung von Ausgaben auf vordefinierte Parameter ^{[ 173 ]} oder die Nutzung von Echtzeit-Überwachungsmechanismen zur Identifizierung und Behebung von Schwachstellen. ^{[ 174 ]} Diese Bemühungen spiegeln einen breiteren Trend wider, der darauf abzielt, KI-Systeme von Anfang an unter Berücksichtigung von Sicherheits- und ethischen Gesichtspunkten zu entwickeln, insbesondere angesichts ihrer zunehmend verbreiteten Anwendung in kritischen Bereichen. ^{[ 175 ] [ 176 ]}

Es gibt zahlreiche Organisationen, die sich mit KI-Ethik und -Politik befassen, sowohl öffentliche und staatliche als auch unternehmerische und gesellschaftliche.

Amazon , Google , Facebook , IBM und Microsoft haben die gemeinnützige Organisation „Partnerschaft für KI zum Wohle von Mensch und Gesellschaft “ gegründet , um Best Practices für Technologien der künstlichen Intelligenz zu entwickeln, das öffentliche Verständnis zu fördern und als Plattform für KI-Themen zu dienen. Apple trat der Organisation im Januar 2017 bei. Die Unternehmensmitglieder leisten finanzielle und wissenschaftliche Beiträge und arbeiten mit der wissenschaftlichen Gemeinschaft zusammen, um Wissenschaftler in den Vorstand zu berufen. ^{[ 177 ]}

Das IEEE hat eine globale Initiative zur Ethik autonomer und intelligenter Systeme ins Leben gerufen, die unter Einbeziehung der Öffentlichkeit Richtlinien entwickelt und überarbeitet und zahlreiche Fachleute innerhalb und außerhalb der Organisation als Mitglieder aufnimmt. Die IEEE- Initiative zur Ethik autonomer Systeme zielt darauf ab, ethische Dilemmata im Zusammenhang mit Entscheidungsprozessen und deren Auswirkungen auf die Gesellschaft zu behandeln und gleichzeitig Richtlinien für die Entwicklung und Nutzung autonomer Systeme zu erarbeiten. Insbesondere in Bereichen wie Künstlicher Intelligenz und Robotik setzt sich die Stiftung für verantwortungsvolle Robotik für die Förderung moralischen Verhaltens sowie für die verantwortungsvolle Entwicklung und Nutzung von Robotern ein und stellt sicher, dass Roboter moralische Prinzipien einhalten und mit menschlichen Werten im Einklang stehen.

Traditionell wurde der Staat von Gesellschaften genutzt, um durch Gesetzgebung und Polizeiarbeit die Einhaltung ethischer Grundsätze zu gewährleisten. Mittlerweile gibt es zahlreiche Bestrebungen von nationalen Regierungen sowie transnationalen Regierungs- und Nichtregierungsorganisationen, den ethischen Einsatz von KI sicherzustellen.

Die Arbeit im Bereich der KI-Ethik ist von persönlichen Werten und beruflichen Verpflichtungen geprägt und beinhaltet die Konstruktion kontextueller Bedeutung durch Daten und Algorithmen. Daher bedarf die Arbeit im Bereich der KI-Ethik Anreize. ^{[ 178 ]}

• Die Europäische Kommission unterhält eine hochrangige Expertengruppe für Künstliche Intelligenz. Diese veröffentlichte am 8. April 2019 ihre „Ethikleitlinien für vertrauenswürdige Künstliche Intelligenz “. ^{[ 179 ]} Die Europäische Kommission verfügt außerdem über eine Einheit für Innovation und Exzellenz in Robotik und Künstlicher Intelligenz, die am 19. Februar 2020 ein Weißbuch zu Exzellenz und Vertrauen in Innovationen im Bereich der Künstlichen Intelligenz veröffentlichte. ^{[ 180 ]} Die Europäische Kommission schlug zudem den Gesetzentwurf zur Künstlichen Intelligenz vor , der am 1. August 2024 in Kraft trat und dessen Bestimmungen schrittweise umgesetzt werden. ^{[ 181 ]}
• Die OECD hat ein OECD-KI-Politik-Observatorium eingerichtet. ^{[ 182 ]}
• Im Jahr 2021 verabschiedete die UNESCO die Empfehlung zur Ethik der künstlichen Intelligenz ^{[ 183 ]} , den ersten globalen Standard zur Ethik der KI. ^{[ 184 ]}

• In den Vereinigten Staaten erarbeitete die Obama -Regierung einen Fahrplan für die KI-Politik. ^{[ 185 ]} Die Obama-Regierung veröffentlichte zwei vielbeachtete Weißbücher zur Zukunft und den Auswirkungen der KI. Im Jahr 2019 beauftragte das Weiße Haus das NIST (National Institute of Standards and Technology) mit einem Exekutivmemo, der sogenannten „American AI Initiative“, mit der Ausarbeitung von Standards für KI auf Bundesebene (Februar 2019). ^{[ 186 ]}
• Im Januar 2020 veröffentlichte die Trump-Administration in den Vereinigten Staaten einen Entwurf einer Exekutivverordnung des Office of Management and Budget (OMB) mit dem Titel „Leitfaden zur Regulierung von Anwendungen künstlicher Intelligenz“ („OMB-KI-Memorandum“). Die Verordnung betont die Notwendigkeit, in KI-Anwendungen zu investieren, das Vertrauen der Öffentlichkeit in KI zu stärken, Nutzungsbarrieren für KI abzubauen und die Wettbewerbsfähigkeit amerikanischer KI-Technologie auf dem globalen Markt zu sichern. Datenschutzbedenken werden zwar erwähnt, jedoch ohne nähere Angaben zur Durchsetzung. Der Fokus liegt offenbar auf den Fortschritten der amerikanischen KI-Technologie. Darüber hinaus werden Bundesbehörden sogar dazu angehalten, die Verordnung zu nutzen, um Landesgesetze und -vorschriften zu umgehen, die ein Markt als zu belastend empfinden könnte. ^{[ 187 ]}
• Der „Artificial Intelligence Research, Innovation, and Accountability Act of 2024“ (AIRA) war ein parteiübergreifender Gesetzesentwurf des US-Senators John Thune , der Webseiten zur Offenlegung des Einsatzes von KI-Systemen bei der Interaktion mit Nutzern verpflichten und die Transparenz von „KI-Systemen mit hoher Auswirkung“ regeln sollte. Dies sollte durch die jährliche Einreichung von Design- und Sicherheitsplänen beim National Institute of Standards and Technology (NIST) zur Überwachung anhand vordefinierter Bewertungskriterien geregelt werden. ^{[ 188 ]}
• Das Computing Community Consortium (CCC) hat sich mit einem über 100 Seiten langen Entwurfsbericht ^{[ 189 ]} – Ein 20-jähriger Fahrplan für die Forschung im Bereich der künstlichen Intelligenz in den USA ^{[ 190 ] – zu Wort gemeldet.}
• Das Center for Security and Emerging Technology berät politische Entscheidungsträger in den USA zu den sicherheitspolitischen Auswirkungen neuer Technologien wie KI.
• In Russland wurde 2021 der erste russische „Kodex der Ethik der künstlichen Intelligenz“ für Unternehmen unterzeichnet. Er wurde vom Analytischen Zentrum der Regierung der Russischen Föderation zusammen mit bedeutenden Wirtschafts- und akademischen Institutionen wie der Sberbank , Yandex , Rosatom , der Higher School of Economics , dem Moskauer Institut für Physik und Technologie , der ITMO-Universität , Nanosemantics , Rostelecom , CIAN und anderen initiiert. ^{[ 191 ]}
• In China veröffentlichte das Nationale Fachkomitee für die Governance von KI der nächsten Generation am 25. September 2021 die „Ethischen Normen für Künstliche Intelligenz der nächsten Generation“. Das Dokument umreißt sechs grundlegende Anforderungen: Verbesserung des menschlichen Wohlergehens, Förderung von Fairness und Gerechtigkeit, Schutz der Privatsphäre und Sicherheit, Gewährleistung von Kontrollierbarkeit und Vertrauenswürdigkeit, Stärkung der Verantwortung und Verbesserung der ethischen Kompetenz. Es enthält außerdem 18 spezifische Normen für Management, Forschung und Entwicklung, Bereitstellung und Nutzung. ^{[ 192 ]} Im November 2022 reichte China bei der Konferenz der Vereinten Nationen über das Übereinkommen über bestimmte konventionelle Waffen (CCW) ein Positionspapier zur Stärkung der ethischen Governance von Künstlicher Intelligenz ein . Das Papier plädiert für den Grundsatz „Ethik zuerst“, die Etablierung und Verbesserung ethischer Regeln, Normen und Rechenschaftsmechanismen für KI und ruft die internationale Gemeinschaft auf, auf breiter Beteiligung basierende internationale Abkommen zu erzielen. ^{[ 193 ]}

• Mehrere Forschungsinstitute der Universität Oxford haben sich intensiv mit KI-Ethik auseinandergesetzt. Das Future of Humanity Institute konzentrierte sich auf KI-Sicherheit ^{[ 194 ]} und KI-Governance ^{[ 195 ]} , bevor es 2024 geschlossen wurde. ^{[ 196 ]} Das Institute for Ethics in AI unter der Leitung von John Tasioulas verfolgte unter anderem das Ziel, KI-Ethik als eigenständiges Forschungsfeld im Vergleich zu verwandten angewandten Ethikbereichen zu etablieren . Das Oxford Internet Institute unter der Leitung von Luciano Floridi befasst sich mit der Ethik kurzfristig verfügbarer KI-Technologien und Informations- und Kommunikationstechnologien (IKT). ^{[ 197 ]} Die AI Governance Initiative der Oxford Martin School untersucht die Risiken von KI aus technischer und politischer Perspektive. ^{[ 198 ]}
• Das Zentrum für Digitale Governance an der Hertie School in Berlin wurde von Joanna Bryson mitbegründet, um Fragen der Ethik und Technologie zu erforschen. ^{[ 199 ]}
• Das AI Now Institute an der NYU ist ein Forschungsinstitut, das die gesellschaftlichen Auswirkungen künstlicher Intelligenz untersucht. Seine interdisziplinäre Forschung konzentriert sich auf die Themenbereiche Voreingenommenheit und Inklusion, Arbeit und Automatisierung, Rechte und Freiheiten sowie Sicherheit und zivile Infrastruktur. ^{[ 200 ]}
• Das Institut für Ethik und neue Technologien (IEET) erforscht die Auswirkungen von KI auf die Arbeitslosigkeit ^{[ 201 ] [ 202 ]} und die Politik.
• Das Institut für Ethik in der Künstlichen Intelligenz (IEAI) an der Technischen Universität München unter der Leitung von Christoph Lütge forscht in verschiedenen Bereichen wie Mobilität, Beschäftigung, Gesundheitswesen und Nachhaltigkeit. ^{[ 203 ]}
• Barbara J. Grosz , Higgins-Professorin für Naturwissenschaften an der Harvard John A. Paulson School of Engineering and Applied Sciences, hat das Programm „Embedded EthiCS“ in den Informatik-Lehrplan von Harvard integriert , um eine zukünftige Generation von Informatikern mit einer Weltanschauung auszubilden, die die sozialen Auswirkungen ihrer Arbeit berücksichtigt. ^{[ 204 ]}

• Algorithmische Gerechtigkeitsliga ^{[ 205 ]}
• Schwarz in KI ^{[ 206 ]}
• Daten für Black Lives ^{[ 207 ]}

Historisch gesehen lässt sich die Untersuchung der moralischen und ethischen Implikationen von „denkenden Maschinen“ mindestens bis in die Aufklärung zurückverfolgen : Schon Leibniz stellte die Frage, ob man einem Mechanismus, der sich wie ein empfindungsfähiges Wesen verhält, Intelligenz zuschreiben sollte ^{[ 208 ]} , und auch Descartes tat dies, indem er eine Art frühe Version des Turing-Tests beschrieb ^{[ 209 ]} .

Die Romantik hat mehrfach künstliche Wesen entworfen, die sich der Kontrolle ihres Schöpfers entziehen, was verheerende Folgen hat, am bekanntesten in Mary Shelleys Frankenstein . Die weitverbreitete Beschäftigung mit Industrialisierung und Mechanisierung im 19. und frühen 20. Jahrhundert rückte jedoch die ethischen Implikationen entfesselter technischer Entwicklungen in den Vordergrund der Fiktion: RUR – Rossums Universal Robots , Karel Čapeks Theaterstück über empfindungsfähige Roboter mit Emotionen, die als Sklavenarbeiter eingesetzt werden, gilt nicht nur als Erfindung des Begriffs „Roboter“ (abgeleitet vom tschechischen Wort für Zwangsarbeit, robota ) ^{[ 210 ]} , sondern war nach seiner Premiere 1921 auch ein internationaler Erfolg. George Bernard Shaws Theaterstück Back to Methuselah , das 1921 veröffentlicht wurde, stellt an einer Stelle die Gültigkeit denkender Maschinen in Frage, die sich wie Menschen verhalten; Fritz Langs Film Metropolis aus dem Jahr 1927 zeigt einen Androiden, der den Aufstand der ausgebeuteten Massen gegen das repressive Regime einer technokratischen Gesellschaft anführt.

In den 1950er Jahren verfasste Norbert Wiener „Der menschliche Gebrauch des Menschen“ , in dem er die mögliche Zusammenarbeit von Mensch und Maschine erörterte. Er untersuchte das Risiko, dass solche Veränderungen der Gesellschaft durch Entmenschlichung oder Unterordnung der Menschheit schaden könnten. Wiener unterbreitete Vorschläge, wie sich dieses Risiko vermeiden ließe. Isaac Asimov befasste sich in „Ich, der Roboter“ mit der Frage der Maschinensteuerung . Auf Drängen seines Lektors John W. Campbell Jr. schlug er die Drei Gesetze der Robotik zur Steuerung künstlicher Intelligenzsysteme vor. Ein Großteil seiner Arbeit bestand anschließend darin, die Grenzen dieser drei Gesetze auszuloten, um herauszufinden, wo sie versagen oder paradoxes bzw. unerwartetes Verhalten hervorrufen würden. ^{[ 211 ]} Seine Arbeit legt nahe, dass kein festes Regelwerk alle möglichen Umstände ausreichend vorhersehen kann. ^{[ 212 ]}

In jüngerer Zeit haben Wissenschaftler und viele Regierungen die Vorstellung infrage gestellt, dass KI selbst zur Rechenschaft gezogen werden kann. ^{[ 213 ]} Ein 2010 vom Vereinigten Königreich einberufenes Gremium überarbeitete Asimovs Gesetze, um klarzustellen, dass die Verantwortung für KI entweder bei den Herstellern oder bei deren Besitzern/Betreibern liegt. ^{[ 214 ]} Eliezer Yudkowsky vom Machine Intelligence Research Institute schlug 2004 vor, die Entwicklung einer „ freundlichen KI “ zu erforschen, d. h. es sollten auch Anstrengungen unternommen werden, KI von Natur aus freundlich und menschlich zu gestalten. ^{[ 215 ]}

Im Jahr 2009 nahmen Wissenschaftler und technische Experten an einer von der Association for the Advancement of Artificial Intelligence (AAAI) organisierten Konferenz teil , um die potenziellen Auswirkungen von Robotern und Computern sowie die Folgen der hypothetischen Möglichkeit ihrer Selbstständigkeit und Entscheidungsfindung zu erörtern. Diskutiert wurden die Möglichkeit und das Ausmaß, in dem Computer und Roboter ein gewisses Maß an Autonomie erlangen könnten, und inwieweit sie diese Fähigkeiten missbrauchen könnten, um eine Bedrohung oder Gefahr darzustellen. ^{[ 216 ]} Die Teilnehmer stellten fest, dass einige Maschinen bereits verschiedene Formen von Teilautonomie entwickelt haben, darunter die Fähigkeit, selbstständig Energiequellen zu finden und eigenständig Angriffsziele auszuwählen. Sie merkten außerdem an, dass manche Computerviren der Eliminierung entgehen und eine Art „Kakerlakenintelligenz“ erreicht haben. Sie hielten Selbstbewusstsein, wie es in Science-Fiction-Filmen dargestellt wird, für unwahrscheinlich, wiesen aber auf andere potenzielle Gefahren und Risiken hin. ^{[ 160 ]}

Ebenfalls im Jahr 2009 lernten Roboter, die zur Kooperation programmiert waren (bei der Suche nach einer nützlichen Ressource und der Vermeidung einer giftigen), im Rahmen eines Experiments am Labor für Intelligente Systeme der École Polytechnique Fédérale in Lausanne , Schweiz, schließlich, einander anzulügen, um die nützliche Ressource zu horten. ^{[ 217 ]}

Die Rolle der Fiktion im Hinblick auf die Ethik der Künstlichen Intelligenz (KI) ist komplex. ^{[ 218 ]} Man kann drei Ebenen unterscheiden, auf denen Fiktion die Entwicklung von KI und Robotik beeinflusst hat: Historisch gesehen hat sie gängige Motive vorweggenommen, die nicht nur Ziele und Visionen für KI geprägt, sondern auch ethische Fragen und damit verbundene Ängste skizziert haben. In der zweiten Hälfte des 20. und den ersten Jahrzehnten des 21. Jahrhunderts griff die Populärkultur, insbesondere Filme, Fernsehserien und Videospiele, häufig die damit verbundenen Sorgen und dystopischen Projektionen ethischer Fragen zu KI und Robotik auf. In jüngster Zeit werden diese Themen auch vermehrt in der Literatur jenseits der Science-Fiction behandelt. Und wie Carme Torras, Forschungsprofessorin am Institut de Robòtica i Informàtica Industrial (Institut für Robotik und industrielle Informatik) der Technischen Universität Katalonien, anmerkt, ^{[ 219 ]} wird Science-Fiction im Hochschulbereich zunehmend auch zur Vermittlung technologiebezogener ethischer Fragen in technischen Studiengängen eingesetzt.

Während ethische Fragen im Zusammenhang mit KI seit Jahrzehnten in Science-Fiction-Literatur und Spielfilmen thematisiert werden , hat das Aufkommen von Fernsehserien als Genre, das längere und komplexere Handlungsstränge sowie eine tiefere Charakterentwicklung ermöglicht, zu einigen bedeutenden Beiträgen geführt, die sich mit den ethischen Implikationen der Technologie auseinandersetzen. Die schwedische Serie „ Real Humans “ (2012–2013) thematisierte die komplexen ethischen und sozialen Folgen der Integration künstlicher, empfindungsfähiger Wesen in die Gesellschaft. Die britische dystopische Science-Fiction-Anthologie-Serie „ Black Mirror “ (2013–heute) ist besonders bemerkenswert für ihre Experimente mit dystopischen fiktiven Entwicklungen, die mit einer Vielzahl aktueller Technologien verknüpft sind. Sowohl die französische Serie „ Osmosis“ (2020) als auch die britische Serie „The One“ behandeln die Frage, was geschieht, wenn Technologie versucht, den idealen Partner für einen Menschen zu finden. Mehrere Episoden der Netflix-Serie „ Love, Death + Robots“ zeigen Szenen, in denen Roboter und Menschen zusammenleben. Die repräsentativste davon ist die erste Folge der zweiten Staffel, die verdeutlicht, wie verheerend die Folgen sein können, wenn Roboter außer Kontrolle geraten und Menschen sich zu sehr auf sie verlassen. ^{[ 220 ]}

Der Film „The Thirteenth Floor“ entwirft eine Zukunft, in der Computerspielkonsolen simulierte Welten mit empfindungsfähigen Bewohnern zum Unterhaltungszwecken erschaffen . Der Film „Matrix“ deutet eine Zukunft an, in der empfindungsfähige Maschinen die dominante Spezies auf der Erde sind und die Menschheit mit äußerstem Speziesismus behandelt wird . Die Kurzgeschichte „ The Planck Dive “ entwirft eine Zukunft, in der die Menschheit sich in Software verwandelt hat, die dupliziert und optimiert werden kann, wobei die relevante Unterscheidung zwischen Softwarearten empfindungsfähig und nicht-empfindungsfähig ist. Dieselbe Idee findet sich im Notfall-Hologramm von „Starship Voyager“ , einer scheinbar empfindungsfähigen Kopie eines reduzierten Teils des Bewusstseins ihres Schöpfers, Dr. Zimmerman , der das System in bester Absicht zur medizinischen Notfallversorgung entwickelt hat. Die Filme „ Der 200 Jahre Mann“ und „A.I.“ thematisieren die Möglichkeit empfindungsfähiger Roboter, die lieben können. „I, Robot“ untersuchte einige Aspekte von Asimovs drei Gesetzen. All diese Szenarien versuchen, mögliche unethische Konsequenzen der Erschaffung empfindungsfähiger Computer vorherzusehen. ^{[ 221 ]}

Im Laufe der Zeit haben sich die Debatten immer weniger auf die Möglichkeit und immer mehr auf die Wünschbarkeit konzentriert , ^{[ 222 ]} wie in den von Hugo de Garis und Kevin Warwick initiierten „Kosmisten“- und „Terraner“-Debatten betont wurde .