Ein neuronales Netzwerk ist eine Gruppe von miteinander verbundenen Einheiten, sogenannten Neuronen , die Signale austauschen. Neuronen können entweder biologische Zellen oder mathematische Modelle sein . Einzelne Neuronen sind zwar einfach, doch viele von ihnen zusammen in einem Netzwerk können komplexe Aufgaben erfüllen. Es gibt zwei Haupttypen von neuronalen Netzwerken.

In den Neurowissenschaften entstehen Verhalten und Kognition durch die Interaktion verteilter Hirnregionen. In der Informatik bilden künstliche neuronale Netze die Grundlage vieler moderner KI-Systeme, benötigen jedoch große Datensätze und erhebliche Rechenleistung. Zudem sind ihre internen Repräsentationen schwer zu interpretieren.

In der Biologie

Animierte konfokale Mikroskopaufnahme eines Teils eines biologischen neuronalen Netzwerks im Striatum einer Maus

Im biologischen Kontext bezeichnet ein neuronales Netzwerk eine Population biologischer Neuronen , die über Synapsen chemisch miteinander verbunden sind . Ein einzelnes Neuron kann mit Hunderttausenden von Synapsen verbunden sein. [ 1 ] Jedes Neuron sendet und empfängt elektrochemische Signale, sogenannte Aktionspotenziale, an seine verbundenen Nachbarn. Ein Neuron kann eine erregende Rolle einnehmen, indem es empfangene Signale verstärkt und weiterleitet, oder eine hemmende Rolle, indem es Signale unterdrückt. [ 1 ]

Populationen von miteinander verbundenen Neuronen, die kleiner als neuronale Netzwerke sind, werden als neuronale Schaltkreise bezeichnet . Sehr große, miteinander verbundene Netzwerke werden als großflächige Gehirnnetzwerke bezeichnet , und viele von ihnen bilden zusammen das Gehirn und das Nervensystem .

Die von neuronalen Netzwerken im Gehirn erzeugten Signale wandern schließlich durch das Nervensystem und über neuromuskuläre Verbindungen zu den Muskelzellen , wo sie eine Kontraktion und damit eine Bewegung auslösen. [ 2 ]

Im maschinellen Lernen

Schematische Darstellung eines einfachen Feedforward -Netzwerks

Im maschinellen Lernen ist ein neuronales Netzwerk ein künstliches mathematisches Modell, das zur Approximation nichtlinearer Funktionen verwendet wird. Während frühe künstliche neuronale Netzwerke physische Maschinen waren [ 3 ] , werden sie heute fast immer in Software implementiert .

Neuronen in einem künstlichen neuronalen Netzwerk sind üblicherweise in Schichten angeordnet. Informationen fließen von der ersten Schicht (der Eingabeschicht) über eine oder mehrere Zwischenschichten ( die verborgenen Schichten ) zur letzten Schicht (der Ausgabeschicht). [ 4 ] Das Eingangssignal jedes Neurons ist eine Zahl, genauer gesagt eine Linearkombination der Ausgaben der verbundenen Neuronen der vorherigen Schicht. Das Ausgabesignal jedes Neurons wird anhand dieser Zahl und seiner Aktivierungsfunktion berechnet . Das Verhalten des Netzwerks hängt von der Stärke (oder den Gewichten ) der Verbindungen zwischen den Neuronen ab. Ein Netzwerk wird trainiert, indem diese Gewichte durch empirische Risikominimierung oder Backpropagation an einen vorhandenen Datensatz angepasst werden. [ 5 ]

Der Begriff „tiefes neuronales Netzwerk“ bezeichnet neuronale Netze mit mehr als drei Schichten, typischerweise mit mindestens zwei verborgenen Schichten zusätzlich zur Eingabe- und Ausgabeschicht.

Da ihre internen Repräsentationen schwer zu analysieren sind, werden künstliche neuronale Netze oft als „Black-Box“-Modelle bezeichnet, und die Interpretierbarkeit ist ein aktives Forschungsgebiet, insbesondere für Anwendungen mit hohem Einsatz. [ 6 ]

Neuronale Netze werden zur Lösung von Problemen der künstlichen Intelligenz eingesetzt und finden daher Anwendung in vielen Disziplinen, darunter prädiktive Modellierung , adaptive Steuerung , Gesichtserkennung , Handschrifterkennung , allgemeines Spielen und generative KI .

Geschichte

Die theoretischen Grundlagen moderner neuronaler Netze wurden unabhängig voneinander 1873 von Alexander Bain [ 7 ] und 1890 von William James [ 8 ] vorgeschlagen . Beide postulierten, dass menschliches Denken aus der Interaktion einer großen Anzahl von Neuronen im Gehirn entsteht. 1949 beschrieb Donald Hebb das Hebbsche Lernen , die Idee, dass neuronale Netze sich im Laufe der Zeit verändern und lernen können, indem sie eine Synapse bei jedem Signaldurchgang verstärken. [ 9 ] 1956 entdeckte Svaetichin die Funktionsweise der horizontalen Netzhautzellen zweiter Ordnung, die für das Verständnis neuronaler Netze von grundlegender Bedeutung waren.

Künstliche neuronale Netze wurden ursprünglich ab den 1930er Jahren im Rahmen des Konnektionismus zur Modellierung biologischer neuronaler Netze verwendet . Beginnend mit dem mathematischen Modell künstlicher Neuronen, das Warren McCulloch und Walter Pitts 1943 vorschlugen [ 10 ] [ 11 ], gefolgt von Frank Rosenblatts Einführung des Perzeptrons und dessen Hardware-Implementierung Ende der 1950er Jahre [ 3 ], wurden künstliche neuronale Netze jedoch zunehmend für Anwendungen des maschinellen Lernens eingesetzt und unterschieden sich immer stärker von ihren biologischen Pendants.

1969 analysierten Marvin Minsky und Seymour Papert in ihrem Buch Perceptrons die Grenzen von einschichtigen Perzeptronen , und diese Kritik führte zu einem Rückgang der Finanzierung und des Interesses an der Forschung an neuronalen Netzen, den einige Autoren als einen „KI-Winter“ bezeichnen.

Die Forschung an neuronalen Netzen erlebte in den 1980er Jahren mit der Entwicklung und Popularisierung von mehrschichtigen Netzen, die mittels Backpropagation trainiert wurden, eine Renaissance. Ab den 2000er Jahren führte die Kombination aus großen Datensätzen, schnellerer Hardware (insbesondere GPUs) und algorithmischen Fortschritten zum Aufstieg des Deep Learning. [ 12 ]

Siehe auch

Referenzen

  1. ^ a b Shao, Feng; Shen, Zheng (9. Januar 2022). „Wie können künstliche neuronale Netze das Gehirn approximieren?“ . Front. Psychol . 13 970214. doi : 10.3389/fpsyg.2022.970214 . PMC 9868316 . PMID 36698593 .  
  2. ^ Levitan, Irwin; Kaczmarek, Leonard (19. August 2015). „Interzelluläre Kommunikation“. Das Neuron: Zell- und Molekularbiologie (4. Aufl.). New York, NY: Oxford University Press. S.  153–328 . ISBN 978-0-19-977389-3Die
  3. ^ a b Rosenblatt, F. (1958). „Das Perzeptron: Ein probabilistisches Modell zur Informationsspeicherung und -organisation im Gehirn“. Psychological Review . 65 (6): 386–408 . CiteSeerX 10.1.1.588.3775 . doi : 10.1037/h0042519 . PMID 13602029. S2CID 12781225 .   
  4. ^ Bishop, Christopher M. (17. August 2006). Mustererkennung und maschinelles Lernen . New York: Springer. ISBN 978-0-387-31073-2Die
  5. ^ Vapnik, Vladimir N.; Vapnik, Vladimir Naumovich (1998). Die Natur der statistischen Lerntheorie (korrigierte 2. Auflage). New York Berlin Heidelberg: Springer. ISBN 978-0-387-94559-0Die
  6. ^ Badam, Lalithareddy (1. Januar 2026). „Erklärbare KI in sicherheitskritischen Bereichen: Verbesserung von Vertrauen, Transparenz und Verantwortlichkeit bei automatisierten Entscheidungsprozessen“ . European Journal of Computer Science and Information Technology . 14 (2): 13–34 . doi : 10.37745/ejcsit.2013/vol14n21334 . ISSN 2054-0957 . 
  7. ^ Bain (1873). Geist und Körper: Die Theorien ihrer Beziehung . New York: D. Appleton and Company.
  8. ^ James (1890). Die Prinzipien der Psychologie . New York: H. Holt and Company.
  9. ^ Hebb, DO (1949). Die Organisation des Verhaltens . New York: Wiley & Sons.
  10. ^ McCulloch, Warren; Pitts, Walter (2. Februar 2021), „A Logical Calculus of the Ideas Immanent in Nervous Activity (1943)“ , Ideas That Created the Future , The MIT Press, S.  79–88 , ISBN 978-0-262-36317-4abgerufen am 10. April 2026
  11. ^ McCulloch, W.; Pitts, W. (1943). „A Logical Calculus of Ideas Immanent in Nervous Activity“ (PDF) . Bulletin of Mathematical Biophysics . 5 (4): 115–133 . doi : 10.1007/BF02478259 . Archiviert vom Original am 17. Mai 2024. Abgerufen am 17. Februar 2024 .
  12. ^ Heaton, Jeff (29. Oktober 2017). „Ian Goodfellow, Yoshua Bengio und Aaron Courville: Deep Learning“ . Genetische Programmierung und entwicklungsfähige Maschinen . 19 ( 1– 2): 305– 307. doi : 10.1007/s10710-017-9314-z . ISSN 1389-2576 .