Schwache Aufsicht

Schwache Überwachung (auch bekannt als semi-überwachtes Lernen ) ist ein Paradigma des maschinellen Lernens , dessen Relevanz und Bedeutung mit dem Aufkommen großer Sprachmodelle aufgrund des hohen Trainingsdatenbedarfs zugenommen hat. Es zeichnet sich durch die Kombination einer kleinen Menge manuell gelabelter Daten (ausschließlich im aufwändigeren und zeitintensiveren überwachten Lernparadigma) mit einer großen Menge ungelabelter Daten (ausschließlich im unüberwachten Lernparadigma ) aus. Anders ausgedrückt: Die gewünschten Ausgabewerte werden nur für eine Teilmenge der Trainingsdaten bereitgestellt. Die restlichen Daten sind ungelabelt oder ungenau gelabelt. Anschaulich lässt sich dies mit einer Prüfung vergleichen, wobei die gelabelten Daten als Beispielaufgaben dienen, die der Lehrer der Klasse zur Lösung weiterer Aufgaben vorgibt. Im transduktiven Kontext fungieren diese ungelösten Aufgaben als Prüfungsfragen. Im induktiven Kontext werden sie zu Übungsaufgaben, die den Inhalt der eigentlichen Prüfung ausmachen.

Die Beschaffung annotierter Daten für ein Lernproblem erfordert häufig einen qualifizierten menschlichen Mitarbeiter (z. B. zur Transkription eines Audiosegments) oder ein physikalisches Experiment (z. B. zur Bestimmung der 3D-Struktur eines Proteins oder zum Nachweis von Öl an einem bestimmten Ort). Die mit dem Annotationsprozess verbundenen Kosten können daher große, vollständig annotierte Trainingsdatensätze unwirtschaftlich machen, während die Beschaffung unannotierter Daten relativ kostengünstig ist. In solchen Situationen kann semi-überwachtes Lernen von großem praktischem Nutzen sein. Semi-überwachtes Lernen ist auch von theoretischem Interesse im Bereich des maschinellen Lernens und als Modell für menschliches Lernen.

Formaler ausgedrückt: Beim semi-überwachten Lernen werden unabhängig voneinander identisch verteilte Beispiele mit zugehörigen Labels sowie ungelabelte Beispiele verarbeitet. Durch die Kombination dieser Informationen erzielt man eine bessere Klassifizierungsleistung als beim reinen überwachten Lernen ohne Labels oder beim unüberwachten Lernen ohne Labels. ${\displaystyle l}$${\displaystyle x_{1},\dots ,x_{l}\in X}$${\displaystyle y_{1},\dots ,y_{l}\in Y}$${\displaystyle u}$${\displaystyle x_{l+1},\dots ,x_{l+u}\in X}$

Semi-überwachtes Lernen kann sich entweder auf transduktives oder induktives Lernen beziehen . ^{[ 1 ]} Ziel des transduktiven Lernens ist es, die korrekten Labels für die gegebenen ungelabelten Daten abzuleiten . Ziel des induktiven Lernens ist es, die korrekte Abbildung von einem Wert auf einen anderen abzuleiten . ${\displaystyle x_{l+1},\dots ,x_{l+u}}$${\displaystyle X}$${\displaystyle Y}$

Es ist unnötig (und nach Vapniks Prinzip unklug), transduktives Lernen durch Ableitung einer Klassifikationsregel über den gesamten Eingaberaum durchzuführen; in der Praxis werden jedoch Algorithmen, die formal für Transduktion oder Induktion entwickelt wurden, oft synonym verwendet.

Um unbeschriftete Daten nutzen zu können, muss ein Bezug zur zugrunde liegenden Datenverteilung bestehen. Semi-überwachte Lernalgorithmen nutzen mindestens eine der folgenden Annahmen: ^{[ 2 ]}

Nahe beieinander liegende Punkte teilen sich mit höherer Wahrscheinlichkeit die gleiche Klasse. Dies wird auch im überwachten Lernen allgemein angenommen und führt zu einer Präferenz für geometrisch einfache Entscheidungsgrenzen . Im Fall des halbüberwachten Lernens führt die Glattheitsannahme zusätzlich zu einer Präferenz für Entscheidungsgrenzen in Bereichen geringer Dichte, sodass wenige Punkte nahe beieinander liegen, aber unterschiedlichen Klassen angehören. ^{[ 3 ]}

Die Daten neigen dazu, diskrete Cluster zu bilden, und Punkte im selben Cluster teilen sich mit höherer Wahrscheinlichkeit ein Label (obwohl Daten mit demselben Label sich über mehrere Cluster verteilen können). Dies ist ein Spezialfall der Glattheitsannahme und ermöglicht das Merkmalslernen mit Clustering-Algorithmen.

Die Daten liegen näherungsweise auf einer Mannigfaltigkeit mit deutlich niedrigerer Dimension als der Eingaberaum. In diesem Fall kann das Lernen der Mannigfaltigkeit mithilfe sowohl der gelabelten als auch der ungelabelten Daten den Fluch der Dimensionalität umgehen . Anschließend kann das Lernen mithilfe von auf der Mannigfaltigkeit definierten Distanzen und Dichten fortgesetzt werden.

Die Annahme einer Mannigfaltigkeit ist dann sinnvoll, wenn hochdimensionale Daten durch einen Prozess erzeugt werden, der sich möglicherweise nur schwer direkt modellieren lässt, aber nur wenige Freiheitsgrade aufweist. Beispielsweise wird die menschliche Stimme von wenigen Stimmlippen gesteuert ^{[ 4 ]} , und Bilder verschiedener Gesichtsausdrücke werden von wenigen Muskeln gesteuert. In diesen Fällen ist es besser, Abstände und Glattheit im natürlichen Raum des Entstehungsproblems zu betrachten, anstatt im Raum aller möglichen akustischen Wellen bzw. Bilder.

Der heuristische Ansatz des Selbsttrainings (auch bekannt als Selbstlernen oder Selbstlabeling ) ist historisch gesehen der älteste Ansatz des halbüberwachten Lernens ^{[ 2 ]} , mit Anwendungsbeispielen, die bis in die 1960er Jahre zurückreichen. ^{[ 5 ]}

Das transduktive Lernmodell wurde in den 1970er Jahren von Vladimir Vapnik formal eingeführt. ^{[ 6 ]} Das Interesse am induktiven Lernen mit generativen Modellen entstand ebenfalls in den 1970er Jahren. Eine wahrscheinlich annähernd korrekte Lernschranke für das semi-überwachte Lernen einer Gaußschen Mischung wurde 1995 von Ratsaby und Venkatesh demonstriert. ^{[ 7 ]}

Generative Ansätze des statistischen Lernens versuchen zunächst , die Verteilung der Datenpunkte in den einzelnen Klassen zu schätzen. Die Wahrscheinlichkeit , dass ein gegebener Punkt die Klasse hat, ist dann gemäß der Bayes-Regel proportional zu . Semi-überwachtes Lernen mit generativen Modellen kann entweder als Erweiterung des überwachten Lernens (Klassifizierung plus Information über ) oder als Erweiterung des unüberwachten Lernens (Clustering plus einige Labels) betrachtet werden. ${\displaystyle p(x|y)}$${\displaystyle p(y|x)}$${\displaystyle x}$${\displaystyle y}$${\displaystyle p(x|y)p(y)}$${\displaystyle p(x)}$

Generative Modelle setzen voraus, dass die Verteilungen eine bestimmte, durch den Vektor parametrisierte Form aufweisen . Sind diese Annahmen falsch, kann die Verwendung ungelabelter Daten die Genauigkeit der Lösung im Vergleich zu der mit gelabelten Daten allein erzielten Genauigkeit sogar verringern. ^{[ 8 ]} Sind die Annahmen hingegen korrekt, verbessern ungelabelte Daten zwangsläufig die Leistung. ^{[ 7 ]}${\displaystyle p(x|y,\theta )}$${\displaystyle \theta }$

Die ungelabelten Daten sind gemäß einer Mischung von Einzelklassenverteilungen verteilt. Um die Mischverteilung aus den ungelabelten Daten zu lernen, muss sie identifizierbar sein, d. h. unterschiedliche Parameter müssen unterschiedliche Summenverteilungen ergeben. Gaußsche Mischverteilungen sind identifizierbar und werden häufig für generative Modelle verwendet.

Die parametrisierte gemeinsame Verteilung kann mithilfe der Kettenregel wie folgt dargestellt werden . Jedem Parametervektor ist eine Entscheidungsfunktion zugeordnet . Der Parameter wird dann basierend auf der Anpassung an die gelabelten und ungelabelten Daten, gewichtet mit, ausgewählt . ${\displaystyle p(x,y|\theta )=p(y|\theta )p(x|y,\theta )}$${\displaystyle \theta }$${\displaystyle f_{\theta }(x)={\underset {y}{\operatorname {argmax} }}\ p(y|x,\theta )}$${\displaystyle \lambda }$

${\displaystyle {\underset {\Theta }{\operatorname {argmax} }}\left(\log p(\{x_{i},y_{i}\}_{i=1}^{l}|\theta )+\lambda \log p(\{x_{i}\}_{i=l+1}^{l+u}|\theta )\right)}$^{[ 9 ]}

Eine weitere wichtige Klasse von Methoden versucht, Grenzen in Regionen mit wenigen Datenpunkten (gelabelt oder ungelabelt) zu setzen. Einer der am häufigsten verwendeten Algorithmen ist die transduktive Support-Vektor-Maschine (TSVM), die trotz ihres Namens auch für induktives Lernen eingesetzt werden kann. Während Support-Vektor-Maschinen für überwachtes Lernen eine Entscheidungsgrenze mit maximalem Abstand zu den gelabelten Daten suchen, ist das Ziel der TSVM, die ungelabelten Daten so zu labeln, dass die Entscheidungsgrenze einen maximalen Abstand zu allen Daten aufweist. Zusätzlich zum Standard -Hinge-Loss für gelabelte Daten wird eine Verlustfunktion für die ungelabelten Daten eingeführt, indem man setzt . Die TSVM wählt dann aus einem reproduzierenden Kernel-Hilbert-Raum aus , indem sie das regularisierte empirische Risiko minimiert . ${\displaystyle (1-yf(x))_{+}}$${\displaystyle (1-|f(x)|)_{+}}$${\displaystyle y=\operatorname {sign} {f(x)}}$${\displaystyle f^{*}(x)=h^{*}(x)+b}$${\displaystyle {\mathcal {H}}}$

${\displaystyle f^{*}={\underset {f}{\operatorname {argmin} }}\left(\displaystyle \sum _{i=1}^{l}(1-y_{i}f(x_{i}))_{+}+\lambda _{1}\|h\|_{\mathcal {H}}^{2}+\lambda _{2}\sum _{i=l+1}^{l+u}(1-|f(x_{i})|)_{+}\right)}$

Eine exakte Lösung ist aufgrund des nicht- konvexen Terms nicht möglich , daher konzentriert sich die Forschung auf nützliche Näherungen. ^{[ 9 ]}${\displaystyle (1-|f(x)|)_{+}}$

Zu den anderen Ansätzen, die eine Trennung bei niedriger Dichte implementieren, gehören Gaußprozessmodelle, Informationsregularisierung und Entropieminimierung (wobei TSVM ein Spezialfall ist).

Die Regularisierung mittels Laplace-Operator erfolgte historisch über den Graph-Laplace-Operator. Graphbasierte Methoden für semi-überwachtes Lernen verwenden eine Graphdarstellung der Daten mit einem Knoten für jedes gelabelte und ungelabelte Beispiel. Der Graph kann mithilfe von Domänenwissen oder der Ähnlichkeit von Beispielen erstellt werden; zwei gängige Methoden bestehen darin, jeden Datenpunkt mit seinen nächsten Nachbarn oder mit Beispielen innerhalb eines bestimmten Abstands zu verbinden . Das Gewicht einer Kante zwischen zwei Knoten wird dann auf 1 gesetzt . ${\displaystyle k}$${\displaystyle \epsilon }$${\displaystyle W_{ij}}$${\displaystyle x_{i}}$${\displaystyle x_{j}}$${\displaystyle e^{-\|x_{i}-x_{j}\|^{2}/\epsilon ^{2}}}$

Im Rahmen der Mannigfaltigkeitsregularisierung [ ^{10 , 11 ]} dient der Graph als Proxy für die Mannigfaltigkeit. Dem Standard -Tikhonov-Regularisierungsproblem wird ein Term hinzugefügt ^{, um die} Glattheit der Lösung sowohl relativ zur Mannigfaltigkeit (im intrinsischen Raum des Problems) als auch relativ zum umgebenden Eingaberaum zu gewährleisten. Das Minimierungsproblem lautet dann:

${\displaystyle {\underset {f\in {\mathcal {H}}}{\operatorname {argmin} }}\left({\frac {1}{l}}\displaystyle \sum _{i=1}^{l}V(f(x_{i}),y_{i})+\lambda _{A}\|f\|_{\mathcal {H}}^{2}+\lambda _{I}\int _{\mathcal {M}}\|\nabla _{\mathcal {M}}f(x)\|^{2}dp(x)\right)}$^{[ 9 ]}

Dabei ist ein reproduzierender Kern -Hilbertraum und die Mannigfaltigkeit, auf der die Daten liegen. Die Regularisierungsparameter und steuern die Glattheit im umgebenden bzw. intrinsischen Raum. Der Graph wird verwendet, um den intrinsischen Regularisierungsterm zu approximieren. Definiert man den Graph-Laplace-Operator, wobei und der Vektor ist , so erhält man ${\displaystyle {\mathcal {H}}}$${\displaystyle {\mathcal {M}}}$${\displaystyle \lambda _{A}}$${\displaystyle \lambda _{I}}$${\displaystyle L=DW}$${\displaystyle D_{ii}=\sum _{j=1}^{l+u}W_{ij}}$${\displaystyle \mathbf {f} }$${\displaystyle [f(x_{1})\dots f(x_{l+u})]}$

${\displaystyle \mathbf {f} ^{T}L\mathbf {f} =\displaystyle \sum _{i,j=1}^{l+u}W_{ij}(f_{i}-f_{j})^{2}\approx \int _{\mathcal {M}}\|\nabla _{\mathcal {M}}f(x)\|^{2}dp(x)}$Die

Der graphenbasierte Ansatz zur Laplace-Regularisierung soll mit der Methode der finiten Differenzen in Beziehung gesetzt werden .

Der Laplace-Operator kann auch verwendet werden, um die überwachten Lernalgorithmen regularisierte kleinste Quadrate und Support-Vektor-Maschinen (SVM) zu halbüberwachten Versionen zu erweitern: Laplace-regularisierte kleinste Quadrate und Laplace-SVM.

Einige Methoden des semi-überwachten Lernens sind nicht primär darauf ausgelegt, sowohl mit ungelabelten als auch mit gelabelten Daten zu lernen, sondern nutzen ungelabelte Daten innerhalb eines überwachten Lernrahmens. Beispielsweise können die gelabelten und ungelabelten Beispiele in einem unüberwachten ersten Schritt die Wahl der Repräsentation, der Distanzmetrik oder des Kernels für die Daten beeinflussen. Anschließend erfolgt das überwachte Lernen ausschließlich anhand der gelabelten Beispiele. In diesem Sinne lernen einige Methoden eine niedrigdimensionale Repräsentation mithilfe der überwachten Daten und wenden dann entweder Low-Density-Separation- oder graphenbasierte Methoden auf die gelernte Repräsentation an. ^{[ 12 ] [ 13 ]} Die iterative Verfeinerung der Repräsentation und die anschließende Anwendung des semi-überwachten Lernens auf diese Repräsentation können die Leistung weiter verbessern. ${\displaystyle x_{1},\dots ,x_{l+u}}$

Selbsttraining ist eine Wrapper-Methode für halbüberwachtes Lernen. ^{[ 14 ]} Zunächst wird ein überwachtes Lernalgorithmus ausschließlich anhand der gelabelten Daten trainiert. Dieser Klassifikator wird dann auf die ungelabelten Daten angewendet, um weitere gelabelte Beispiele als Eingabe für den überwachten Lernalgorithmus zu generieren. Im Allgemeinen werden in jedem Schritt nur die Labels hinzugefügt, denen der Klassifikator die größte Sicherheit gibt. ^{[ 15 ]} In der Verarbeitung natürlicher Sprache ist der Yarowsky-Algorithmus ein gängiger Selbsttrainingsalgorithmus für Probleme wie Wortbedeutungsdisambiguierung, Akzentwiederherstellung und Rechtschreibkorrektur. ^{[ 16 ]}

Co-Training ist eine Erweiterung des Selbsttrainings, bei dem mehrere Klassifikatoren mit unterschiedlichen (idealerweise disjunkten) Merkmalsmengen trainiert werden und gegenseitig gelabelte Beispiele generieren. ^{[ 17 ]}

Die Reaktionen des Menschen auf formale, halbüberwachte Lernprobleme haben zu unterschiedlichen Schlussfolgerungen hinsichtlich des Einflusses der unbeschrifteten Daten geführt. ^{[ 18 ]} Auch natürlichere Lernprobleme können als Beispiele für halbüberwachtes Lernen betrachtet werden. Ein Großteil des menschlichen Begriffslernens beinhaltet eine geringe Menge direkter Instruktion (z. B. die Benennung von Gegenständen durch die Eltern in der Kindheit) in Kombination mit umfangreichen unbeschrifteten Erfahrungen (z. B. die Beobachtung von Gegenständen ohne Benennung oder Zählung oder zumindest ohne Feedback).

Säuglinge reagieren sensibel auf die Struktur unbenannter natürlicher Kategorien wie Bilder von Hunden und Katzen oder männlichen und weiblichen Gesichtern. ^{[ 19 ]} Säuglinge und Kinder berücksichtigen nicht nur unbenannte Beispiele, sondern auch den Prozess der Auswahl , aus dem benannte Beispiele hervorgehen. ^{[ 20 ] [ 21 ]}

Schwache Überwachung ist ein aufstrebender Ansatz des maschinellen Lernens in der vorausschauenden Instandhaltung, der die Herausforderung begrenzter oder ungenauer annotierter Daten adressiert. Traditionelle Modelle der vorausschauenden Instandhaltung basieren häufig auf großen Mengen präzise annotierter Ausfall- und Betriebsdaten, deren Beschaffung kostspielig oder unpraktisch sein kann. Schwache Überwachung mindert dieses Problem, indem sie unvollkommene Überwachungsquellen – wie verrauschte Labels, Heuristiken, Regeln von Domänenexperten oder teilweise annotierte Datensätze – nutzt, um Vorhersagemodelle zu trainieren. Durch die Integration von Techniken wie Datenprogrammierung, Labelmodellierung und semi-überwachtem Lernen ermöglicht schwache Überwachung die Entwicklung robuster Systeme für die vorausschauende Instandhaltung, die in der Lage sind, Geräteausfälle oder Anomalien mit reduzierter Abhängigkeit von hochwertigen annotierten Daten zu erkennen. Dieser Ansatz ist besonders wertvoll in industriellen Umgebungen, in denen Maschinenausfälle selten und annotierte Fehlerdaten rar sind ^{[ 22 ]} .

• PU-Lernen

• Chapelle, Olivier; Schölkopf, Bernhard; Zien, Alexander (2006). Halbüberwachtes Lernen . Cambridge, Mass.: MIT Press. ISBN 978-0-262-03358-9Die

• Manifold Regularization Eine frei verfügbare MATLAB- Implementierung der graphenbasierten semi-überwachten Algorithmen Laplacian Support Vector Machines und Laplacian Regularized Least Squares.
• KEEL: Ein Softwaretool zur Bewertung evolutionärer Algorithmen für Data-Mining-Probleme (Regression, Klassifizierung, Clustering, Mustererkennung usw.). KEEL-Modul für halbüberwachtes Lernen.
• Software für halbüberwachtes Lernen
• Semi-Supervised learning — scikit-learn documentation Semi-supervised learning in scikit-learn .