In der kooperativen Spieltheorie ist der Shapley-Wert eine Methode ( ein Lösungskonzept ) zur fairen Verteilung der Gesamtgewinne oder -kosten unter einer Gruppe von Spielern, die zusammengearbeitet haben. Beispielsweise ermöglicht der Shapley-Wert in einem Teamprojekt, in dem jedes Mitglied unterschiedlich beigetragen hat, die Bestimmung des jeweiligen Verdienstes oder Fehlers. Er wurde zu Ehren von Lloyd Shapley benannt , der ihn 1951 einführte. [ 1 ] [ 2 ]

Der Shapley-Wert bestimmt den Beitrag jedes Spielers, indem er die Veränderung des Gesamtergebnisses bei jeder möglichen Kombination anderer Spieler berücksichtigt und diese Veränderungen mittelt. Im Wesentlichen berechnet er den durchschnittlichen Grenzbeitrag jedes Spielers über alle möglichen Koalitionen hinweg. [ 3 ] [ 4 ] Er ist die einzige Lösung, die vier grundlegende Eigenschaften erfüllt: Effizienz, Symmetrie, Additivität und die Dummy-Spieler-Eigenschaft (oder Null-Spieler-Eigenschaft). [ 5 ] Diese Eigenschaften gelten allgemein als Definition einer fairen Verteilung.

Diese Methode wird in vielen Bereichen eingesetzt, von der Gewinnverteilung in Geschäftspartnerschaften bis hin zum Verständnis der Merkmalswichtigkeit im maschinellen Lernen .

Lloyd Shapley im Jahr 2012

Definition

Angenommen, Spieler können durch Kooperation (Bildung einer Koalition) bestimmte Belohnungen gewinnen, um eine Aufgabe zu erfüllen; solche Situationen werden oft als Koalitionsspiele bezeichnet . Für eine Koalition (eine Gruppe von Spielern) definieren wir die Auszahlungs- oder Wertfunktion als die Gesamtsumme der Auszahlungen, die die Mitglieder der Koalition durch Kooperation erzielen können.

Der Shapley-Wert ist eine Möglichkeit, den von einer Koalition geschaffenen Wert unter ihren Mitgliedern aufzuteilen. Er gilt als „faire“ Verteilung, da er als einzige bestimmte wünschenswerte Eigenschaften aufweist (siehe unten). Gemäß dem Shapley-Wert [ 6 ] erhält jeder Spieler in einem Koalitionsspiel folgenden Betrag :

Dabei ist die Gesamtzahl der Spieler, und die Summe erstreckt sich über alle Teilmengen von , die Spieler nicht enthalten , einschließlich der leeren Menge. Beachten Sie außerdem, dass der Binomialkoeffizient ist . Die Formel lässt sich wie folgt interpretieren: Stellen Sie sich vor, die Koalition wird von einem Akteur nach dem anderen gebildet, wobei jeder Akteur seinen Beitrag als faire Entschädigung fordert. Anschließend wird für jeden Akteur der Durchschnitt dieses Beitrags über alle möglichen Permutationen der Koalitionsbildung berechnet.

Eine alternative, gleichwertige Formel für den Shapley-Wert lautet:

wobei die Summe über alle Reihenfolgen der Spieler läuft und die Menge der Spieler ist, in der der Spieler in der Reihenfolge vorangeht .

Im Hinblick auf Synergie

Venn-Diagramm zur Darstellung von Synergien für Shapley-Werte
Venn-Diagramm der Aufteilung der Synergien, die sich zum Shapley-Wert summieren

Aus der charakteristischen Funktion lässt sich die Synergie ( Harsanyi-Dividende ) berechnen, die jede Spielergruppe erwirtschaftet. Die Synergie ist die eindeutige Funktion , sodass

für jede beliebige Teilmenge von Spielern. Mit anderen Worten: Der „Gesamtwert“ der Koalition ergibt sich aus der Summe der Synergien jeder möglichen Teilmenge von .

Bei gegebener charakteristischer Funktion wird die Synergiefunktion wie folgt berechnet:

unter Anwendung des Inklusions-Exklusions-Prinzips .

Die Shapley-Werte werden in Form der Synergiefunktion durch [ 7 ] [ 8 ] angegeben.

wobei die Summe über alle Teilmengen läuft , die den Spieler enthalten .

Dies kann interpretiert werden als

Mit anderen Worten, die Synergie jeder Koalition wird gleichmäßig unter allen Mitgliedern aufgeteilt.

Dies lässt sich anhand eines Venn-Diagramms veranschaulichen . Im ersten Beispieldiagramm oben ist jede Region mit dem Synergiebonus der entsprechenden Koalition beschriftet. Der Gesamtwert einer Koalition entspricht der Summe der Synergieboni ihrer Teilkoalitionen. Im Beispiel würde die Koalition der Spieler „Du“ und „Emma“ einen Gewinn von [Betrag in Dollar] erzielen, verglichen mit ihren jeweiligen Einzelgewinnen von [Betrag in Dollar ] bzw. [Betrag in Dollar]. Die Synergien werden dann gleichmäßig unter allen Mitgliedern der Teilkoalition aufgeteilt, die diese Synergie beisteuern – wie im zweiten Diagramm dargestellt.

Beispiele

Geschäftsbeispiel

Betrachten wir eine vereinfachte Beschreibung eines Unternehmens. Ein Inhaber o stellt das entscheidende Kapital bereit , da ohne ihn/sie kein Gewinn erzielt werden kann. Es gibt m Arbeiter w₁ , ..., wₘ , von denen jeder einen Betrag p zum Gesamtgewinn beiträgt.

Die Wertfunktion für dieses Koalitionsspiel ist

Die Berechnung des Shapley-Wertes für dieses Koalitionsspiel ergibt einen Wert von ⁠mp/2für den Eigentümer undP/2für jeden der m Arbeiter.

Dies lässt sich aus der Perspektive der Synergie verstehen. Die Synergiefunktion ist

Die einzigen Koalitionen, die Synergien erzeugen, sind also solche, die eins zu eins zwischen dem Eigentümer und einem einzelnen Mitarbeiter bestehen.

Anhand der obigen Formel für den Shapley-Wert in Abhängigkeit von berechnen wir

Und

Das Ergebnis lässt sich auch aus der Perspektive der Mittelung über alle Aufträge verstehen. Ein bestimmter Arbeiter tritt der Koalition nach dem Besitzer bei (und leistet daher in der Hälfte der Aufträge einen Beitrag p ) und erzielt somit bei seinem Beitritt einen durchschnittlichen Beitrag von p. Wenn der Besitzer beitritt, sind im Durchschnitt bereits die Hälfte der Arbeiter beigetreten, sodass der durchschnittliche Beitrag des Besitzers bei seinem Beitritt p beträgt .

Handschuhspiel

Das Handschuhspiel ist ein Koalitionsspiel, bei dem die Spieler linke und rechte Handschuhe haben und das Ziel darin besteht, Paare zu bilden.

wobei die Spieler 1 und 2 Rechtshänderhandschuhe und Spieler 3 Linkshänderhandschuhe haben.

Die Wertfunktion für dieses Koalitionsspiel ist

Die Formel zur Berechnung des Shapley-Wertes lautet:

wobei R eine Ordnung der Spieler ist und die Menge der Spieler in N ist , die in der Reihenfolge R vor i stehen .

Die folgende Tabelle zeigt die Grenzbeiträge von Spieler 1.

Beobachten

Mithilfe eines Symmetriearguments lässt sich zeigen, dass

Aufgrund des Effizienzaxioms ist die Summe aller Shapley-Werte gleich 1, was bedeutet, dass

Eigenschaften

Der Shapley-Wert besitzt viele wünschenswerte Eigenschaften, darunter die Erfüllung der vier Eigenschaften Effizienz, Symmetrie, Linearität und Nullspieler (oder Dummyspieler). [ 5 ]

Effizienz

Die Summe der Shapley-Werte aller Agenten entspricht dem Wert der Gesamtkoalition, sodass der gesamte Gewinn unter den Agenten aufgeteilt wird:

Nachweisen :

da es sich um eine Teleskopsumme handelt und es verschiedene Reihenfolgen gibt .

Symmetrie

Wenn und zwei Akteure sind, die in dem Sinne gleichwertig sind, dass

Für jede Teilmenge von , die weder noch enthält , dann .

Dieses Prinzip wird auch als Gleichbehandlung von Gleichen bezeichnet .

Linearität

Werden zwei Koalitionsspiele, die durch die Gewinnfunktionen und beschrieben werden, kombiniert, so sollten die verteilten Gewinne den Gewinnen entsprechen, die sich aus und den Gewinnen aus ergeben :

für jedes in  . Außerdem gilt für jede reelle Zahl .

für jedes in  .

Null-Spieler

Der Shapley-Wert eines Nullspielers in einem Spiel ist null. Ein Spieler ist ein Nullspieler , wenn für alle Koalitionen , die ihn nicht enthalten , gilt:

Standalone-Test

Wenn es sich um eine subadditive Mengenfunktion handelt , d.h. wenn , dann gilt für jeden Agenten : .

Analog dazu gilt: Wenn es sich um eine superadditive Mengenfunktion handelt , d. h. wenn für , dann gilt für jeden Agenten : .

Bei positiver Synergie profitieren also alle Akteure (schwach), bei negativer Synergie verlieren sie (schwach). [ 9 ] : 147–156

Anonymität

Sind A und B zwei Agenten und F eine Gewinnfunktion, die mit F identisch ist, außer dass die Rollen von A und B vertauscht wurden, dann gilt F = F(A) . Dies bedeutet, dass die Bezeichnung der Agenten bei der Zuordnung ihrer Gewinne keine Rolle spielt.

Marginalismus

Der Shapley-Wert kann als Funktion definiert werden, die als Argumente ausschließlich die marginalen Beiträge der Spieler verwendet.

Aumann-Shapley-Wert

In ihrem 1974 erschienenen Buch erweiterten Lloyd Shapley und Robert Aumann das Konzept des Shapley-Wertes auf unendliche Spiele (definiert bezüglich eines nicht-atomaren Maßes ) und schufen die Diagonalformel. [ 10 ] Diese wurde später von Jean-François Mertens und Abraham Neyman weiterentwickelt .

Wie oben dargestellt, ordnet der Wert eines n-Personen-Spiels jedem Spieler den Erwartungswert seines Beitrags zum Wert der vor ihm stehenden Spielerkoalition in zufälliger Reihenfolge zu. Bei vielen Spielern, von denen jeder nur eine untergeordnete Rolle spielt, wird die Menge aller Spieler vor einem bestimmten Spieler heuristisch als repräsentative Stichprobe aller Spieler betrachtet. Der Wert eines infinitesimalen Spielers ds ist dann definiert als sein Beitrag zum Wert einer idealen Stichprobe aller Spieler.

Symbolisch ausgedrückt: Wenn v die Koalitionswertfunktion ist, die jeder Koalition c ihren Wert zuordnet, und jede Koalition c eine messbare Teilmenge der messbaren Menge I aller Spieler ist, die wir ohne Beschränkung der Allgemeinheit als gegeben annehmen, dann ist der Wert eines infinitesimalen Spielers ds im Spiel

Hierbei ist tI eine perfekte Stichprobe der Gesamtspielermenge I, die einen Anteil t aller Spieler enthält, und ist die Koalition, die entsteht, nachdem ds tI beigetreten ist . Dies ist die heuristische Form der Diagonalformel. [ 10 ]

Unter der Annahme einer gewissen Regularität der Wertfunktion, beispielsweise der Annahme, dass v als differenzierbare Funktion eines nicht-atomaren Maßes auf I , μ , mit Dichtefunktion dargestellt werden kann , wobei die charakteristische Funktion von c ist . Unter solchen Bedingungen

,

wie man zeigen kann, indem man die Dichte durch eine Stufenfunktion approximiert und den Anteil t für jedes Niveau der Dichtefunktion beibehält, und

Die Diagonalformel hat dann die von Aumann und Shapley (1974) entwickelte Form.

Oberhalb von μ können Vektorwerte angenommen werden (solange die Funktion auf dem Bereich von μ definiert und differenzierbar ist , ist die obige Formel sinnvoll).

Im obigen Argument gilt die Aussage nicht mehr, wenn das Maß Atome enthält – deshalb ist die Diagonalformel hauptsächlich auf Spiele ohne Atome anwendbar.

Zur Erweiterung dieser Diagonalformel für den Fall, dass die Funktion f nicht mehr differenzierbar ist, wurden zwei Ansätze verfolgt. Mertens greift auf die ursprüngliche Formel zurück und bildet die Ableitung nach dem Integral, wodurch er vom Glättungseffekt profitiert. Neyman wählte einen anderen Ansatz. Eine elementare Anwendung des Mertens-Ansatzes findet sich in Mertens (1980): [ 11 ]

Dies funktioniert beispielsweise bei Mehrheitsspielen – die ursprüngliche Diagonalformel kann jedoch nicht direkt angewendet werden. Mertens erweitert dies, indem er Symmetrien identifiziert, gegenüber denen der Shapley-Wert invariant sein sollte, und über diese Symmetrien mittelt, um einen weiteren Glättungseffekt zu erzielen, indem er Mittelwerte wie oben beschrieben mit der Ableitung kommutiert. [ 12 ] Eine Übersicht zu nicht-atomaren Werten findet sich in Neyman (2002) [ 13 ].

Verallgemeinerung auf Koalitionen

Der Shapley-Wert ordnet nur den einzelnen Agenten Werte zu. Er wurde verallgemeinert [ 14 ] , um auf eine Gruppe von Agenten C anwendbar zu sein ,

Bezüglich der oben genannten Synergiefunktion lautet dies [ 7 ] [ 8 ]

wobei die Summe über alle Teilmengen von geht, die enthalten .

Diese Formel legt die Interpretation nahe, dass der Shapley-Wert einer Koalition als der Standard-Shapley-Wert eines einzelnen Spielers zu betrachten ist, wenn die Koalition wie ein einzelner Spieler behandelt wird.

Wert eines Spielers für einen anderen Spieler

Der Shapley-Wert wurde von Hausken und Matthias [ 15 ] in eine Wertematrix zerlegt.

Jeder Wert repräsentiert den Wert von Spieler zu Spieler . Diese Matrix erfüllt folgende Bedingung:

d. h. der Wert eines Spielers für das gesamte Spiel entspricht der Summe seiner Werte für alle einzelnen Spieler.

Im Hinblick auf die oben definierte Synergie bedeutet dies:

wobei die Summe über alle Teilmengen läuft , die und enthalten .

Dies kann als Summe über alle Teilmengen interpretiert werden, die die Spieler und enthalten , wobei für jede Teilmenge gilt:

  • Nutzen Sie die Synergie dieser Teilmenge
  • Teile es durch die Anzahl der Spieler in der Teilmenge . Interpretiere das als den Mehrwert, den der Spieler aus dieser Koalition gewinnt.
  • Teilen Sie dies weiter durch, um den Teil des Spielerwerts zu erhalten, der dem Spieler zugeschrieben wird.

Mit anderen Worten, der Synergiewert jeder Koalition wird gleichmäßig unter allen Spielerpaaren in dieser Koalition aufgeteilt , wobei ein Überschuss für generiert wird .

Shapley-Wert-Regression

Die Shapley-Wert-Regression ist eine statistische Methode zur Messung des Beitrags einzelner Prädiktoren in einem Regressionsmodell. Die „Spieler“ sind hierbei die einzelnen Prädiktoren oder Variablen im Modell, und der „Gewinn“ entspricht der gesamten erklärten Varianz bzw. der Vorhersagekraft des Modells. Diese Methode gewährleistet eine faire Verteilung des Gesamtgewinns auf die Prädiktoren, indem jedem Prädiktor ein Wert zugeordnet wird, der seinen Beitrag zur Modellleistung repräsentiert. Lipovetsky (2006) erörterte die Anwendung des Shapley-Werts in der Regressionsanalyse und gab einen umfassenden Überblick über dessen theoretische Grundlagen und praktische Anwendungen. [ 16 ]

Die Shapley-Wert-Regression zeichnet sich durch ihr ausgewogenes Verhältnis von Stabilität und Unterscheidungskraft aus und eignet sich daher zur präzisen Messung der Bedeutung von Serviceattributen in der Marktforschung. [ 17 ] Mehrere Studien haben die Shapley-Wert-Regression zur Analyse von Schlüsselfaktoren in der Marketingforschung eingesetzt. Pokryshevskaya und Antipov (2012) nutzten diese Methode, um die Wiederkaufabsichten von Online-Kunden zu analysieren und demonstrierten so ihre Wirksamkeit beim Verständnis des Konsumentenverhaltens. [ 18 ] Ebenso wandten Antipov und Pokryshevskaya (2014) die Shapley-Wert-Regression an, um Unterschiede in den Weiterempfehlungsraten von Hotels in Südzypern zu erklären und unterstrichen damit ihren Nutzen in der Hotelbranche. [ 19 ] Weitere Bestätigungen der Vorteile des Shapley-Werts in der Schlüsselfaktorenanalyse liefern Vriens, Vidden und Bosch (2021), die seine Vorzüge in der angewandten Marketinganalytik hervorhoben. [ 20 ]

Im maschinellen Lernen

Der Shapley-Wert bietet eine systematische Methode zur Erklärung der Vorhersagen nichtlinearer Modelle, die im Bereich des maschinellen Lernens weit verbreitet sind . Indem ein anhand einer Reihe von Merkmalen trainiertes Modell als Wertfunktion einer Gruppe von Akteuren interpretiert wird, ermöglicht der Shapley-Wert eine natürliche Berechnung der Merkmale, die zu einer Vorhersage beitragen [ 21 ] oder deren Unsicherheit beeinflussen [ 22 ] . Dies vereint verschiedene andere Methoden, darunter lokal interpretierbare modellagnostische Erklärungen (LIME) [ 23 ] , DeepLIFT [ 24 ] und die schichtweise Relevanzpropagierung [ 25 ] [ 26 ] .

Verteilungswerte sind eine Erweiterung des Shapley-Werts und verwandter Wertoperatoren, die entwickelt wurden, um die probabilistische Ausgabe von Vorhersagemodellen im maschinellen Lernen zu erhalten, einschließlich neuronaler Netzwerkklassifikatoren und großer Sprachmodelle . [ 27 ]

Das statistische Verständnis von Shapley-Werten ist weiterhin Gegenstand der Forschung. Eine geglättete Version, die sogenannten Shapley-Kurven [ 28 ] , erreicht die Minimax-Rate und ist in einem nichtparametrischen Rahmen asymptotisch gaußverteilt . Konfidenzintervalle für endliche Stichproben lassen sich mittels Wild Bootstrap berechnen .

Siehe auch

Referenzen

  1. ^ Shapley, Lloyd S. (21. August 1951). „Notes on the n-Person Game -- II: The Value of an n-Person Game“ (PDF) . Santa Monica, Kalifornien: RAND Corporation.
  2. ^ Roth, Alvin E., Hrsg. (1988). The Shapley Value: Essays in Honor of Lloyd S. Shapley . Cambridge: Cambridge University Press. doi : 10.1017/CBO9780511528446 . ISBN 0-521-36177-XDie
  3. ^ Hart, Sergiu (1989). „Shapley-Wert“. In: Eatwell, J.; Milgate, M.; Newman, P. (Hrsg.). The New Palgrave: Game Theory . Norton. S.  210–216 . doi : 10.1007/978-1-349-20181-5_25 . ISBN 978-0-333-49537-7Die
  4. ^ Hart, Sergiu (12. Mai 2016). „Eine Bibliographie kooperativer Spiele: Werttheorie“ .
  5. ^ a b Shapley, Lloyd S. (1953). „Ein Wert für n-Personen-Spiele“. In: Kuhn, H. W.; Tucker, A. W. (Hrsg.). Beiträge zur Spieltheorie . Annals of Mathematics Studies . Band 28. Princeton University Press. S.  307–317 . doi : 10.1515/9781400881970-018 . ISBN 978-1-4008-8197-0Die{{cite book}}: ISBN / Date incompatibility (help)
  6. ^ Einen Beweis für die eindeutige Existenz findet man in: Ichiishi, Tatsuro (1983). Spieltheorie für die ökonomische Analyse . New York: Academic Press. S.  118–120 . ISBN 0-12-370180-5Die
  7. ^ a b Grabisch, Michel (Oktober 1997). „Alternative Repräsentationen diskreter Fuzzy-Maße für die Entscheidungsfindung“. International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems . 5 (5): 587–607 . doi : 10.1142/S0218488597000440 . ISSN 0218-4885 . 
  8. ^ a b Grabisch, Michel (1. Dezember 1997). „Additive diskrete Fuzzy-Maße k-ter Ordnung und ihre Repräsentation“. Fuzzy Sets and Systems . 92 (2): 167–189 . doi : 10.1016/S0165-0114(97)00168-1 . ISSN 0165-0114 . 
  9. ^ Hervé Moulin (2004). Faire Aufteilung und kollektive Wohlfahrt . Cambridge, Massachusetts: MIT Press. ISBN 9780262134231Die
  10. ^ a b Aumann, Robert J.; Shapley, Lloyd S. (1974). Werte nichtatomarer Spiele . Princeton: Princeton Univ. Press. ISBN 0-691-08103-4Die
  11. ^ Mertens, Jean-François (1980). „Values ​​and Derivatives“. Mathematics of Operations Research . 5 (4): 523–552 . doi : 10.1287/moor.5.4.523 . JSTOR 3689325 . 
  12. ^ Mertens, Jean-François (1988). „Der Shapley-Wert im nicht differenzierbaren Fall“. International Journal of Game Theory . 17 (1): 1–65 . doi : 10.1007/BF01240834 . S2CID 118017018 . 
  13. ^ Neyman, A., 2002. Wert von Spielen mit unendlich vielen Spielern, „Handbook of Game Theory with Economic Applications“, Handbook of Game Theory with Economic Applications, Elsevier, 1. Auflage, Band 3, Nummer 3, 00. RJ Aumann & S. Hart (Hrsg.). [1]
  14. ^ Grabisch, Michel; Roubens, Marc (1999). „Ein axiomatischer Ansatz zum Konzept der Interaktion zwischen Spielern in kooperativen Spielen“. International Journal of Game Theory . 28 (4): 547–565 . doi : 10.1007/s001820050125 . S2CID 18033890 . 
  15. ^ Hausken, Kjell; Mohr, Matthias (2001). „Der Wert eines Spielers in n-Personen-Spielen“. Social Choice and Welfare . 18 (3): 465–83 . doi : 10.1007/s003550000070 . JSTOR 41060209. S2CID 27089088 .  
  16. ^ Lipovetsky S (2006). „Shapley-Wert-Regression: Eine Methode zur Erklärung der Beiträge einzelner Prädiktoren zu einem Regressionsmodell“. Linear Algebra and Its Applications . 417 : 48–54 . doi : 10.1016/j.laa.2006.04.027 (inaktiv am 12. Juli 2025).{{cite journal}}: CS1 maint: DOI inactive as of July 2025 (link)
  17. ^ Pokryshevskaya E, Antipov E (2014). „Ein Vergleich von Methoden zur Messung der Bedeutung von Serviceattributen“. International Journal of Market Research . 56 (3): 283–296 . doi : 10.2501/IJMR-2014-020 .
  18. ^ Pokryshevskaya EB, Antipov EA (2012). „Die strategische Analyse der Wiederkaufabsichten von Online-Kunden“. Journal of Targeting, Measurement and Analysis for Marketing . 20 : 203–211 . doi : 10.1057/jt.2012.13 .
  19. ^ Antipov EA, Pokryshevskaya EB (2014). „Erklärung von Unterschieden in den Empfehlungsraten: der Fall der Hotels in Südzypern“. Economics Bulletin . 34 (4): 2368–2376 .
  20. ^ Vriens M, Vidden C, Bosch N (2021). „Die Vorteile des Shapley-Werts in der Key-Driver-Analyse“. Applied Marketing Analytics . 6 (3): 269–278 .
  21. ^ Lundberg, Scott M.; Lee, Su-In (2017). „Ein einheitlicher Ansatz zur Interpretation von Modellvorhersagen“ . Advances in Neural Information Processing Systems . 30 : 4765–4774 . arXiv : 1705.07874 . Abgerufen am 30. Januar 2021 .
  22. ^ Watson, David; O'Hara, Joshua; Tax, Niek; Mudd , Richard; Guy, Ido (2023). „Explaining Predictive Uncertainty with Information Theoretic Shapley“. Advances in Neural Information Processing Systems . 37. arXiv : 2306.05724 .
  23. ^ Ribeiro, Marco Tulio; Singh, Sameer; Gastrin, Carlos (13.08.2016). "„Warum sollte ich dir vertrauen?“„ Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining . New York, NY, USA: ACM. S.  1135–1144 . doi : 10.1145/2939672.2939778 . ISBN 978-1-4503-4232-2Die
  24. ^ Shrikumar, Avanti; Greenside, Peyton; Kundaje, Anshul (17.07.2017). „Lernen wichtiger Merkmale durch die Ausbreitung von Aktivierungsdifferenzen“ . PMLR : 3145–3153 . ISSN 2640-3498 . Abgerufen am 30.01.2021 . 
  25. Bach , Sebastian; Binder, Alexander; Montavon, Grégoire; Klauschen, Frederick; Müller, Klaus-Robert ; Samek, Wojciech (10.07.2015). Suarez, Oscar Deniz (Hrsg.). „On Pixel-Wise Explanations for Non-Linear Classifier Decisions by Layer-Wise Relevance Propagation“ . PLOS ONE . 10 (7) e0130140. Public Library of Science (PLoS). Bibcode : 2015PLoSO..1030140B . doi : 10.1371/journal.pone.0130140 . ISSN 1932-6203 . PMC 4498753. PMID 26161953 .   
  26. ^ Antipov, EA; Pokryshevskaya, EB (2020). „Interpretierbares maschinelles Lernen für die Nachfragemodellierung mit hochdimensionalen Daten unter Verwendung von Gradient Boosting Machines und Shapley-Werten“. Journal of Revenue and Pricing Management . 19 (5): 355–364 . doi : 10.1057/s41272-020-00236-4 .
  27. ^ Franceschi L, Donini M, Archambeau C, Seeger M (2024). „Erklärung probabilistischer Modelle mit Verteilungswerten“. Proceedings of the 41st International Conference on Machine Learning (ICML 2024) . arXiv : 2402.09947 .
  28. ^ Miftachov, Ratmir; Keilbar, Georg; Härdle, Wolfgang (2025). „Shapley-Kurven: Eine Glättungsperspektive“ . Journal of Business & Economic Statistics . 43 (2): 312–323 . doi : 10.1080/07350015.2024.2365781 .

Weiterführende Literatur