Der Satz von Sinkhorn besagt, dass jede quadratische Matrix mit positiven Einträgen in einer bestimmten Standardform geschrieben werden kann.

Satz

Ist A eine n × n- Matrix mit ausschließlich positiven Elementen, so existieren Diagonalmatrizen D₁ und D₂ mit ausschließlich positiven Diagonalelementen, sodass D₁AD₂ doppelt stochastisch ist . Die Matrizen D₁ und D₂ sind bis auf Multiplikation der ersten Matrix mit einer positiven Zahl und Division der zweiten durch dieselbe Zahl eindeutig . [ 1 ] [ 2 ]

Sinkhorn-Knopp-Algorithmus

Ein einfaches iteratives Verfahren zur Annäherung an die doppelte stochastische Matrix besteht darin, abwechselnd alle Zeilen und Spalten von A so zu skalieren , dass ihre Summe 1 ergibt. Sinkhorn und Knopp stellten diesen Algorithmus vor und analysierten seine Konvergenz. [ 3 ] Dies entspricht im Wesentlichen dem in der Umfragestatistik wohlbekannten iterativen proportionalen Anpassungsalgorithmus.

Analoga und Erweiterungen

Das folgende Analogon für unitäre Matrizen gilt ebenfalls: Zu jeder unitären Matrix U existieren zwei diagonale unitäre Matrizen L und R, so dass LUR die Summe ihrer Spalten und Zeilen jeweils 1 ergibt. [ 4 ]

Die folgende Erweiterung auf Abbildungen zwischen Matrizen gilt ebenfalls (siehe Satz 5 [ 5 ] und auch Satz 4.7 [ 6 ] ): Gegeben sei ein Kraus-Operator , der die Quantenoperation Φ darstellt, die eine Dichtematrix in eine andere abbildet,

das ist spurenerhaltend,

und darüber hinaus existieren Skalierungen x<sub> j</sub> , für j ∈ {0,1}, deren Wertebereich im Inneren des positiv definiten Kegels liegt (strikte Positivität), die positiv definit sind, sodass der reskalierte Kraus-Operator

ist doppelt stochastisch. Anders ausgedrückt: Es ist so beschaffen, dass sowohl

sowie für die Adjungierte,

wobei I den Identitätsoperator bezeichnet.

Anwendungen

In den 2010er Jahren wurde das Sinkhorn-Theorem zur Lösung von entropieregularisierten optimalen Transportproblemen eingesetzt . [ 7 ] Dies ist im Bereich des maschinellen Lernens von Interesse , da solche „Sinkhorn-Distanzen“ zur Bewertung der Unterschiede zwischen Datenverteilungen und Permutationen verwendet werden können. [ 8 ] [ 9 ] [ 10 ] Dadurch wird das Training von Algorithmen des maschinellen Lernens in Situationen verbessert, in denen das Training mittels Maximum-Likelihood- Schätzung nicht die beste Methode darstellt.

Referenzen

  1. ^ Sinkhorn, Richard. (1964). „Eine Beziehung zwischen beliebigen positiven Matrizen und doppelt stochastischen Matrizen.“ Ann. Math. Statist. 35 , 876–879. doi : 10.1214/aoms/1177703591
  2. Marshall , A. W. & Olkin, I. (1967). „Skalierung von Matrizen zur Erzielung vorgegebener Zeilen- und Spaltensummen.“ Numerische Mathematik . 12(1) , 83–90. doi : 10.1007/BF02170999
  3. ^ Sinkhorn, Richard, & Knopp, Paul. (1967). „Über nichtnegative Matrizen und doppelt stochastische Matrizen“. Pacific J. Math. 21 , 343–348.
  4. ^ Idel, Martin; Wolf, Michael M. (2015). „Sinkhorn-Normalform für unitäre Matrizen“. Linear Algebra and Its Applications . 471 : 76–84 . arXiv : 1408.5728 . doi : 10.1016/j.laa.2014.12.031 . S2CID 119175915 . 
  5. Georgiou , Tryphon; Pavon, Michele (2015). „Positive Kontraktionsabbildungen für klassische und quantenmechanische Schrödinger-Systeme“. Journal of Mathematical Physics . 56 (3): 033301–1–24. arXiv : 1405.6650 . Bibcode : 2015JMP....56c3301G . doi : 10.1063/1.4915289 . S2CID : 119707158 . 
  6. ^ Gurvits, Leonid (2004). „Klassische Komplexität und Quantenverschränkung“ . Journal of Computational Science . 69 (3): 448–484 . doi : 10.1016/j.jcss.2004.06.003 .
  7. ^ Cuturi, Marco (2013). „Sinkhorn-Distanzen: Lichtgeschwindigkeitsberechnung des optimalen Transports“. Fortschritte in neuronalen Informationsverarbeitungssystemen . S.  2292–2300 .
  8. ^ Mensch, Arthur; Blondel, Mathieu; Peyré, Gabriel (2019). „Geometrische Verluste für verteiltes Lernen“. Proc ICML 2019 . arXiv : 1905.06005 .
  9. ^ Mena, Gonzalo; Belanger, David; Munoz, Gonzalo; Snoek, Jasper (2017). „Sinkhorn-Netzwerke: Anwendung optimaler Transporttechniken zum Lernen von Permutationen“. NIPS Workshop in Optimal Transport and Machine Learning .
  10. ^ Kogkalidis, Konstantinos; Moortgat, Michael; Moot, Richard (2020). „Neuronale Beweisnetze“ . Proceedings der 24. Konferenz über computergestütztes Lernen natürlicher Sprache .