Satz von Bayes

Das Bayes-Theorem (auch Bayes-Gesetz oder Bayes-Regel genannt), benannt nach Thomas Bayes ( / beɪz / ) , liefert eine mathematische Regel zur Umkehrung bedingter Wahrscheinlichkeiten . Es ermöglicht , die Wahrscheinlichkeit einer Ursache in Abhängigkeit von ihrer Wirkung zu bestimmen. Beispielsweise lässt sich mithilfe des Bayes-Theorems die Wahrscheinlichkeit, dass ein Patient eine bestimmte Krankheit hat, wenn sein Test auf diese Krankheit positiv ausfällt, aus der Wahrscheinlichkeit berechnen, dass der Test bei Vorliegen der Krankheit ein positives Ergebnis liefert. Das Theorem wurde im 18. Jahrhundert von Bayes und unabhängig davon von Pierre-Simon Laplace entwickelt .

Eine der vielen Anwendungen des Bayes-Theorems ist die Bayes'sche Inferenz , ein Ansatz der statistischen Inferenz , bei dem es verwendet wird, um die Wahrscheinlichkeit der Beobachtungen gegeben eine Modellkonfiguration (d. h. die Likelihood-Funktion ) umzukehren, um die Wahrscheinlichkeit der Modellkonfiguration gegeben die Beobachtungen (d. h. die A-posteriori-Wahrscheinlichkeit ) zu erhalten.

Das Bayes-Theorem ist nach Thomas Bayes benannt , einem Geistlichen, Statistiker und Philosophen. Bayes nutzte die bedingte Wahrscheinlichkeit, um einen Algorithmus (seine Proposition 9) zu entwickeln, der anhand von Beweisen Grenzen für einen unbekannten Parameter berechnet. Seine Arbeit wurde 1763 unter dem Titel „ An Essay Towards Solving a Problem in the Doctrine of Chances“ veröffentlicht . Bayes untersuchte, wie man (in moderner Terminologie) eine Verteilung für den Wahrscheinlichkeitsparameter einer Binomialverteilung berechnet . Nach Bayes’ Tod übergab seine Familie seine Schriften einem Freund, dem Geistlichen, Philosophen und Mathematiker Richard Price . ^{[ 1 ]}

Price überarbeitete das unveröffentlichte Manuskript zwei Jahre lang maßgeblich, bevor er es einem Freund schickte, der es am 23. Dezember 1763 in der Royal Society vorlas. ^{[ 2 ]} Price gab ^{[ 3 ]} Bayes’ Hauptwerk „An Essay Towards Solving a Problem in the Doctrine of Chances“ (1763) heraus, das in den Philosophical Transactions erschien [ ^{4 ] und Bayes’ Theorem enthält. Price verfasste eine Einleitung zu dem Aufsatz, in der er} einige der philosophischen Grundlagen der Bayes’schen Statistik darlegte und eine der beiden von Bayes vorgeschlagenen Lösungen auswählte. 1765 wurde Price in Anerkennung seiner Arbeit um Bayes’ Erbe zum Mitglied der Royal Society gewählt. ^{[ 5 ] [ 6 ]} Am 27. April wurde ein Brief an seinen Freund Benjamin Franklin in der Royal Society verlesen und später veröffentlicht, in dem Price diese Arbeit auf die Bevölkerungsentwicklung und die Berechnung von Leibrenten anwendet. ^{[ 7 ]}

Unabhängig von Bayes verwendete Pierre-Simon Laplace die bedingte Wahrscheinlichkeit, um die Beziehung zwischen einer aktualisierten A-posteriori-Wahrscheinlichkeit und einer A-priori-Wahrscheinlichkeit unter Berücksichtigung der vorliegenden Evidenz zu formulieren. Er reproduzierte und erweiterte Bayes’ Ergebnisse im Jahr 1774, offenbar ohne Kenntnis von Bayes’ Arbeit, und fasste seine Resultate in der „Théorie analytique des probabilités“ (1812) zusammen. ^{[ Anmerkung 1 ] [ 8 ]} Die Bayes’sche Interpretation der Wahrscheinlichkeit wurde hauptsächlich von Laplace entwickelt. ^{[ 9 ]}

Rund 200 Jahre später stellte Sir Harold Jeffreys den Bayes-Algorithmus und die Laplace-Formulierung auf eine axiomatische Grundlage und schrieb 1973 in einem Buch, dass der Satz von Bayes „für die Wahrscheinlichkeitstheorie das ist, was der Satz des Pythagoras für die Geometrie ist“. ^{[ 10 ]}

Stephen Stigler nutzte ein Bayes’sches Argument, um zu dem Schluss zu gelangen, dass das Bayes-Theorem von dem blinden englischen Mathematiker Nicholas Saunderson einige Zeit vor Bayes entdeckt worden war ^{[11, 12} ] . ^{Dies ist jedoch umstritten [} 13 ^{] . F.} Thomas Bruss rezensierte Bayes’ Aufsatz „An essay towards solving a problem in the doctrine of chances“, wie von Price übermittelt ^{[ 14 ]} . Er stimmte Stiglers Analyse in vielen Punkten zu, nicht aber in der Frage der Priorität. Bruss hob den intuitiven Aspekt der Bayes-Formel hervor und fügte unabhängige Argumente zu Bayes’ wahrscheinlicher Motivation für seine Arbeit hinzu. Er schlussfolgerte, dass die Bezeichnung „Bayes-Theorem“ oder „Bayes-Formel“ gerechtfertigt sei, solange nicht das Gegenteil bewiesen sei.

Martyn Hooper ^{[ 15 ]} und Sharon McGrayne ^{[ 16 ]} haben argumentiert, dass Prices Beitrag substanziell war:

Nach heutigen Maßstäben müsste man sich auf die Bayes-Price-Regel berufen. Price entdeckte Bayes’ Arbeit, erkannte ihre Bedeutung, korrigierte sie, trug zu dem Artikel bei und fand eine Anwendung dafür. Die heutige Konvention, nur Bayes’ Namen zu verwenden, ist zwar ungerecht, aber so tief verwurzelt, dass alles andere wenig Sinn ergibt. ^{[ 16 ]}

Der „ Bayes-Faktor “ oder die „Likelihood“, die beim Schreiben des Bayes-Theorems in der Odds-Form auftritt , taucht in den frühen 1940er Jahren in Arbeiten von Alan Turing auf , der ihn als „Faktor zugunsten einer Aussage“ bezeichnete. 1878 verwendete Charles Sanders Peirce den Logarithmus dieses Faktors als „Beweisgewicht“ für eine Aussage. ^{[ 17 ]}

Der Satz von Bayes wird mathematisch wie folgt formuliert: ^{[ 18 ]}

wo und sind Ereignisse und . ${\displaystyle A}$${\displaystyle B}$${\displaystyle P(B)\neq 0}$

• ${\displaystyle P(A\vert B)}$ist eine bedingte Wahrscheinlichkeit : die Wahrscheinlichkeit, dass ein Ereignis eintritt, vorausgesetzt, dass die Aussage wahr ist. Sie wird auch als A- posteriori-Wahrscheinlichkeit von unter der Bedingung bezeichnet .${\displaystyle A}$${\displaystyle B}$${\displaystyle A}$${\displaystyle B}$
• ${\displaystyle P(B\vert A)}$ist auch eine bedingte Wahrscheinlichkeit: die Wahrscheinlichkeit des Eintretens eines Ereignisses unter der Bedingung, dass wahr ist. Sie kann auch als die Likelihood-Funktion interpretiert werden, die an der Stelle ausgewertet wird, gegeben ein festes .${\displaystyle B}$${\displaystyle A}$${\displaystyle A}$${\displaystyle B}$
• ${\displaystyle P(A)}$und sind die Wahrscheinlichkeiten , bzw. ohne bestimmte Bedingungen zu beobachten . Die interessierende Größe wird oft als „Priorwahrscheinlichkeit“ (vor neuen Erkenntnissen) bezeichnet. Genau genommen könnten sowohl als auch als Prior-, unbedingte oder Randwahrscheinlichkeiten bezeichnet werden .${\displaystyle P(B)}$${\displaystyle A}$${\displaystyle B}$${\displaystyle P(A)}$${\displaystyle P(A)}$${\displaystyle P(B)}$

Das Bayes-Theorem lässt sich aus dem Zusammenhang zwischen gemeinsamen und bedingten Wahrscheinlichkeiten ableiten. ^{[ 19 ]} Die gemeinsame Wahrscheinlichkeit, dass die Ereignisse und beide eintreten, geschrieben , ist gleich der bedingten Wahrscheinlichkeit von gegeben multipliziert mit der Wahrscheinlichkeit von : Ebenso müssen die beiden Produkte gleich sein: und durch Division beider Seiten durch erhält man das Bayes-Theorem:${\displaystyle A}$${\displaystyle B}$${\displaystyle P(A\cap B)}$${\displaystyle A}$${\displaystyle B}$${\displaystyle B}$$${\displaystyle P(A\cap B)=P(A\vert B)P(B).}$$$${\displaystyle P(A\cap B)=P(B\vert A)P(A).}$$$${\displaystyle P(A\vert B)P(B)=P(B\vert A)P(A),}$$${\displaystyle P(B)}$$${\displaystyle P(A\vert B)={\frac {P(B\vert A)P(A)}{P(B)}},{\text{ falls }}P(B)\neq 0.}$$

Sind die Ereignisse A₁ , A₂ _, ..., einander ausschließend und erschöpfend, d. h., eines von ihnen tritt mit Sicherheit ein, aber keines von beiden kann gleichzeitig eintreten, dann gilt nach dem _Satz der totalen Wahrscheinlichkeit für jedes Ereignis B: Setzt man diesen Ausdruck für in den Nenner der vorherigen Gleichung ein, erhält man: [ ^{20 ] : 8–9} $${\displaystyle P(B)=\sum _{i}P(B|A_{i})P(A_{i})}$$${\displaystyle P(B)}$$${\displaystyle P(A_{i}|B)={\frac {P(A_{i})P(B|A_{i})}{\sum _{j}P(A_{j})P(B|A_{j})}}.}$$

Die Ereignisse und Nicht- , geschrieben als , bilden ein sich gegenseitig ausschließendes und erschöpfendes Paar. Daher kann die vorherige Formel angewendet werden, und die Summe im Nenner enthält nur zwei Terme: ${\displaystyle A}$${\displaystyle A}$${\displaystyle \neg A}$$${\displaystyle P(A|B)={\frac {P(B|A)P(A)}{P(B|A)P(A)+P(B|\neg A)P(\neg A)}}.}$$

Angenommen, ein Arzt untersucht einen Patienten auf eine bestimmte Krankheit. Der Patient hat die Krankheit oder nicht; der Test liefert entweder ein positives oder ein negatives Ergebnis. Wenn der Patient die Krankheit nicht hat, der Test aber positiv ausfällt, handelt es sich um ein falsch positives Ergebnis. Wenn der Patient die Krankheit hat und der Test positiv ausfällt, handelt es sich um ein richtig positives Ergebnis. Der Satz von Bayes ermöglicht die Berechnung der Wahrscheinlichkeit, dass der Patient die Krankheit hat, vorausgesetzt, der Test ist positiv. Dabei werden Größen berücksichtigt, die die Prävalenz der Krankheit in der Bevölkerung und die Testgenauigkeit angeben. Sei das Ereignis, dass der Patient die Krankheit hat. ist die Wahrscheinlichkeit dafür. Sei das Ereignis, dass der Patient positiv getestet wird. Die Wahrscheinlichkeit, dass der Patient die Krankheit hat, vorausgesetzt, der Test ist positiv, wird somit mit bezeichnet . Der Satz von Bayes besagt: Hierbei ist die Prävalenzrate der Krankheit und die Sensitivität des Tests. ^{[ 21 ] : 44–45} ${\displaystyle E}$${\displaystyle P(E)}$${\displaystyle F}$${\displaystyle P(E|F)}$$${\displaystyle P(E|F)={\frac {P(F|E)P(E)}{P(F|E)P(E)+P(F|\neg E)P(\neg E)}}.}$$${\displaystyle P(E)}$${\displaystyle P(F|E)}$

Wenn beispielsweise alle Patienten mit Bauchspeicheldrüsenkrebs bestimmte Symptome aufweisen, bedeutet das nicht zwangsläufig, dass jeder, der diese Symptome hat, auch an Bauchspeicheldrüsenkrebs erkrankt ist. Angenommen, die Inzidenzrate von Bauchspeicheldrüsenkrebs beträgt 1/100.000 und 10 von 99.999 gesunden Menschen weisen die Symptome auf, dann liegt die Wahrscheinlichkeit, dass eine Person mit diesen Symptomen tatsächlich an Bauchspeicheldrüsenkrebs erkrankt ist, bei 9,1 %.

Basierend auf der Inzidenzrate zeigt die folgende Tabelle die entsprechenden Zahlen pro 100.000 Einwohner.

Mithilfe dieser Zahlen lässt sich dann die Wahrscheinlichkeit berechnen, dass ein Patient mit diesen Symptomen an Krebs erkrankt ist:

${\displaystyle {\begin{aligned}P({\text{Cancer}}|{\text{Symptoms}})&={\frac {P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})}{P({\text{Symptoms}})}}\\&={\frac {P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})}{P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})+P({\text{Symptoms}}|{\text{Non-Cancer}})P({\text{Non-Cancer}})}}\\[8pt]&={\frac {1\times 0.00001}{1\times 0.00001+(10/99999)\times 0.99999}}={\frac {1}{11}}\approx 9.1\%.\end{aligned}}}$

Angenommen, ein bestimmter Test zum Nachweis von Drogenkonsum (z. B. Substanz D ) hat eine Sensitivität von 99 % , d. h. die Trefferquote (TPR) beträgt 0,99. Der Test liefert somit in 99 % der Fälle ein korrekt positives Ergebnis (korrekte Identifizierung des Drogenkonsums). Gleichzeitig ist der Test zu 99 % spezifisch , d. h. die Trefferquote (TNR) beträgt 0,99. Daher erkennt der Test in 99 % der Fälle korrekt, dass niemand Drogen konsumiert, liefert aber auch 1 % falsch positive Ergebnisse, was einer Falsch-Positiv-Rate (FPR) von 0,01 entspricht. Geht man davon aus, dass 0,3 % der Bevölkerung die Droge konsumieren, ergibt sich nach dem Bayes-Theorem die Wahrscheinlichkeit, dass eine zufällig ausgewählte, positiv getestete Person tatsächlich Drogenkonsument ist: Folglich sind die meisten positiven Ergebnisse falsch, obwohl der Drogentest „zu 99 % genau“ ist. ^{[ 22 ]}$${\displaystyle {\begin{aligned}P({\text{User}}\vert {\text{Positive}})&={\frac {P({\text{Positive}}\vert {\text{User}})P({\text{User}})}{P({\text{Positive}})}}\\&={\frac {P({\text{Positive}}\vert {\text{User}})P({\text{User}})}{P({\text{Positive}}\vert {\text{User}})P({\text{User}})+P({\text{Positive}}\vert {\text{Non-user}})P({\text{Non-user}})}}\\[8pt]&={\frac {0.99\times 0.003}{0.99\times 0.003+0.01\times 0.997}}\approx 23\%.\end{aligned}}}$$

Eine Urne enthält Münzen dreier verschiedener Typen: A, B und C. Münzen des Typs A sind fair und zeigen beim Werfen mit einer Wahrscheinlichkeit von 0,5 Kopf. Münzen des Typs B sind gezinkt und zeigen mit einer Wahrscheinlichkeit von 0,6 Kopf, während Münzen des Typs C mit einer Wahrscheinlichkeit von 0,9 Kopf zeigen. Die Urne enthält 2 Münzen des Typs A, 2 Münzen des Typs B und 1 Münze des Typs C. Eine Münze wird zufällig aus der Urne gezogen und geworfen. Der Satz von Bayes gibt die Wahrscheinlichkeit an, dass eine Münze eines bestimmten Typs ist, vorausgesetzt, sie zeigt Kopf: und analog für und . Der Nenner kann mithilfe des Satzes der totalen Wahrscheinlichkeit gefunden werden: Unter der Annahme, dass die Münzen zufällig aus der Urne gezogen werden, gilt: , , und . Daraus folgt : , und ^{[ 23 ]}$${\displaystyle P(A|H)={\frac {P(H|A)P(A)}{P(H)}},}$$${\displaystyle P(B|H)}$${\displaystyle P(C|H)}$$${\displaystyle P(H)=P(H|A)P(A)+P(H|B)P(B)+P(H|C)P(C).}$$${\displaystyle P(A)=2/5}$${\displaystyle P(B)=2/5}$${\displaystyle P(C)=1/5}$${\displaystyle P(H)=0.62}$$${\displaystyle P(A|H)=0.2/0.62\approx 32\%.}$$

Die Interpretation des Bayes-Theors hängt von der Interpretation der den Termen zugeschriebenen Wahrscheinlichkeit ab . Die zwei vorherrschenden Interpretationsklassen werden im Folgenden beschrieben.

In Bayes’schen (oder erkenntnistheoretischen) Interpretationen misst Wahrscheinlichkeit einen rationalen „Grad der Überzeugung“. ^{[ 24 ] [ 25 ]} Das Bayes-Theorem verknüpft den Grad der Überzeugung von einer Aussage vor und nach der rationalen Berücksichtigung von Evidenz. Beispielsweise wird ein Arzt in einem medizinischen Testverfahren, wenn ein Patient positiv auf eine Krankheit getestet wird, es für plausibler halten, dass der Patient diese Krankheit hat. ^{[ 21 ] : 43–45}

Kontingenztabelle

Hintergrund Satz	B	( nicht ${\displaystyle \lnot B}$B )​	Gesamt
A	${\displaystyle P(B|A)\cdot P(A)}$${\displaystyle =P(A|B)\cdot P(B)}$	${\displaystyle P(\neg B|A)\cdot P(A)}$${\displaystyle =P(A|\neg B)\cdot P(\neg B)}$	⁠ ⁠${\displaystyle P(A)}$
( nicht ${\displaystyle \neg A}$A ) ​	${\displaystyle P(B|\neg A)\cdot P(\neg A)}$${\displaystyle =P(\neg A|B)\cdot P(B)}$	${\displaystyle P(\neg B|\neg A)\cdot P(\neg A)}$${\displaystyle =P(\neg A|\neg B)\cdot P(\neg B)}$	${\displaystyle P(\neg A)}$=${\displaystyle 1-P(A)}$
Gesamt	⁠ ⁠${\displaystyle P(B)}$	${\displaystyle P(\neg B)=1-P(B)}$	1

Wenn A eine Aussage und B die Evidenz oder den Hintergrund B bezeichnet , dann ^{[ 26 ]}

• ${\displaystyle P(A)}$ist die A - priori-Wahrscheinlichkeit , der anfängliche Grad des Glaubens an A.
• ${\displaystyle P(\neg A)}$ist der entsprechende anfängliche Grad der Überzeugung, dass A falsch ist, der beträgt .${\displaystyle P(\neg A)=1-P(A)}$
• ${\displaystyle P(B|A)}$ist die bedingte Wahrscheinlichkeit oder Likelihood, der Grad des Glaubens an B unter der Bedingung, dass A wahr ist.
• ${\displaystyle P(B|\neg A)}$ist die bedingte Wahrscheinlichkeit oder Likelihood, der Grad des Glaubens an B unter der Bedingung, dass A falsch ist.
• ${\displaystyle P(A|B)}$ist die A-posteriori-Wahrscheinlichkeit , die Wahrscheinlichkeit von A unter Berücksichtigung von B.

Mehr zur Anwendung des Bayes-Theorems im Rahmen der Bayes'schen Wahrscheinlichkeitstheorie finden Sie unter Bayes'sche Inferenz .

In frequentistischen Interpretationen misst Wahrscheinlichkeit einen „Anteil von Ergebnissen“ ^{[ 27 ]} . Angenommen, ein Experiment wird viele Male durchgeführt. P ( A ) ist der Anteil der Ergebnisse mit Eigenschaft A (die A - priori-Wahrscheinlichkeit), und P ( B ) ist der Anteil mit Eigenschaft B. P ( B | A ) ist der Anteil der Ergebnisse mit Eigenschaft B unter allen Ergebnissen mit Eigenschaft A , und P ( A | B ) ist der Anteil der Ergebnisse mit Eigenschaft A unter allen Ergebnissen mit Eigenschaft B (die A-posteriori-Wahrscheinlichkeit).

Für Ereignisse A und B gilt unter der Voraussetzung, dass P ( B ) ≠ 0,

${\displaystyle P(A|B)={\frac {P(B|A)P(A)}{P(B)}}.}$

In vielen Anwendungen, beispielsweise in der Bayes'schen Inferenz , ist das Ereignis B in der Betrachtung festgelegt, und wir möchten den Einfluss seiner Beobachtung auf unsere Überzeugung hinsichtlich verschiedener möglicher Ereignisse A untersuchen . In solchen Situationen ist der Nenner des letzten Ausdrucks, die Wahrscheinlichkeit des gegebenen Beweises B , festgelegt; wir möchten A variieren. Der Satz von Bayes zeigt, dass die A-posteriori-Wahrscheinlichkeiten proportional zum Zähler sind , sodass die letzte Gleichung lautet: ^{[ 20 ] : 8}

${\displaystyle P(A|B)\propto P(A)\cdot P(B|A).}$

Anders ausgedrückt: Die A-posteriori-Wahrscheinlichkeit ist proportional zur A-priori-Wahrscheinlichkeit multipliziert mit der Likelihood. ^{[ 20 ] : 37}

Für zwei stetige Zufallsvariablen X und Y kann der Satz von Bayes analog aus der Definition der bedingten Dichte abgeleitet werden :

${\displaystyle f_{X\vert Y=y}(x)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}}$

${\displaystyle f_{Y\vert X=x}(y)={\frac {f_{X,Y}(x,y)}{f_{X}(x)}}}$

Der Satz von Bayes besagt: ^{[ 20 ] : 20–21}

${\displaystyle f_{X\vert Y=y}(x)={\frac {f_{Y\vert X=x}(y)f_{X}(x)}{f_{Y}(y)}}.}$

Dies gilt für Werte innerhalb der Unterstützung von X und Y , wodurch und sichergestellt werden . ${\displaystyle x}$${\displaystyle y}$${\displaystyle f_{X}(x)>0}$${\displaystyle f_{Y}(y)>0}$

Sei die bedingte Verteilung von gegeben und sei die Verteilung von . Die gemeinsame Verteilung ist dann . Die bedingte Verteilung von gegeben wird dann durch bestimmt ${\displaystyle P_{Y}^{x}}$${\displaystyle Y}$${\displaystyle X=x}$${\displaystyle P_{X}}$${\displaystyle X}$${\displaystyle P_{X,Y}(dx,dy)=P_{Y}^{x}(dy)P_{X}(dx)}$${\displaystyle P_{X}^{y}}$${\displaystyle X}$${\displaystyle Y=y}$

$${\displaystyle P_{X}^{y}(A)=E(1_{A}(X)|Y=y)}$$

Die Existenz und Eindeutigkeit der benötigten bedingten Erwartung ist eine Folge des Satzes von Radon-Nikodym . Andrej Kolmogorov formulierte diesen 1933. Er unterstrich die Bedeutung der bedingten Wahrscheinlichkeit mit den Worten: „Ich möchte auf … die Theorie der bedingten Wahrscheinlichkeiten und bedingten Erwartungswerte hinweisen.“ ^{[ 28 ]} Der Satz von Bayes bestimmt die A-posteriori-Verteilung aus der A-priori-Verteilung. Die Eindeutigkeit erfordert Stetigkeitsannahmen. ^{[ 29 ]} Der Satz von Bayes lässt sich verallgemeinern und umfasst auch uneigentliche A-priori- Verteilungen wie die Gleichverteilung auf der reellen Zahlengeraden . ^{[ 30 ]} Moderne Markov-Chain-Monte-Carlo- Methoden haben die Bedeutung des Satzes von Bayes, auch im Fall uneigentlicher A-priori-Verteilungen, weiter gesteigert. ^{[ 31 ]}

Wahrscheinlichkeiten werden manchmal als Chancen angegeben . Für jede Aussage ist das Verhältnis der Wahrscheinlichkeit, dass die Aussage wahr ist, zur Wahrscheinlichkeit, dass sie falsch ist, die Chance auf diese Aussage . ^{[ 32 ] : 90} Der Satz von Bayes lässt sich mithilfe von Chancen wie folgt formulieren. Zunächst wendet man den Satz von Bayes auf die Wahrscheinlichkeit an, dass die Aussage wahr ist, gegeben eine andere Aussage : Ebenso gilt der Satz von Bayes für die Wahrscheinlichkeit, dass die Aussage falsch ist: Durch Division dieser beiden Gleichungen fällt die Wahrscheinlichkeit heraus: Folglich sind die Chancen von gegeben die Chancen von , multipliziert mit dem Verhältnis , einer Größe, die als Bayes-Faktor oder Likelihood-Ratio bezeichnet wird . In Symbolen: Dies wird oft zusammengefasst, indem man sagt, dass die Posterior-Chancen die Prior-Chancen multipliziert mit der Likelihood sind. ^{[ 32 ] : 90 [ 21 ] : 49} ${\displaystyle A}$${\displaystyle A}$${\displaystyle A}$${\displaystyle A}$${\displaystyle A}$${\displaystyle B}$$${\displaystyle P(A|B)=P(A){\frac {P(B|A)}{P(B)}}.}$$${\displaystyle A}$$${\displaystyle P(\neg A|B)=P(\neg A){\frac {P(B|\neg A)}{P(B)}}.}$$${\displaystyle P(B)}$$${\displaystyle {\frac {P(A|B)}{P(\neg A|B)}}={\frac {P(A)}{P(\neg A)}}{\frac {P(B|A)}{P(B|\neg A)}}.}$$${\displaystyle A}$${\displaystyle B}$${\displaystyle A}$${\displaystyle P(B|A)/P(B|\neg A)}$$${\displaystyle O(A|B)=O(A){\frac {P(B|A)}{P(B|\neg A)}}.}$$

Angenommen, eine Krankheit hat eine Prävalenz von 1 %, d. h. die Wahrscheinlichkeit, dass eine zufällig ausgewählte Person infiziert ist, beträgt 0,01. Und angenommen, ein Test auf die Krankheit liefert mit einer Wahrscheinlichkeit von 99 % das korrekte Ergebnis. Die Wahrscheinlichkeit einer Infektion beträgt dann …$${\displaystyle O({\text{infected}})={\frac {P({\text{infected}})}{P({\text{not infected}})}}={\frac {0.01}{1-0.01}}={\frac {1}{99}}.}$$

Die Wahrscheinlichkeit für ein positives Testergebnis bei Vorliegen einer Infektion beträgt 99 %. Die Wahrscheinlichkeit für ein negatives Testergebnis bei Nichtvorliegen einer Infektion beträgt ebenfalls 99 %. Der Bayes-Faktor ist somit das Verhältnis. Daher beträgt die Wahrscheinlichkeit einer Infektion bei einem positiven Testergebnis 50 %. ^{[ 33 ]}$${\displaystyle P({\text{positive}}|{\text{infected}})=0.99.}$$$${\displaystyle P({\text{positive}}|{\text{not infected}})=1-P({\text{negative}}|{\text{not infected}})=1-0.99=0.01.}$$$${\displaystyle {\frac {P({\text{positive}}|{\text{infected}})}{P({\text{positive}}|{\text{not infected}})}}={\frac {0.99}{0.01}}={\frac {99}{1}}.}$$$${\displaystyle {\frac {1}{99}}\times {\frac {99}{1}}={\frac {1}{1}};}$$

Eine Version des Bayes-Theorems für 3 Ereignisse ^{[ 34 ]} ergibt sich aus der Hinzunahme eines dritten Ereignisses , von dem alle Wahrscheinlichkeiten abhängig sind: ${\displaystyle C}$${\displaystyle P(C)>0,}$

${\displaystyle P(A\vert B\cap C)={\frac {P(B\vert A\cap C)\,P(A\vert C)}{P(B\vert C)}}}$

Dies lässt sich wie folgt ableiten. Anwendung der Kettenregel

${\displaystyle P(A\cap B\cap C)=P(A\vert B\cap C)\,P(B\vert C)\,P(C)}$

Und andererseits

${\displaystyle P(A\cap B\cap C)=P(B\cap A\cap C)=P(B\vert A\cap C)\,P(A\vert C)\,P(C)}$

Das gewünschte Ergebnis erhält man, indem man beide Ausdrücke identifiziert und nach auflöst . ${\displaystyle P(A\vert B\cap C)}$

In subjektiven Interpretationen der Wahrscheinlichkeitstheorie wird die Wahrscheinlichkeit eines Ereignisses als die Überzeugung eines Akteurs betrachtet, dass dieses Ereignis eintreten wird. Das Bayes-Theorem wird häufig herangezogen, um zu begründen, wie ein Akteur seine Überzeugungen nach Erhalt neuer Informationen aktualisieren oder modifizieren sollte. Weist ein Akteur dem Ereignis die Wahrscheinlichkeit , dem Ereignis und dem Ereignis zu , wobei unter der Annahme, dass bereits eingetreten ist, eintritt , so liefert das Bayes-Theorem den Wert von . Angenommen, nachdem der Akteur diese Wahrscheinlichkeitszuweisungen vorgenommen hat, tritt das Ereignis ein. Ein Akteur, der die Bayes'sche Aktualisierungsmethode anwendet ( auch bekannt als Aktualisierung durch Konditionalisierung), ändert seine Wahrscheinlichkeit für das Ereignis vom alten Wert auf den neuen Wert . Konditionalisierung ist nicht die einzige Aktualisierungsregel, die als rational gelten kann. ^{[ 35 ] [ 36 ] [ 37 ]} Die Frage, welche Annahmen zur Einschränkung von Aktualisierungsregeln herangezogen werden können, ist weiterhin umstritten. ^{[ 38 ] [ 39 ]}${\displaystyle P(A)}$${\displaystyle A}$${\displaystyle P(B)}$${\displaystyle B}$${\displaystyle P(B|A)}$${\displaystyle B}$${\displaystyle A}$${\displaystyle P(A|B)}$${\displaystyle B}$${\displaystyle A}$${\displaystyle P(A)}$${\displaystyle P'(A)=P(A|B)}$

In der Quantenmechanik werden Wahrscheinlichkeitsverteilungen auf Dichtematrizen verallgemeinert , Anordnungen komplexer Zahlen , die die Präparation eines Quantensystems beschreiben. Es lässt sich eine Quanten-Bayes-Regel formulieren, die beschreibt, wie Dichtematrizen aktualisiert werden, sobald neue experimentelle Daten über ein System vorliegen. ^{[ 40 ] [ 41 ]}

In der Bayes'schen Statistik wird ein Objekt oder System durch ein mathematisches Modell repräsentiert, das einen oder mehrere numerische Parameter enthält. Die verfügbaren Informationen über das System werden genutzt, um eine Wahrscheinlichkeitsverteilung über die möglichen Werte dieser Parameter zu erstellen, die angibt, welche Werte plausibler sind als andere. Anschließend wird das Bayes'sche Theorem verwendet, um diese Wahrscheinlichkeitsverteilung zu aktualisieren, sobald neue Erkenntnisse vorliegen. ^{[ 42 ]}

Die Bayes-Regel und die Berechnung bedingter Wahrscheinlichkeiten bieten eine Methode zur Lösung einer Reihe bekannter Rätsel, wie beispielsweise des Drei-Gefangenen-Problems ^{[ 43 ]} , des Monty-Hall-Problems ^{[ 44 ]} , des Jungen-oder-Mädchen-Paradoxons [ ^{45 ] und} des Zwei-Umschläge-Problems ^{[ 46 ]} .

Alan Turing und seine Mitarbeiter in Bletchley Park leisteten während des Zweiten Weltkriegs Pionierarbeit bei der Anwendung des Bayes-Theorems zur Entschlüsselung von Verschlüsselungen . 1941 verfasste Turing eine Reihe von Lehrnotizen, in denen er die Bayes’schen Methoden der Kryptoanalyse vorstellte , indem er sie auf Probleme wie die Entschlüsselung einer Vigenère-Verschlüsselung anwandte. Diese Probleme waren einfacher als der Hauptfokus seines Teams: das Entschlüsseln von mit der Enigma-Maschine verschlüsselten Nachrichten . Das Bayes-Theorem wurde auch zur Entschlüsselung des japanischen Marinecodes JN 25 angewendet . ^{[ 47 ] [ 48 ] [ 49 ]}

In der Genetik kann das Bayes-Theorem verwendet werden, um die Wahrscheinlichkeit für das Vorhandensein eines bestimmten Genotyps abzuschätzen . Viele Menschen möchten ihr Risiko, an einer genetischen Erkrankung zu erkranken , oder ihre Wahrscheinlichkeit, Träger eines rezessiven Gens zu sein, einschätzen . Mithilfe einer Bayes'schen Analyse, basierend auf der Familienanamnese oder Gentests, lässt sich vorhersagen, ob jemand eine Krankheit entwickeln oder an seine Kinder vererben wird. ^{[ 50 ]} (Gentests und -prognosen sind häufig bei Paaren, die Kinder planen, aber befürchten, beide Träger einer Krankheit zu sein, insbesondere in Bevölkerungsgruppen mit geringer genetischer Varianz . ^{[ 51 ]} )

Das Bayes-Theorem wird in der Evolutionsbiologie verwendet , um Verwandtschaftsbäume zwischen Arten abzuleiten, die die verfügbaren Daten bestmöglich erklären. Dieser Ansatz wurde durch die Anwendung von Markov-Chain-Monte-Carlo -Methoden praktisch umsetzbar. ^{[ 52 ] [ 53 ]}

• Bayesianische Erkenntnistheorie
• Bayes'sches Netzwerk
• Bayes'sche Überzeugung
• Induktive Wahrscheinlichkeit
• QBismus
• Reguläre bedingte Wahrscheinlichkeit
• Warum die meisten veröffentlichten Forschungsergebnisse falsch sind , ein Essayvon John Ioannidis aus dem Jahr 2005 in Metascience.

• Dieser Artikel enthält Text aus einer gemeinfreien Publikation : Mitchell  , John Malcolm (1911). „ Price, Richard “. In: Chisholm, Hugh (Hrsg.). Encyclopædia Britannica . Band 22 (11. Aufl.). Cambridge University Press. S.  314–315 .

• Bolstad, William M.; Curran, James M. (2017). „Logik, Wahrscheinlichkeit und Unsicherheit“. Einführung in die Bayes’sche Statistik (3. Aufl.). New York: Wiley. S.  59–82 . ISBN 978-1-118-09156-2Die
• Joyce, James (30. September 2003). „Satz von Bayes“ . In: Zalta, Edward N. (Hrsg.). Stanford Encyclopedia of Philosophy (Herbstausgabe 2003). ISSN  1095-5054 . OCLC  429049174 .
• Schmitt, Samuel A. (1969). „Accumulating Evidence“. Measuring Uncertainty: An Elementary Introduction to Bayesian Statistics . Reading: Addison-Wesley. S.  61–99 . OCLC  5013 .
• Stigler, Stephen M. (August 1986). „Laplaces Abhandlung über inverse Wahrscheinlichkeit von 1774“ . Statistical Science . 1 (3): 359–363 . doi : 10.1214/ss/1177013620 .

• „Die Bayes'sche Falle“ . Veritasium . 5. April 2017 – via YouTube .