[PS] Joint distributions done, start limit theorems / law of large numbers

semester4/ps/ps-jh/parts/04_joint-distribution/01_continuous.tex

@@ -14,11 +14,11 @@ Jeder Funk. $f$ die obiges erfüllt ein W-Raum $(\Omega, \cF, \P)$ und $n$-Z.V.
 
 \shortexample Gleichverteilungen:
 \begin{itemize}
-    \item \bi{Einheistquadrat} $f(x, y) = \begin{cases}
+    \item \bi{Einheitsquadrat} $f(x, y) = \begin{cases}
                   1 & (x, y) \in [0, 1]^2 \\
                   0 & \text{sonst}
               \end{cases}$
-    \item \bi{Einheistkreisscheibe} $D = \{ (x, y) \in \R^2 \divider x^2 + y^2 \leq 1 \}$
+    \item \bi{Einheitskreisscheibe} $D = \{ (x, y) \in \R^2 \divider x^2 + y^2 \leq 1 \}$
           $f(x, y) = \begin{cases}
                   \frac{1}{\pi} & (x, y) \in D \\
                   0             & \text{sonst} \\
@@ -30,7 +30,54 @@ Jeder Funk. $f$ die obiges erfüllt ein W-Raum $(\Omega, \cF, \P)$ und $n$-Z.V.
     \E[\varphi(\cX_1, \ldots)] \! = \! \int_{-\8}^{\8} \ldots \int_{-\8}^{\8} \varphi(x_1, \ldots) f(x_1, \ldots) \dx x_n \ldots
 \]
 
-\shortdefinition[Randverteilung] Falls $\cX, \cY$ gemeinsame Verteilung $F$ haben, so ist $F_\cX : \R \rightarrow [0, 1]$ gegeben durch:
+\shortdefinition[Randverteilung] Falls $\cX, \cY$ gemeinsame Verteilung $F$ haben, so ist die Verteilungsfunktion der \bi{Randverteilung} von $\cX$,
+$F_\cX : \R \rightarrow [0, 1]$ gegeben durch:
 \[
     x \mapsto F_\cX(x) \! = \! \P[\cX \leq x] \! = \! \P[\cX \leq x, \cY < \8] \! = \! \limit{y}{\8} F(x, y)
 \]
+Analog für $\cY$ ist sie $F_y : \R \rightarrow [0, 1]$:
+\[
+    y \mapsto F_\cY(y) \! = \! \P[\cY \leq y] \! = \! \P[\cY < \8, \cY \leq y] \! = \! \limit{x}{\8} F(x, y)
+\]
+Die Dichten der Randverteilungen sind:
+\[
+    f_\cX(x) = \int_{-\8}^{\8} f(x, y) \dx y
+    \qquad
+    f_\cY(y) = \int_{-\8}^{\8} f(x, y) \dx x
+\]
+Herleitung der Randdichte (``wegintegrieren''):
+\begin{align*}
+    f_\cX(x) & = \diff{x} F_\cX(x) = \diff{x}\left( \int_{-\8}^{x} \int_{-\8}^{\8} f(s, t) \dx t \dx s \right) \\
+             & =\int_{-\8}^{\8} f(x, t) \dx t
+\end{align*}
+{\scriptsize (Hier wieder Umwandlung von Summe zu Integral von Diskret zu Stetig)}
+
+\shortexample Beispiele von gemeinsamen stetigen Verteilungen\\
+\bi{Einheitsquadrat} {\scriptsize ($f(x, y) = 1_{(x, y) \in [0, 1]^2} = 1_{x \in [0, 1]} 1_{y \in [0, 1]}$)}
+\begin{align*}
+    f_\cX(x) & = \int_{0}^{1} 1_{x \in [0, 1]} 1_{y \in [0, 1]} \dx y = 1_{x \in [0, 1]} \\
+    f_\cY(y) & = \int_{0}^{1} 1_{x \in [0, 1]} 1_{y \in [0, 1]} \dx x = 1_{y \in [0, 1]}
+\end{align*}
+
+\bi{Einheitskreisscheibe} {\scriptsize ($f(x, y) = \frac{1}{\pi} \cdot 1_{x^2 + y^2 \leq 1}$)}
+\begin{align*}
+    f_\cX(x) \! = \! \int_{-\8}^{\8} \frac{1}{\pi} 1_{y^2 \leq 1 - x^2} \dx y \! = \! \int_{-\sqrt{1 - x^2}}^{\sqrt{1 - x^2}} \frac{1}{\pi} \dx y \!
+    = \! \frac{2}{\pi} \sqrt{1 - x^2} \\
+    f_\cY(y) \! = \! \int_{-\8}^{\8} \frac{1}{\pi} 1_{x^2 \leq 1 - y^2} \dx x \! = \! \int_{-\sqrt{1 - y^2}}^{\sqrt{1 - y^2}} \frac{1}{\pi} \dx x \! = \! \frac{2}{\pi} \sqrt{1 - y^2}
+\end{align*}
+
+\shorttheorem[Unabhängigkeit] $\cX_i$ mit Dichten $f_{\cX_i}$, dann ist äquiv.:
+\begin{itemize}
+    \item $\cX_1, \ldots, \cX_n$ sind unabhängig
+    \item $\cX_1, \ldots, \cX_n$ sind gem. stetig mit gem. Dichte (Prod. Randdichten):
+          $f(x_1, \ldots, x_n) = f_{\cX_1}(x_1) \cdot \ldots \cdot f_{\cX_n}(x_n)$
+\end{itemize}
+
+\shortexample[Gleichverteilungen]\\
+\bi{Einheitsquadrat} Wieder $f(x, y) = 1_{(x, y) \in [0, 1]^2}$, dann:
+\[
+    f(x, y) = 1_{(x, y) \in [0, 1]^2} = 1_{x \in [0, 1]} 1_{y \in [0, 1]} = f_\cX(x) f_\cY(y)
+\]
+Folglich sind die beiden Koordinaten unabhängig.
+
+\bi{Einheitskreisscheibe} $f(x, y) \neq f_\cX(x) f_\cY(y)$, mit Dichten von oben. Also sind die beiden Koordinaten nicht unabhängig.

semester4/ps/ps-jh/parts/05_limit-theorems/00_intro.tex

@@ -0,0 +1,12 @@
+\shortdefinition $\displaystyle \overline{\cX}_n = \frac{1}{n} \sum_{k = 1}^{n} \cX_k$ ist das \bi{arithmetische Mittel} der $\cX_k$.
+
+{\scriptsize \shortterm In Zusammenhang mit Zufallsvariablen auch \bi{Sichprobenmittel} genannt. Realisierung wird \bi{empirischer Mittelwert} genannt}
+
+% TODO: Possibly add the remark from P288 (P6 in Slide Deck 6) on expected value
+
+\shorttheorem[Schwaches Ges. der grossen Zahlen] Sei $K = \{ 1, 2, \ldots \}$ und $\forall k \in K : \cX_k$ unabh. Z.V. mit $\E[\cX_k] = \mu$; $\V[\cX_k] = \sigma^2$:
+\[
+    \overline{\cX}_n = \frac{1}{n} S_n = \frac{1}{n} \sum_{k = 1}^{n} \cX_k
+\]
+Dann konvergiert $\overline{\cX}_n$ für $n \rightarrow \8$ in Wahrscheinlichkeit gegen $\mu = \E[\cX_k]$,
+also $\forall \varepsilon > 0$ gilt $\P[|\overline{\cX}_n - \mu| > \varepsilon] \overset{n \rightarrow \8}{\longrightarrow} 0$

semester4/ps/ps-jh/probability-and-statistics-cheatsheet.tex

@@ -81,4 +81,10 @@
 % \input{parts/04_joint-distribution/}
 
 
+\newsection
+\section{Das Gesetz der grossen Zahlen}
+\input{parts/05_limit-theorems/00_intro.tex}
+% \input{parts/05_limit-theorems/}
+
+
 \end{document}