Maximum-Likelihood Schätzer < Stochastik < Hochschule < Mathe < Vorhilfe
|
| Status: |
(Frage) beantwortet  | | Datum: | 19:39 Mo 08.02.2010 | | Autor: | elba |
| Aufgabe | [mm] X_{1},...,X_{n} [/mm] seien stochastisch unabhängige und identisch geometrisch verteilte Zufallsgrößen mit Parameter [mm] \theta\in[0,1], [/mm] d.h. [mm] \IP(X_{i}=k)= \theta [/mm] * [mm] (1-\theta)^{k-1} [/mm] für [mm] k\in \IN
[/mm]
a) Bestimmen Sie einen Maximum-Likelihood Schätzer für [mm] \theta.
[/mm]
b) Überprüfen Sie, ob [mm] T_{1}(x_{1},...,x_{n})= \bruch{1}{n^2}*((\summe_{i=1}^{n} X_{i})^2) [/mm] ein erwartungstreuer Schätzer für [mm] \bruch{1}{\theta^2} [/mm] ist.
c) Überprüfen Sie, ob [mm] T_{2}(x_{1},...,x_{n})= \bruch{1}{n}*((\summe_{i=1}^{n} X_{i})) [/mm] ein konsistenter Schätzer für [mm] \bruch{1}{\theta} [/mm] ist. |
Bei Aufgenteil a) muss ich doch die Ableitung von [mm] \theta [/mm] * [mm] (1-\theta)^{k-1} [/mm] bilden um die Nullstellen zu bestimmen, oder?
[mm] L'(\theta)= (1-p)^{n-1} -p*(n-1)*(1-p)^{n-2}
[/mm]
Und L' muss ich gleich Null setzen:
[mm] (1-p)^{n-1} -p*(n-1)*(1-p)^{n-2}=0
[/mm]
dann erhalte ich nach umformungen folgende Nullstellen:
[mm] \theta_{1}=0 [/mm] und [mm] \theta_{2}=-n.
[/mm]
Jetzt müsste ich ja die 2. Ableitung bilden um zu gucken, ob diese Nullstellen Maxima sind, da diese ja gesucht sind.
Wenn ich dann z.B. bekomme, dass [mm] \theta_{2}=-n [/mm] Maximum ist, ist das dann mein Maximum-Likelihood Schätzer??
Was ich bei b) und c) mit der Erwartungstreue und Konsistenz machen muss, weiß ich noch nicht so wirklich.
Danke für die Hilfe!
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 19:46 Mo 08.02.2010 | | Autor: | felixf |
Moin!
> [mm]X_{1},...,X_{n}[/mm] seien stochastisch unabhängige und
> identisch geometrisch verteilte Zufallsgrößen mit
> Parameter [mm]\theta\in[0,1],[/mm] d.h. [mm]\IP(X_{i}=k)= \theta[/mm] *
> [mm](1-\theta)^{k-1}[/mm] für [mm]k\in \IN[/mm]
> a) Bestimmen Sie einen
> Maximum-Likelihood Schätzer für [mm]\theta.[/mm]
> b) Überprüfen Sie, ob [mm]T_{1}(x_{1},...,x_{n})= \bruch{1}{n^2}*((\summe_{i=1}^{n} X_{i})^2)[/mm]
> ein erwartungstreuer Schätzer für [mm]\bruch{1}{\theta^2}[/mm]
> ist.
> c) Überprüfen Sie, ob [mm]T_{2}(x_{1},...,x_{n})= \bruch{1}{n}*((\summe_{i=1}^{n} X_{i}))[/mm]
> ein erwartungstreuer Schätzer für [mm]\bruch{1}{\theta}[/mm] ist.
>
> Bei Aufgenteil a) muss ich doch die Ableitung von [mm]\theta[/mm] *
> [mm](1-\theta)^{k-1}[/mm] bilden um die Nullstellen zu bestimmen,
> oder?
Nein, wieso solltest du? Du musst die Funktion [mm] $\theta \mapsto P(X_1 [/mm] = [mm] x_1, \dots, X_n [/mm] = [mm] x_n) [/mm] = [mm] \prod_{i=1}^n P(X_i [/mm] = [mm] x_i) [/mm] = [mm] \prod_{i=1}^n [/mm] [ [mm] \theta [/mm] (1 - [mm] \theta)^{x_i - 1} [/mm] ]$ nach [mm] $\theta$ [/mm] ableiten und das gleich 0 setzen.
Um das zu tun, schreibe die Funktion doch erstmal in der Form [mm] $\theta^a [/mm] (1 - [mm] \theta)^b$ [/mm] mit $a, b$, die nicht von [mm] $\theta$ [/mm] (aber von $n$ und den [mm] $x_i$) [/mm] abhaengen.
> Was ich bei b) und c) mit der Erwartungstreue und
> Konsistenz machen muss, weiß ich noch nicht so wirklich.
Von Konsistenz steht da nichts. Du musst zeigen, dass [mm] $E(T_1(X_1, \dots, X_n)) [/mm] = [mm] \frac{1}{\theta^2}$ [/mm] und [mm] $E(T_2(X_1, \dots, X_n)) [/mm] = [mm] \frac{1}{\theta}$ [/mm] ist.
Dazu hilft es dir sicher zu wissen, was [mm] $E(X_i)$ [/mm] und [mm] $E(X_i^2)$ [/mm] sind. Rechne die zuerst aus!
LG Felix
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 19:49 Mo 08.02.2010 | | Autor: | elba |
Ok, danke erstmal.
bei c) solllte es konsistent und nicht erwartungstreu heißen. Ich hatte mich da verschrieben.
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 20:11 Mo 08.02.2010 | | Autor: | elba |
ok, also ist a=n und b= [mm] (\summe_{i=1}^{n} X_{i}) [/mm] -n
Dann ist [mm] L'(\theta)= a*\theta^{a-1}*(1-\theta)^b [/mm] + [mm] -\theta^a*b*(1-\theta)^{b-1}.
[/mm]
Wenn ich das dann 0 setze, und nach [mm] \theta [/mm] umforme erhalte ich:
[mm] \theta= \bruch{a}{a+b}
[/mm]
Stimmt das??
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 20:16 Mo 08.02.2010 | | Autor: | felixf |
Hallo!
> ok, also ist a=n und b= [mm](\summe_{i=1}^{n} X_{i})[/mm] -n
Genau.
> Dann ist [mm]L'(\theta)= a*\theta^{a-1}*(1-\theta)^b[/mm] +
> [mm]-\theta^a*b*(1-\theta)^{b-1}.[/mm]
Also gleich $[a (1 - [mm] \theta) [/mm] - b [mm] \theta [/mm] ] [mm] \theta^{a - 1} [/mm] (1 - [mm] \theta)^{b - 1}$.
[/mm]
> Wenn ich das dann 0 setze, und nach [mm]\theta[/mm] umforme erhalte
> ich:
> [mm]\theta= \bruch{a}{a+b}[/mm]
> Stimmt das??
Ja.
Jetzt kannst du noch ueberpruefen, ob auch wirklich ein Maximum vorliegt. (Das ist jedoch recht wahrscheinlich :) )
LG Felix
|
|
|
| |
|
| Status: |
(Frage) beantwortet | | Datum: | 20:47 Mo 08.02.2010 | | Autor: | elba |
dafür müsste ich ja jetzt die 2. Ableitung bilden. Das ist allerdings eine ellenlange Funktion.
Ich hab sie mal versucht zu berechnen. Aber selbst wenn ich da jetzt mein [mm] \theta= \bruch{a}{a+b} [/mm] einsetzen würde, wüsste ich nicht wie ich sehe, ob das nun wirklich ein Maximum ist. Da ich ja nicht wirklich Zahlenwerte erhalte.
Und bei b) Wenn ich also den [mm] E(X_{i}) [/mm] berechne, erhalte ich [mm] \bruch{1}{\theta}. [/mm] Für [mm] E((X_{i})^2) [/mm] steck ich irgendwie fest, ich bin mir auch gar nicht sicher, ob das bis dahin richtig ist:
[mm] E((X_{i})^2)=\summe_{n=1}^{\infty} k*(1-\theta)^{2k-2}*\theta^2= \bruch{\theta^2}{(1-\theta)^2}*\summe_{n=1}^{\infty} k*(1-\theta)^{2n}
[/mm]
So, wenn das bis dahin stimmt, weiß ich jetzt nicht wie ich da weiterkomme.
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 21:46 Mo 08.02.2010 | | Autor: | felixf |
Moin!
> dafür müsste ich ja jetzt die 2. Ableitung bilden. Das
> ist allerdings eine ellenlange Funktion.
Naja, es geht: es kommt $[(a-1) a (1 - [mm] \theta)^2 [/mm] - 2 a b [mm] \theta [/mm] (1 - [mm] \theta) [/mm] + b (b - 1) [mm] \theta^2 [/mm] ] [mm] \theta^{a - 2} [/mm] (1 - [mm] \theta)^{b - 2}$ [/mm] heraus, wenn ich mich nicht verrechnet habe.
> Ich hab sie mal versucht zu berechnen. Aber selbst wenn ich
> da jetzt mein [mm]\theta= \bruch{a}{a+b}[/mm] einsetzen würde,
Ich habe [mm] $L''(\theta) [/mm] = -(a + [mm] b)^{3-(a+b)} a^{a-1} b^{b-1}$ [/mm] raus. Da $a+b = [mm] \sum_{i=1}^n X_i$ [/mm] ist ist dies [mm] $\ge [/mm] 0$. Weiterhin ist $a > 0$, womit [mm] $a^{a-1} [/mm] > 0$ ist.
Also sieht man gleich ein paar Probleme: falls [mm] $\sum_{i=1}^n X_i [/mm] = 0$ ist, ist [mm] $L''(\theta) [/mm] = 0$. Man muesste also weitere Ableitungen betrachten. Ist [mm] $\sum_{i=1}^n X_i [/mm] > 0$, so ist $-(a + [mm] b)^{3 - (a+b)} a^{a-1} [/mm] < 0$; es muss also [mm] $b^{b-1} [/mm] > 0$ sein.
Hier hat man wieder zwei Probleme:
a) Ist $b = 0$, so steht da [mm] $0^{-1}$. [/mm] Das ist ungut.
b) Ist $b < 0$, so ist [mm] $b^{b-1}$ [/mm] fuer gerades $b$ negativ.
Wenn diese Faelle aber nicht eintreten, hat man sozusagen Glueck gehabt und [mm] $\theta [/mm] = [mm] \frac{a}{a + b}$ [/mm] ist wirklich ein Maximum 
Allerdings, ich sehe gerade: bei euch ist $0 [mm] \not\in \IN$, [/mm] nicht? Aber dann gilt immer $b [mm] \ge [/mm] 0$ und $a + b > 0$, womit man nur noch den Problemfall $b = 0$ hat, also [mm] $X_i [/mm] = 1$ fuer alle $i$.
> wüsste ich nicht wie ich sehe, ob das nun wirklich ein
> Maximum ist. Da ich ja nicht wirklich Zahlenwerte erhalte.
>
> Und bei b) Wenn ich also den [mm]E(X_{i})[/mm] berechne, erhalte ich
> [mm]\bruch{1}{\theta}.[/mm]
Das kommt wohl hin.
> Für [mm]E((X_{i})^2)[/mm] steck ich irgendwie
> fest, ich bin mir auch gar nicht sicher, ob das bis dahin
> richtig ist:
> [mm]E((X_{i})^2)=\summe_{n=1}^{\infty} k*(1-\theta)^{2k-2}*\theta^2= \bruch{\theta^2}{(1-\theta)^2}*\summe_{n=1}^{\infty} k*(1-\theta)^{2n}[/mm]
Du hast den Erwartungswert falsch ausgerechnet: [mm] $E((X_i)^2)$ [/mm] ist nicht [mm] $\sum_{n=1}^\infty [/mm] k (1 - [mm] \theta)^{2 k - 2} \theta^2$, [/mm] sondern [mm] $\sum_{n=1}^\infty k^2 [/mm] (1 - [mm] \theta)^{k-1} \theta$.
[/mm]
> So, wenn das bis dahin stimmt, weiß ich jetzt nicht wie
> ich da weiterkomme.
Ein Tipp: leite $x [mm] \sum_{n=0}^\infty [/mm] n [mm] x^n$ [/mm] mal nach $x$ ab. Kannst du auch einen anderen Ausdruck dafuer angeben?
(Wenn dir das nichts sagt, leite doch erstmal [mm] $\sum_{n=0}^\infty x^n [/mm] = [mm] \frac{1}{1 - x}$ [/mm] ab.)
LG Felix
|
|
|
|
![[]](/images/popup.gif){kind=small}
Tschebyschow-Ungleichung