Wahrscheinlichkeitsrechnung: Diskrete Wahrscheinlichkeitsverteilungen und Schätzen ihrer Parameter ; mit 117 Beispielen [Reprint 2013 ed.] 9783486789782, 9783486235692

Table of contents :
Vorwort
Inhaltsverzeichnis
1. Der Laplacesche Wahrscheinlichkeitsbegriff
2. Grundbegriffe der Kombinatorik
3. Einige spezielle diskrete Wahrscheinlichkeitsverteilungen
4. Einige allgemeine Eigenschaften von diskreten Wahrscheinlichkeitsverteilungen
5. Elementare bedingte Wahrscheinlichkeiten und stochastische Unabhängigkeit von Ereignissen
6. Mittelwert und Streuung einer diskreten Wahrscheinlichkeitsverteilung
7. Wahrscheinlichkeitserzeugende Funktionen diskreter Verteilungen und bedingte Wahrscheinlichkeitsverteilungen
8. Schätzen von Parametern diskreter Wahrscheinlichkeitsverteilungen
ANHANG: Kennzeichnung der besonderen Rolle der diskreten Verteilungen
Verzeichnis der Beispiele
Sachverzeichnis
Literatur (Spezielle Auswahl)

Citation preview

Wahrscheinlichkeits rechnung Diskrete Wahrscheinlichkeitsverteilungen und Schätzen ihrer Parameter von Prof. Dr. Detlef Plachky Mit 117 Beispielen

R. Oldenbourg Verlag München Wien 1996

Die Deutsche Bibliothek - CIP-Einheitsaufnahme Plachky, Detlef: Wahrscheinlichkeitsrechnung: diskrete Wahrscheinlichkeitsverteilungen und Schätzen ihrer Parameter ; mit 117 Beispielai / von Detlef Plachky. - Münchai; Wien : Oldenbourg, 1996 ISBN 3-486-23569-9

© 1996 R. Oldenbourg Verlag GmbH, München Das Werk einschließlich aller Abbildungen ist urheberrechtlich geschützt. Jede Verwertung außeilialb der Grenzen des Uifaeberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Das gilt insbesondere für Vervielfaltigungoi, Übersetzung^, Mikroverfilmungen und die Einspeicherung und Bearbeitung in elektronischai Systemen. Gesamtherstellung: R, Oldenbourg Graphische Betriebe GmbH, München

ISBN 3-486-23569-9

Vorwort Der

Autor

strebt

eine

elementare

scheinlichkeitsrechnung Anfängervorlesungen

und

über

Einführung

Statistik

in G r u n d b e g r i f f e

(Stochastik)

Infinitesimalrechnung

auf

und

der

der

Wahr-

Grundlage

lineare

Algebra

von unter

V e r z i c h t auf m a ß t h e o r e t i s c h e H i l f s m i t t e l an. N a t i j r l i c h e r w e i s e s t e h t d a h e r der B e g r i f f d e r d i s k r e t e n V e r t e i l u n g an d e r S p i t z e , w o b e i a u c h bei m a t h e m a t i s c h e n Aussagen

möglichst

elementare

V e r s i o n g e w ä h l t w o r d e n i s t . E i n e s o l c h e S p e z i a l i s i e r u n g legt die

Entwicklung

und

aus

dem

Darstellung

Bereich

Grundbegriffen

der

Autor,

hofft

Bekanntes

anzubieten,

maximalen,

von E r e i g n i s s e n und

B.

K. G h o s h

auch

obgleich

soll darauf

neueren E r g e b n i s s e n eines

Stochastik

von

Trotzdem

wird. Schließlich

der

stochastisch der

Altes

hat,

wie

z.

B. die

unabhängigen

der

und

an nicht

daß

der

vollkommen

nicht

trivialen B.

U.

Systems Eisenberg

Gerber,

die

nega-

s t e l l u n g von G. G. L o r e n t z für

Ordnung

und

schließlich

die

von

s t e l l u n g von A . N . G e o r g h i o u , C . G e o r g h i o u and G . N. P h i l i p p o u für die höherer

betreffend,

von

auch

Kennzeichnung

die auf

Beweis

dargestellt

Autor

konkrete

nahe.

Dar-

Binomialverteilung

Versicherungen

nur

"beispielhaft"

Gleichverteilung,

elementare

Beispielen

explizite

tive

von

Fachmann

vorwiegend

diskreten

zurijckgeht,

Ruinwahrscheinlichkeit

dem

Stochastik

hingewiesen werden,

profitiert

unter

der

eine

die

elegante

Bernsteinpolynome.

D. P l a c h k y

Dar-

Inhaltsverzeichnis 1.

Der L a p l a c e s c h e W a h r s c h e i n l i c h k e i t s b e g r i f f

1

2.

G r u n d b e g r i f f e der Kombinatorik

4

2.1.

P e r m u t a t i o n e n mit W i e d e r h o l u n g e n

4

2.2

P e r m u t a t i o n e n ohne W i e d e r h o l u n g e n

4

2.3.

K o m b i n a t i o n e n ohne W i e d e r h o l u n g e n

5

2.4.

Kombinationen mit Wiederholungen

6

3.

Einige s p e z i e l l e d i s k r e t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g e n

13

3.1.

Binomialverteilung

13

3.2.

Hypergeometrische Verteilung

16

4.

Einige a l l g e m e i n e E i g e n s c h a f t e n von d i s k r e t e n

Wahrschein-

lichkeitsverteilungen 5.

20

E l e m e n t a r e b e d i n g t e W a h r s c h e i n l i c h k e i t e n und

stochastische

U n a b h ä n g i g k e i t von E r e i g n i s s e n 6.

Mittelwert

28

und S t r e u u n g e i n e r d i s k r e t e n

Wahrscheinlich-

keitsverteilung 7.

Wahrscheinlichkeitserzeugende

38 Funktionen

diskreter

V e r t e i l u n g e n und b e d i n g t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g e n 8.

S c h ä t z e n von P a r a m e t e r n d i s k r e t e r

69

Wahrscheinlichkeits-

verteilungen

92

A N H A N G : K e n n z e i c h n u n g d e r b e s o n d e r e n Rolle d e r diskreten Verteilungen

144

V e r z e i c h n i s der Beispiele

164

Sachverzeichnis

171

1.

Laplacesche

Wahrscheinlichkeitsbegriff

Beim W e r f e n e i n e r Münze b z w . eines W ü r f e l s d r ü c k t man die T a t s a c h e , daß die Chance f ü r das A u f t r e t e n von W a p p e n oder Zahl b z w . e i n e r A u g e n z a h l gleich i s t , d a d u r c h a u s , daß man f ü r scheinlichkeit einer

1/2

echten

1/6

angibt.

(ungefälschten)

bzw.

Münze

bestimmten

die e n t s p r e c h e n d e

In d i e s e m Fall s p r i c h t bzw. Würfel.

man

Beim Z i e h e n

Wahr-

auch aus

von

einem

Gefäß ( U r n e ) , die z w e i v e r s c h i e d e n e S o r t e n von Kugeln e n t h ä l t , e t w a r r o t e bzw. s schwarze Kugel mit

Kugeln, w i r d man die Chance f ü r das Z i e h e n e i n e r

b z w . f ü r das Z i e h e n e i n e r s c h w a r z e n Kugel mit

roten

— b e w e r -

t e n . Die C h a n c e , beim W ü r f e l n m i t e i n e m u n g e f ä l s c h t e n W ü r f e l eine g e r a d e A u g e n z a h l zu w ü r f e l n , w i r d m i t 3 / 6 = 1 / 2 zu b e w e r t e n s e i n , w o b e i n a t ü r l i c h auch die W a h r s c h e i n l i c h k e i t 1/2 beträgt. Allgemeiner vielen m ö g l i c h e n raum)

für

das A u f t r e t e n

einer

ungeraden

w i r d man in e i n e m Z u f a l l s e x p e r i m e n t

Ergebnissen

u

e

Q, w o b e i

Augenzahl mit

also die Menge O

endlich (Ergebnis-

e n d l i c h i s t , die T a t s a c h e , daß jedes E r g e b n i s u 6 O die g l e i c h e C h a n -

ce hat v o r z u k o m m e n , d a d u r c h a u s d r ü c k e n , daß man f ü r Wahrscheinlichkeit {Mächtigkeit

p((,))

= ~

mit

lOl

als

Anzahl

die

der

entsprechende

Elemente

von

von O) a n g i b t . Man nennt ( f l , p ) mit 0 als e n d l i c h e r , n i c h t l e e -

r e r Menge und p: O -» R , p((i)) c x p e r i m e n t oder k u r z

=

, u

e

O, ein L a p l a c e s c h e s

Zufalls-

Laplace-Experiment.

Ist man in e i n e m L a p l a c e s c h e n E x p e r i m e n t an der Chance i n t e r e s s i e r t , ein b e s t i m m t e s wird,

so

wird

Ereignis man

für

E C O auftritt, die

d. h. daß ein u

entsprechende

die W a h r s c h e i n l i c h k e i t Laplaceschen

ist

der

daß

beobachtet die

Summe

. Man s a g t a u c h ,

Quotient

P: ^»(O)

also Menge aller T e i l m e n g e n von O) m i t P(E) =

d i s k r e t e L a p l a c e - V e r t e i l u n g o d e r k u r z Laplace-Verteilung auch d i s k r e t e

E

P(E) f ü r das A u f t r e t e n eines E r e i g n i s s e s E C n

Zufallsexperiment

g ü n s t i g e n und m ö g l i c h e n Fälle. Die A b b i l d u n g menge,

€

Wahrscheinlichkeit

p ( u ) der E i n z e l c h a n c e n p ( u ) , u G E, angeben, also

einem

O

aus

Anzahl

R (^(O)

in der

Potenz-

, E G V(0),

heißt

über O ( m a n c h m a l

Gleichverteilung).

Beim n - f a c h e n unabhängigen W u r f mit e i n e r u n g e f ä l s c h t e n Münze b z w . m i t e i nem u n g e f ä l s c h t e n W ü r f e l (d. h. die e i n z e l n e n W ü r f e sollen s i c h n i c h t

ge-

g e n s e i t i g b e e i n f l u s s e n ) , w i r d man f ü r den E r g e b n i s r a u m 0 das n - f a c h e

kar-

t e s i s c h e P r o d u k t von {0,1} ( " 0 " b e d e u t e t z . B. W a p p e n , "1" b e d e u t e t z . B. Zahl) w ä h l e n (in Z e i c h e n fi = { 0 , 1 } " ) b z w . O = {1 daß p ( u ) = 1 / 2 " , w G { 0 , 1 } " ,

bzw. p(u) = ^ ,

u G {1

6 } " z u g r u n d e legen, so 6 } " , gilt.

Kapitel 1: Der Laplacesche Wahrscheinlichkeitsbegriff

Interessiert man sich in einem Laplace-Experiment fUr die Wahrscheinlichkeit P ( E ) . das Auftreten eines Ereignisses E e (^(O) betreffend, so ist die folgende einfache Rechenregel P(E) = 1 - — n n i t E'^ als Komplement

von E,

die aus |0| = |E| + lE'^l folgt, manchmal von Nutzen. Dazu dient das folgende Beispiel (Paradoxon

von de Me're)

Die Wahrscheinlichkeit, beim 4fachen Wurf mit einem ungefälschten WUrfel c 4

mindestens eine S e c h s zu werfen, beträgt 1 -

= 0,518, wenn man die

obige Rechenregel berücksichtigt, während die Wahrscheinlichkeit, beim 2 4 fachen Wurf mit 2 unqefälschten und unterscheidbaren Würfeln mindestens 35 eine Doppelsechs zu erhalten, 1 - — 2 4 ~ 0,491 beträgt. Das Ergebnis ver36

trägt sich mit der Erfahrung des GlUcksplelers de Mere, der festgestellt hat, daß es sich lohnt, auf das erstgenannte Ereignis zu setzen, nicht aber auf das zweitgenannte Ereignis. Das Paradoxon von de Mere besteht darin, daß dieser wegen ^ =

für beide Ereignisse die gleiche Wahrscheinlich-

keit annahm. Bemerkenswert an diesem Beispiel ist ferner, daß n = 4 die kleinste natürliche Zahl ist, so daß die Wahrscheinlichkeit 1 -

D

dafür,

daß beim n - f a c h e n unabhängigen Würfelwurf mit einem ungefälschten W ü r fel mindestens einmal eine S e c h s beobachtet wird, größer als 1/2 ist. Weiterhin ist n = 24 die größte natürliche Zahl, so daß die Wahrscheinlichkeit 1 -

dafür, daß beim n - f a c h e n unabhängigen Wurf mit zwei unter-

scheidbaren Würfeln mindestens eine Doppelsechs auftritt, kleiner als 1/2 ist. Das folgende Beispiel ist ebenfalls wegen einer irrtümlichen Überlegung bekannt geworden und für das Verständnis der Laplace-Verteilung lehrreich. Beispiel (Mehrfacher

WUrfelwurf

nach Cardano und

Galilei)

interessiert man sich für die Wahrscheinlichkeit für eine bestimmte Augensummenzahl beim 3fachen Würfeln mit einem ungefälschten Würfel, so kann man zunächst zur Ubersicht alle der Größe nach geordneten Tripel notieren. Für den Fall der Augensummenzahl 11 bzw. 12 ergibt sich: 641

651

632

642

551

633

542

552

533

543

443

444

Kapitel 1: Der L a p l a c e s c h e W a h r s c h e i n l i c h k e i t s b e g r i f f

3

H i e r a u s l 1 i s t . Z u d i e s e m Z w e c k s e i 7:

die d u r c h 7t (1) = 2 , 7t ( 2 ) = 1 o 0 0 und 7t (i) = i f ü r i = 3 n, d e f i n i e r t e P e r m u t a t i o n . Dann i s t f ü r ein it e 0 die o B e d i n g u n g 7t(2) = 1 m i t 7 t ^ ^ 7 t ( 2 ) ) = 2 und die B e d i n g u n g 7t(1) 2 mit Tt^^Ttd)) ^ 1 g l e i c h w e r t i g . F e r n e r i s t 7t(i) ^ i f ü r i > 2 m i t 7t^ (7t(i)) so daß lE.,^1 2 2 = | { 7 to~ ^ o 7 t : 7te formel a = (n-1)(a +a n n-ln-^c Überlegungen

für

i für i > 2 äquivalent,

= a n - 1, z u t r i f f t . D a m i t g i l t die R e k u r s i o n s 22 f ü r n > 2 m i t a , = 0 , a ^ = 1, da man in den o b i g e n l ^

die M ä c h t i g k e i t

von E ^

die

natürliche

Zahl

2 durch

ein

k 6 { 3 , . . . , n } e r s e t z e n k a n n und |E,K I = a n - r + a n - 2^ = l E ^2I e r h ä l t . S e t z t m a n n o c h a ^ : = 1, so g i l t die R e k u r s i o n s f o r m e l a u c h n o c h f ü r n = 2 . Für

die

zugehörige

Wahrscheinlichkeit

P e r m u t a t i o n auszuwählen, gilt daher p = p die R e k u r s i o n s f o r m e l p - p = - — (p , " P

n ^

0,

eine

fixpunktfreie

. + — p n ^ 2, also n i 2 , die man s o f o r t

durch wiederholtes Einsetzen löst, nämlich p - p = ,^ (p ^ - p = _ ' f^n '^n-l n(n-1) '^n-2 „n-3 , (-1)n-2 „ 1 (-1)" _ " (-1)l< = ... = ; 2 ( p „ - p,) = ; 2 •— = ;— , n ^ 1, S O daß p = Z r-—, nl ^2 nl 21 nl '^n |< = 0 k! n s : 1 , g i l t . Für n ^ o o e r h ä l t man a u f g r u n d d e r P o t e n z r e i h e n d a r s t e l l u n g f ü r die e-Funktion

lim p n-» CO n

e

, so daß die W a h r s c h e i n l i c h k e i t , eine P e r m u t a t i o n ^

aus-

z u w ä h l e n , die m i n d e s t e n s ein E l e m e n t f e s t l ä ß t , ü b e r r a s c h e n d g r o ß 1 ~ ~ - 0 , 6 3 i s t , w o b e i die A p p r o x i m a t i o n von p

d u r c h — schon f ü r n ^ 8 sehr gut i s t . Nach

2.4 Kombinationen mit Wiederholungen

den

vorangegangenen

Überlegungen

ist

es

klar,

daß

p^

11

auch

s c h e i n l i c h k e i t g e d e u t e t w e r d e n k a n n , eine z u f ä l l i g a u s g e w ä h l t e von n E l e m e n t e n zu r a t e n , w o b e i stens einen T r e f f e r Ferner

i s t es j e t z t

Treffer

Uberraschend

groß, nämlich 0,63

für

minde-

ist, falls n ä 8

zu

eine

man

beachtet,

Permutation

mit

(")

fiJr j e d e K o n s t e l l a t i o n p

s c h w e r , die W a h r s c h e i n l i c h k e i t

daß

genau

sich

m

Fixpunkten

die

Wahrscheinlichkeit

zufällig für

auszuwählen.

die F i x p u n k t e

M ö g l i c h k e i t e n , so daß die g e s u c h t e m)l

nn

um

mögliche Konstellationen

=

'^n

es

p(m)

gilt.

( 0 ^ m ä n) b e i m R a t e n e i n e r z u f ä l l i g a u s g e w ä h l t e n P e r m u t a t i o n

Dann g i b t es z u n ä c h s t

lichkeit

Permutation

als W a h r s c h e i n l i c h k e i t

m

wenn

nicht mehr

Wahr-

für

bestimmen, handelt,

1 - p

als

) 0 den P a r a m e t e r n so groß, daß -

s 1 i s t . so gilt wegen

n

nn-...-n

(1 -

kl

lim (1 - - ) " = e " ' ' die Beziehung ( r ! ) ( - ) ' ' ( 1 -

n - ^ o o "

-

n

^ K n

^ ^

n

e - \ Durch p(k) = ^

kl

^

e - \ k € N . wird

kl

wegen ^ E ^ e " ^ * * = e ' ^ e " ' ' = 1 mit

(IN^,p) ein d i s k r e t e s

definiert.

Wahrscheinlichkeitsverteilung

Die

zugehörige

heißt Poisson-Verteitung

diskrete

mit dem P a r a m e t e r

=

n

Zufallsexperiment über

X. Der Fall X = 1 ist

bei den a s y m p t o t i s c h e n Überlegungen zum R e n c o n t r e - P r o b l e m

IN^

bereits

aufgetreten.

Unter der Annahme, daß jede der n! P e r m u t a t i o n e n von n Elementen g l e i c h wahrscheinlich

ist,

betrug

die W a h r s c h e i n l i c h k e i t ,

Raten einer P e r m u t a t i o n zu e r z i e l e n ,

ml

e \

genau

m Treffer

beim

wenn man n -» oo w ä h l t .

Als Anwendung der Binomialverteilung soll noch einmal die Frage nach der Wahrscheinlichkeit

des A u f t r e t e n s

einer A b s t i m m u n g

mit

nicht

majorisie-

rendem Anteil von Enthaltungen u n t e r s u c h t w e r d e n . Als individuelles

Modell

soll j e t z t die L a p l a c e - V e r t e i l u n g Uber der Menge { 0 , 1 , 2 } " ( " 0 " E n t h a l t u n g , "1" Ja, " 2 " Nein) dienen. Dann gibt es ^

günstige Fälle, so daß die zugehörige n-Cn/2:-1

1-

I k =0

(r:)s:2", k = 0 "

„

o

1

k=0

^

=

Wahrscheinlichkeit n-Cn/23-1

(")(|)'^-(1)" k 3 3

beträgt. 3

n, d u r c h ( # ) " 3

k=0

I

k=n-Cn/2]

„

I ) k n-1 N - X X =0 N erhält man als G r e n z w e r t die E i n z e l w a h r s c h e i n l i c h k e i t e n einer a 5 ( n , p ) - V e r t e i l u n g .

3.2 Hypergeometrische Verteilung

S i n d nun die N P r o d u l < t i o n s s t U c k e seitig ausschließen, klassifiziert

17

n a c l i m a 2 M e r k m a l e n , die s i c h mit

Klassenhäufigkeiten

M^

gegen-

'^m'

t r ä g t bei A u s w a h l von n P r o d u k t i o n s s t ü c k e n ( s i m u l t a n e A u s w a h l o d e r ohne Z u r ü c k l e g e n )

die W a h r s c h e i n l i c h k e i t

k^ P r o d u k t i o n s s t ü c k e

M e r k m a l , k ^ P r o d u k t i o n s s t ü c k e mit dem 2. M e r k m a l ^ S t ü c k e m i t d e m m - t e n M e r k m a l zu b e o b a c h t e n , n a c h d e r Üin_ . M . G IN, j = 1 j • J •

•

Ziehen

m i t d e m 1.

k

Produktions-

m Multiplikationsregel

,m.

m , M + M ^ + ... + M = N , k, 6 IN , j = 1. • 1 2 m J o

k.i + k ^ + ... + k ^ = n. Dabei w i r d w i e d e r a n g e n o m m e n , daß alle

möglichen

K o m b i n a t i o n e n o h n e W i e d e r h o l u n g e n g l e i c h w a h r s c h e i n l i c h s i n d . Die z u g e h ö r i g e diskrete Wahrscheinlichkeitsverteilung trische

Verteilung

heißt mehrdimensionale

(in Z e i c h e n :

hypergeome-

M^,n)-Verteilung).

W i r d die A u s w a h l von n P r o d u k t i o n s s t ü c k e n u n a b h ä n g i g m i t Z u r ü c k l e g e n e i n e r M e n g e von N P r o d u k t i o n s s t ü c k e n , die n a c h m i

2 Merkmalen,

welche

s i c h g e g e n s e i t i g a u s s c h l i e ß e n , v o r g e n o m m e n , so g i b t es N " m ö g l i c h e

Fälle,

die als g l e i c h w a h r s c h e i n l i c h a n g e n o m m e n w e r d e n s o l l e n . Für die A n z a h l F ä l l e , w o k . | - m a l ein P r o d u k t i o n s s t U c k d u k t i o n s s t ü c k mit dem 2. M e r k m a l

m i t d e m 1. M e r k m a l , k ^ - m a l ein k

— ; — - Konstellationen b e s i t z t nach der M u l t i p l i k a t i o n s r e g e l M.^

.. • M*^"^ M ö g l i c h k e i t e n , so daß f ü r die b e t r e f f e n d e ,

, p,

• ... • p

mit p. =

, j = 1

der Pro-

- m a l ein P r o d u k t i o n s s t ü c k m i t m m - t e n M e r k m a l b e o b a c h t e t w i r d , g i l t : Jede d e r ( " ^ K1 K2 Km

T—,,

aus

dem =

M^^-..

Wahrscheinlichkeit

m , M. e N , M

+ ... + M

= N,

k. e IN , j = 1 m , k + ... + k = n, z u t r i f f t . Bei b e l i e b i g e n p. ^ 0 , j = j o ^ 1 m a Kj • j 1 m , m i t p + ... + p = 1 gilt nach d e m M u l t i n o m i a l s a t z ^ V nnl »^l n n _ / . . k. ki!...kml Pl Pm - ( P i ^ - ^ P m ' i=1 m

Dabei e r g i b t schen

sich

Lehrsatzes

der

Multinomialsatz

aufgrund

einer

als

ähnlichen

Verallgemeinerung Argumentation

e r f o l g t e Herleitunq der Einzelwahrscheinlichkeiten — sogenannten

Multinomialverteiiung

mit

den P a r a m e t e r n

des

wie

die

binomisoeben

p ^ ...p n und p^

der p^

(in

Z e i c h e n : 3 W ( n , p ^ , . . . , p ^ ) - V e r t e i l u n g ) . A l s A n w e n d u n g e r h ä l t man b e i m n - m a ligen u n a b h ä n g i g e n W ü r f e l n

mit einem ungefälschten W ü r f e l

s c h e i n l i c h k e i t , daß k ^ - m a l die A u g e n z a h l 1 tritt

^ ,

,

(i)".

für

die

Wahr-

k ^ - m a l die A u g e n z a h l 6

auf-

18

Kapitel 3: Spezielle diskrete

Wahrscheinlichkeitsverteilungen

Neben der nnehrdimensionalen Verallgenneinerung der Binomialverteilung hypergeometrischen schwarzen

Verteilung

ist im Fall einer Urne mit r roten

Kugeln von I n t e r e s s e , wie groß beim unabhängigen

bzw.

bzw. s

Ziehen

mit

Z u r ü c k l e g e n bzw. beim Ziehen ohne Z u r u c k l e g e n die W a h r s c h e i n l i c h k e i t dafür ist, daß k s c h w a r z e Kugeln g e z o g e n werden, bis zum erstenmal r ^ s r rote Kugeln g e z o g e n w o r d e n sind. Beim unabhängigen Ziehen mit Z u r ü c k l e g e n geht k+r

man davon a u s , daß alle ( r + s ) Dann gibt es zu den

° P e r m u t a t i o n e n gleichwahrscheinlich sind. Konstellationen nach der

v e r s c h i e d e n e Möglichkeiten, so daß

Multiplikationsregel

- p)*" mit p =

g e s u c h t e W a h r s c h e i n l i c h k e i t ist. W e g e n

= (-!)''(

die

( der Binomial-

koeffizient ( " ) ist für eine beliebige reelle Zahl a und k e l N ^ als definiert), kann man hierfür auch

k e

q = 1-p, schreiben. Mit Hilfe der binomischen Reihe folgt ^ Z J p'^°(1-q) experiment

=

so daß es sich hier tatsächlich

handelt. Die zugehörige

heißt negative

Binomialverteilung

diskrete

=

um ein d i s k r e t e s

Zufalls-

Wahrscheinlichkeitsverteilung

mit den P a r a m e t e r n r ^ und p; 0 ^ p s 1 und p

nicht notwendig rational (in Zeichen: 3 l ® ( r ^ , p ) - V e r t e i l u n g ) . Im Fall r ^ = 1 spricht man auch von einer geometrischen q = ^

oder Pascal-Verteilung.

mit r ^ -» oo und X > 0 wegen ( °

Aussage (

)p

q

) = ( °

^

Ferner gilt

) die

(1-—)

für

asymptotische

^ ^ ^ e

. kelN^,

so daß in diesem Fall die Einzelwahrscheinlichkeiten der negativen Binomialverteilung gegen die Einzelwahrscheinlichkeiten

der P o i s s o n - V e r t e i l u n g

mit

dem P a r a m e t e r X konvergieren. Geht man für das entsprechende davon aus, daß alle

' o ^

) (r

o

Problem beim

Ziehen

ohne

Zurücklegen

+ k)! Permutationen ohne Wiederholungen

gleichwahrscheinlich sind, so gibt es nach der Multiplikationsregel ( r o''- i

•
R m o n o t o n

durch

die

i s t ein L a p l a c e - E x p e r i m e n t

Existenz

von

k

gekennzeichnet.

G IN

Ist

k } ) ein L a p l a c e - E x p e r i m e n t , d . h. es g i l t p(j) =

und p(j) = 0 f ü r j > k , so f o l g t aus p = ap^ + ( l - a j p ^

fallend},

j = 1

m i t p^ G

und 0 < a < 1 u n m i t t e l b a r p^ = p, j = 1,2. U m g e k e h r t l i e f e r t

mit

nämlich k,

j = 1,2,

im Fall 0 = N

die

E x i s t e n z von k. e IN. j = 1,2, m i t p(1) = ... = p(k^) > p(k^ + 1) = ... = pCk^ + k ^ ) > p(l< +k +1) 1 1 p

i

. . . die E x i s t e n z

= — p.| + 2 ^ 2 '

nämlich

p(k I +k ^ ) - p(k I +k +1)} i p , ( j ) : = p(j) j=l 0 ) . W e g e n s IXI'' + 1 für 0 < r s p e x i s t i e r t mit ECX^) auch E ( X ' " ) . Genauer Ungleichung

von Liapunoff:

(EClXD)^^""

Konvexität von f: (0,oo) -> R , f ( x ) = x " , x > 0, a ^ 1, mit a folgenden S p e z i a l f a l l der J e n s e n s c h e n Ungleichung E(|X'"|P'''") ä ergibt.

gilt

die sich wegen r

aus

iXT die der dem

(EdxT))'"'''

44

Kapitel 6: Mittelwert und Streuung

Für die Laplace-Verteilung über ß = {x^

x^) mit x. G R, j = 1

sich das arithmetische

als

Mittel

n

speziell bei den x. um Zuwächse a. die a., j = 1

Mittelwert.

n, ergab

Handelt

es

sich

+ a^, j = 1,...,n, mit a^ == 0, so können

n, als Änderungen und

als durchschnittliche Ände-

rung aufgefaßt werden. Bei prozentualen Änderungen wie etwa bei Verzinsung eines Kapitals K mit Zinsfuß p. im j - t e n Jahr, j = 1 j - t e n Jahr als Kapital K(1 + p^) • ... • (1 + p.), j = 1

n, erhält man im

n, so daß das arithme-

tische Mittel nicht mehr als Maß für eine durchschnittliche prozentuale Änderung sinnvoll ist. Die prozentualen Änderungen betragen nämlichl + p ^ . l + p ^ , - . ... I + P^. so daß ein Faktor f als Maß für die durchschnittliche

prozentuale

Änderung zu bestimmten ist mit f • ... - f = f " = (1 + p^) •... • (1 + p^), d. h. f = "i/(1 + p.|) •... • (1+

(geometrisches

Mittel).

Sind x., j = 1

n. positive

reelle Zahlen, so gilt die folgende Ungleichung zwischen arithmetischem und geometrischem Mittel: "Vx^ • ... • x^ s —von f : (O.oo) ^ R, f(x) =

X

, die sich aus der Konvexität

x > 0, wegen f ( i l i l l Lnl I i ^ ) ^ 1n (f (x 1) + ...+f(xn )) ^

ergibt. Eine wichtige Rechenregel für Erwartungswerte reellwertiger stellt

die Linearität

X.: O

R, j = 1

Zufallsgrößen

dar: E(« 1X1 +... + an Xn ) = a1F ( 1X ) + ... + «n E(Xn ), wobei n, reell wert ige Zufallsgrößen mit existierendem Erwartungs-

wert sind, und a.J e R, 'i = 1

n. Zum Beweis braucht nur der Fall n = 2 und

wegen E(a^X^) = a^E(X^) nur der Fall

~ eOp 1 2 üieOp 1 uEOp 2 1 2 wenn man beachtet, daß wegen der absoluten bei Konvergenz der betreffenden unendlichen Reihen beliebige Vertauschungen der Summation erlaubt sind. Bevor die Linearität des Erwartungswertes zur konkreten Bestimmung von Mittelwerten spezieller Verteilungen angewendet wird, soll diese Eigenschaft für eine mehr theoretische Anwendung, nämlich zur Herleitung der chy-Schwarzschen

Cau-

Ungleichung dienen. Zu diesem Zweck seien X^ und X^

zwei reellwertige Zufallsgrößen mit existierendem zweiten Moment, so daß auch E((X^ + XXg)^) wegen (X^ + XX^)^ s 2(X^ + (XX^)^) für jedes X G R existiert. Ferner gilt aufgrund der Linearität des Erwartungswertes E((X, XX^)^) = E ( x f ) + 2XE(X X.,) + X ^ E ( X | ) , wobei X = -E(X X.,)/E(X?) die 1 2 1 12 2 o _ 1 2 2 Minimalstelle der quadratischen Funktion in X ist. falls E(X_) > 0 z u t r i f f t . In (E(XX )) diesem Fall gilt also E((X 1 +X o X 2. , ) ^ ) = E ( x f1) — i O und damit E(X|) E(X^) • E ( X | ) i (E(X^X^))^. Im Fall E ( x | ) = 0 gilt P i X ' ^ ( { 0 } ) ) = 1 und damit

6 Mittelwert

E(X^X2) = 0 , so daß e b e n f a l l s Ungleichung)

richtig

und S t r e u u n g

45

ä {EiX^X^))^

(Cauchy-Schwarzsche

ist.

Die C a u c h y - S c h w a r z s c h e U n g l e i c h u n g i s t ein S p e z i a l f a l l der U n g l e i c h u n g

von

Holder EdX^X^I)

mit

^ E^^^dX^I^)dX^l")

existierendem E ( X p

b z w . E ( X ^ ) , p > 1. -

für

ZufallsgröBen

X., j = 1,2,

+ -

= 1. Man k a n n die

Höldersche

U n g l e i c h u n g f o l g e n d e r m a ß e n m i t H i l f e der U n g l e i c h u n g von J e n s e n w e n n man b e a c h t e t , daß die U n g l e i c h u n g von H o l d e r E((

/

beweisen,

mit

ä q u i v a l e n t i s t , f a l l s E(IX.I) > 0 . j = 1,2,

z u t r i f f t , w o b e i im Fall E(IX^I) = 0 b z w . E d X ^ D = 0 n i c h t s zu b e w e i s e n i s t . F ü h r t ^ IXpCüj)!"^ man s c h l i e ß l i c h n o c h die V e r t e i l u n g P gemäß P({(i)}) ^ P({u}), EdXjl'') m i t P als u r s p r ü n g l i c h e V e r t e i l u n g Uber Q e i n , und b e z e i c h n e t

ueO,

schließlich E

den E r w a r t u n g s w e r t b e z ü g l i c h P . so i s t die U n g l e i c h u n g von H o l d e r g l e i c h w e r t i g mit E((

I^ Ip

iX Die U n g l e i c h u n g von J e n s e n l i e f e r t s c h l i e ß l i c h

E(IXi|P EdXgl'^) ^ ( ( IXi|P IXpl'' l/r, E /, - — E(IXilP) EClXgl'')

-^l/r.

IXl|P / , IXol'' E(IXi|P) E(IX2l'') IxilP Ixpl''

ECX^X^) a u f g r u n d d e r U n g l e i c h u n g

—^—

kann a b e r a u c h e i n f a c h a u f die E x i s t e n z

existiert

+—|—.

von ECX^X^)

x.eR, j=1,2.

schließen, wenn

Man man

b e a c h t e t , daß f ü r eine r e e l l w e r t i g e Z u f a l l s g r ö ß e X g i l t lim uS S O n | X ( ( d ) | P ( { u } ) , m i t X n : = X L {, |^X, | s n ,}, n-»oo E O p IX n ( w ) | P ( { u } ) = u E Eine w e i t e r e A n w e n d u n g d e r

Linearität

des

Erwartungswertes

w e n n man b e a c h t e t , daß die T r e f f e r z a h l in e i n e m n - f a c h e n ment

mit

Trefferwahrscheinlichkeit

p durch

eine

neN. erhält

man,

Bernoulli-Experi-

I8(n,p)-verteilte

g r ö ß e X b e s c h r i e b e n w e r d e n k a n n , die w i e d e r u m die D a r s t e l l u n g X = b e s i t z t , w o b e i d i e Z u f a l l s g r ö ß e X , den j - t e n E i n z e l v e r s u c h , j = 1

Zufalls+

+ X^

n, b e s c h r e i b t ,

a l s o 3 5 ( 1 , p ) - v e r t e i l t i s t . Für e i n e n I n d i k a t o r e r g a b s i c h a b e r als E r w a r t u n g s w e r t die

Wahrscheinlichkeit

E ( X j ) = p, j = 1

des

betreffenden

Ereignisses,

so

daß

sich

n, e r g i b t , w o r a u s n o c h m a l s das b e r e i t s b e k a n n t e

E(X) = np r e s u l t i e r t .

n —^

rote

Kugeln b e i m n - m a l i g e n u n a b h ä n g i g e n Z i e h e n m i t Z u r ü c k l e g e n aus e i n e r

Urne

^

Insbesondere

erhält

man d u r c h s c h n i t t l i c h

hier

Ergebnis r + s

m i t r r o t e n und s s c h w a r z e n K u g e l n . Da b e i m n - m a l i g e n Z i e h e n o h n e Z u r ü c k l e g e n aus e i n e r U r n e m i t r r o t e n und s s c h w a r z e n Kugeln die j e w e i l i g e n X j , die den j - t e n Z u g , j = 1

n, b e s c h r e i b e n , e b e n f a l l s

Zufallsgrößen

®(1,p)-verteilt

sind

mit p = — ^ , e r h ä l t man auch h i e r f ü r die d u r c h s c h n i t t l i c h e A n z a h l d e r r o t e n r + s g e z o g e n e n Kugeln n

•

46

K a p i t e l 6 : M i t t e l w e r t und S t r e u u n g

Die L i n e a r i t ä t des E r w a r t u n g s w e r t e s e r l a u b t f e r n e r eine b e s o n d e r s

einfache

H e r l e i t u n g der S i e b f o r m e l von P o i n c a r e und S y l v e s t e r .

Beispiel (Siebformel

= 1+

Z (-1)'^

von Sylvester

Z

und

U , •...•1A,

Poincare')

=1-^

^ (-1)

^

'A, n

NA, .

w o r a u s w e g e n der L i n e a r i t ä t des E r w a r t u n g s w e r t e s E d - X) = 1 - E ( X ) = 1 - P( U A) = 1 + Z ( - 1 ) ' ' , . Z P ( A , n . . . n A , ) und d a m i t die S i e b f o r m e l i= 1 k =1 1 0 gilt. Der Fall V a r ( X ) = 0 ist

mit P ( { u 6 O: X ( u ) = E(X)}) = 1 a l s o mit P^ =

dabei

gleichwertig. Man

kann

aber die a u f t r e t e n d e D i f f e r e n z z w i s c h e n Var(X^+X2) und Var(X^) + V a r ( X 2 ) leicht a n g e b e n . E s gilt: V a r ( I X.) = S V a r ( X . ) + 2 Z Kov{X,.X,) mit ^ ^ i=1 i i= 1 i 1ii

ÜJ (N)

!im_ =

V kl ' k2 ••• km _ kjl^^ (TT^^ J= 1 m 1 m LT iv V \ - kA Kov(X^,X2)M ^ t.A M ^ ^n(n-1) ^ f t ^ - n „ 2 — — - _ - „ n^ 1—"^2 ^ .>,

..

n(n-1) TJÜTT) •

, n(n-1)

„

6 Mittelwert und Streuung

51

In beiden Beispielen sind also die betrachteten Kovarianzen negativ. Bei monotonen Abbildungen sind die entsprechenden Kovarianzen dagegen nicht negativ, wie das folgende Beispiel zeigt. Beispiel (Kovarianzen

für monotone

Transformationen

Es sei P eine diskrete Verteilung über O, X: O

einer

ZufallsgröBe)

R , X^: = f^ o X mit f^ monoton

wachsend (bzw. monoton fallend), j = 1,2, und mit existierenden E(X.), j = 1,2, sowie ECX^X^). Dann gilt KovIX^.X^)

0, denn aus (X^(u^) - X^Cu^))(X^(u^) -

i 0, u, G R . j = 1,2, folgt I ( X , ( u J - X A ( o J ) { X A L i J j ' = tOjEflp 1 1 1 2 2 1 2 2 J = 1.2 resultif P ( { u ^ } ) P ( { u 2 } ) ^ 0 . Hieraus resultiert 2(E(X^X2) - E(X^)E(X2)) ^ 0 und damit die Behauptung. 2

2

Als eine weitere Anwendung der Gleichung von Bienayme soll nun die S t r e u ung der Verteilung für die Anzahl der Fixpunkte von Permutationen von n Objekten bestimmt werden. Dabei ist zu beachten, daß für die Varianz eines Indikators

gilt V a r ( l ^ ) = E ( l ^ ) -

Beispiel (Streuung

der Verteilung

= PCAjPCA^).

für die Anzaiil

der Fixpunl, i = 1 1 n 1 n J I i ' r e i t s g e z e i g t w o r d e n i s t , daß d i e s m i t der s t o c h a s t i s c h e n der E r e i g n i s s e A^

A^

(unter

P) ä q u i v a l e n t

n, w o b e i

be-

Unabhängigkeit

i s t . Dabei i s t d e r B e g r i f f

des

d i r e k t e n P r o d u k t s von d i s k r e t e n V e r t e i l u n g e n ein g e e i g n e t e s H i l f s m i t t e l ,

um

die E x i s t e n z von Z u a l l s g r ö ß e n X^

P^

Uber

a n z u g e b e n , die

X^ m i t v o r g e g e b e n e r V e r t e i l u n g P^ unter

einer

zu b e s t i m m e n d e n

Verteilung

ü b e r O s t o c h a s t i s c h u n a b h ä n g i g s i n d . Für O k a n n man n ä m l i c h das

P

kartesi-

s c h e P r o d u k t n .I x ...nX O und f ü r P das d i r e k t e P r o d u k t P ® . . I. ® P n w ä h l e n . Dann s i n d die X, als P r o j e k t i o n e n von O a u f 0 , d. h. X ( u u )!=(i) f ü r J

alle ( u , 1

u

J

) e O X ... X O , j = 1 n

1

n. w e g e n P ^ '

n

leer

mit

IQ^I > 1, j = 1

1

n

= P^^®

j

P^"

^

s t o c h a s t i s c h u n a b h ä n g i g und es g i l t P^' = P., j = 1 lich und n i c h t

J

n. I s t s p e z i e l l O. e n d -

n, und b e z e i c h n e t

P^ die

Laplace-

54

Kapitel 6: M i t t e l w e r t

V e r t e i l u n g Uber

und S t r e u u n g

j = 1,...,n, s o w i e B^ 6 ^P(Oj) mit 1 s |Bj| == r^ < lO^I, j = 1

so s t e l l e n die Mengen A^— n^ x ... x

fi.

dar m i t lA,^ n ... n

• ... •

= |n|/

x B. x O.^^ x ... x . 1 s

0== O , X ... X O , w o b e i A. i { 0 , O > , j = 1 I n j '

j =1

n,

n, E r e i g n i s s e

< ... < i^ s n,

Isksn,

n, z u t r i f f t . B e z e i c h n e t nun P die

L a p l a c e - V e r t e i l u n g Uber n , d. h. P = P^ (8 ... ® P ^ , so h a n d e l t es s i c h den A j , j = 1

bei

n, um u n t e r P s t o c h a s t l s c h unabhängige E r e i g n i s s e , die n i c h t

t r i v i a l s i n d , d. h. es t r i f f t A ^ i { 0 , 0 } , j = 1

n, z u . i s t nun O' eine endliche

M e n g e , d e r e n M ä c h t i g k e i t | 0 ' | F a k t o r e n f . > 1. j = 1

n. b e s i t z t (d. h. | 0 ' | =

so gibt es n i c h t t r i v i a l e E r e i g n i s s e A'^ (d. h. A'^^ { 0 , 0 ' } ) , 1 = 1 mit |AV n ... n A',, I = | 0 ' | '1' ' k» R möglich ist. Für B ^ ( f ) gemäß B ^ ( f ) ( p ) =

[ f ( ^ ) ( ; ^ ) ] p'^q""'". q = 1 - p ,

( [ x ] : = s u p { y 6 Z : y i x » gilt nämlich | B ^ ( f ) - B ^ ( f ) | s M ( p " + ( 1 - p ) " ) i M ( b " + (1-a)") + 1 n

k =1

= 1 (J^l]) i 1 für k = 1

^ M ( b " + ( 1 - a ) " ) + 1 , wenn man 1 ( " ) =

k

n

n

k

n - l , b e a c h t e t . Dabei folgt (J^l]) ^ k aus der T a t s a c h e ,

daß man zu einer f e s t e n ( k - l ) - e l e m e n t i g e n Teilmenge einer

(n-l)-elementigen

Menge jedes

(n-k)-elementigen

der

k-1 E l e m e n t e

durch

ein

Element

der

R e s t m e n g e e r s e t z t , so daß (J^I^) i n - k + 1 und damit ([^I^) = zutrifft.

Man kann übrigens

lediglich unter

Verwendung

den Approximationssatz der

Streuung

np(l-p)

) ^ n-l-(n-k) + 1 = k

von W e i e r s t r a ß

einer

auch

35(n,p)-Verteilung

beweisen, wenn man zu f : [ 0 , 1 ] -> R den sogenannten S t e t i g k e i t s m o d u l 11^.(8): = sup { | f ( p , ) - f ( P 2 ) l : Pj e v(p^,p2.8)! =

j = 1-2. I P i - P g l ^ S}, 8 > 0, b e t r a c h t e t . Mit

gilt nämlich

If(p^) - f l p g ) ! ^ (1 + v(p^,p2.8))n^(8)

- p^l ^ 8(1 + v(p^,p2.8)). w o r a u s für p. e

[ 0 , 1 ] , j = 1.2, r e s u l t i e r t .

Die

letzte Ungleichung liefert für |f - B ( f ) | an der S t e l l e p G [ 0 . 1 ] die obere S c h r a n k e n,(8) T

Z

k =0

(1 + v ( p . - ' i . 8 ) ) ( " ) p ' ' ( 1 - p ) " ~ ' ' ^ n J 8 ) ( 1 + n

t

w o r a u s für 8= = n"''^^ folgt |f - B ^ ( f ) | s |

I

k =0

^

gleichmäßig in p e [ 0 , 1 ] . Ist

nun f: [ 0 , 1 ] X [ 0 , 1 ] -> R eine s t e t i g e Funktion, so wird man diese durch B^ gemäß k-ko n-k^-k.^ kl

kp

n!pi

1

k f l k , l ( n - k f - k , ) . j= 1.2

ki +k2 sn

2

6 Mittelwert und S t r e u u n g

(p^.p^) G [ 0 , 1 ] X C0,1] mit

59

^ ^ gleichmäßig approximieren. Wählt

man

nämlich zu e > 0 ein 5 > 0 mit der E i g e n s c h a f t , daß |f(p^,p2)-f(p!,.p2)l < e ^^ür Ip.-pjl < 8, j = 1,2 zutrifft, s o liefert die T s c h e b y c h e f f s e h e Ungleichung für |f- B^l an der Stelle (p^.p^) G [0,1] x C0,1] mit P, + P2 ^ ^ obere S c h r a n k e PfCI —p-i) wenn man beachtet, daß die e r s t e n beiden eindimensionalen

Randverteilungen

einer iBl(n,p^,p2,1-p^-P2)~Verteilung

weils eine 35(n,p^)- bzw. ® ( n , p 2 ) - V e r t e i l u n g sind. Dieselbe obere erhält man für eine stetige Funktion f: [0,1] x [0,1] gemäß

= ^

ft^f

j j (k^P^I-Pj'""'^-

je-

Schranke

R , wenn man

B^

( P r P ^ ) ^ [0.1] x [0,1]

1=1.2 einführt. Damit erhält man schließlich e + — ^ als obere S c h r a n k e . s2n Abschließend sei darauf hingewiesen, daß der von B e r n s t e i n s t a m m e n d e

Be-

weis für den W e i e r s t r a ß s c h e n A p p r o x i m a t i o n s s a t z für eine stetige Funktion f: [0,1]-» R 1912/13 publiziert w o r d e n ist. Bevor als weitere Anwendung der Ungleichung von T s c h e b y c h e f f wahrscheinlichkeit noch der

Begriff

von des

Versicherungsgesellschaften elementaren

Begriff der momenterzeugenden

bedingten

Funktion

berechnet

die

Ruin-

wird,

Erwartungswertes

soll

sowie

der

erläutert w e r d e n , da beide Begriffe

im engen Z u s a m m e n h a n g mit dieser A n w e n d u n g stehen. E s ist bereits behandelt worden, daß durch A ^ P(A|B), A G

mit P als d i s k r e t e r Verteilung Uber

O und P(B) > 0 eine diskrete Verteilung Uber O definiert wird. Ist nun X : O

R

eine reellwertige Z u f a l l s g r ö ß e , deren E r w a r t u n g s w e r t bezüglich dieser d i s k r e t e n Verteilung e x i s t i e r t , s o heißt dieser elementarer unter der Bedingung

bedingter

Erwartungswert

B (in Zeichen E(X|B) oder Ep(X|B). falls die Abhängigkeit

von P zum A u s d r u c k gebracht werden soll). E s gilt offenbar E(X|B) = E ( X L ) / P ( B ) . tx Ist X: O -» R eine reellwertige Z u f a l l s g r ö ß e , s o daß E(e ) für t aus einer Umgebung ( - a . a ) (a > 0) des Nullpunktes e x i s t i e r t , so heißt t E ( e * ^ ) erzeugende

Funktion

moment-

von X (unter P). da man mit Hilfe einer Taylorentwicklung

der e - F u n k t i o n die Reihendarstellung

=

^

ECX^) für

te(-a.a)

beweisen kann. Dies wird aber im folgenden nicht benutzt. V e r w e n d e t lediglich, — R X daß aus der Annahme der E x i s t e n z einer reellen Zahl R > 0 E(e

wird mit

) = 1 folgt E ( X ) aO, w a s man unmittelbar mit Hilfe der Ungleichung von

J e n s e n gemäß 1 =

^ e ' " ^ ^ ' ^ ' einsieht, wobei die E x i s t e n z von E ( X ) aus

e * i 1 + x für X 6 R resultiert. M a n muß lediglich die Ungleichung e*^^ + e " * ^ i e * ' ' ^ ' für t G (O.a) beachten. Nun sind alle V o r b e r e i t u n g e n angekündigten Beispiels

zur Behandlung

getroffen w o r d e n , wobei für reellwertige

des

Zufalls-

größen X: O ^ R K u r z s c h r e i b w e i s e n wie z. B. {X s x}: = { u G O: X ( u ) s x}. {X < x } ! = {(0 G O: X ( u ) < x}. X G R U (oo) h e r a n g e z o g e n werden.

60

Kapitel 6 : M i t t e l w e r t und S t r e u u n g

Beispiel

(Ruinwahrscheinlichkeit

von

Versicherungsgesellschaften)

Es bezeichne a (i; 0) das A n f a n g s k a p i t a l einer V e r s i c h e r u n g s g e s e l l s c h a f t und die r e e l l w e r t i g e n Z u f a l l s g r ö ß e n G. den Gewinn im j - t e n J a h r , so daß K^ = a+

das Kapital im n - t e n Jahr i s t . Es w i r d angenommen, daß fUr

jedes n 6 IN die Z u f a l l s g r ö ß e n G^.G^

G^ s t o c h a s t i s c h

unabhängig

(unter

P) sind und P*^^ = P*^^ = ... = P*^" g i l t , wobei p'^^ keine D i r a c - V e r t e i l u n g sein soll. Ferner w i r d die Existenz von sowie

angenommen,

daß E(e

f ü r t 6 ( - b , b ) (b > 0) v o r a u s g e s e t z t , = 1 für

ein R > 0

gilt.

Bezeichnet

nun

N = Inf {n e IN: K

< 0> den Z e i t p u n k t des Ruins, so w i r d durch K„, eine n N r e e l l w e r t i g e Z u f a l l s g r ö ß e b e s c h r i e b e n , f ü r die gezeigt w e r d e n soll, daß die R u i n w a h r s c h e i n l i c h k e i t P({Nn}

3

3

s

{N>n}n{K " wegen e K"^ i^ 01 ,+ falls . Dabei = E(G.|) und o^ wegen x + ^ N >f ünr gxi^l tO und ist ^ ii+ e , t=e V( 0a r, (bG) ^, ) , ewobei x i s t i e r tE(G^) und 2 G1 o > 0 g i l t , da ausgeschlossen w o r d e n i s t , daß P eine D i r a c V e r t e i l u n g i s Schließlich f o l g t aus der Ungleichung von T s c h e b y c h e f f P({K s a + n^ + o ^ n ^ " 't^. } ) ~RK ^ ( 2°2/3)2 damit f ü r n ^ o o wegen ( ü O die Beziehung ^[m E(e insbesondere lehrt diese Berechnung der Ruinwahrscheinlichkeit

P({N < oo}),

daß die B e t r a c h t u n g e n jeweils nur bis zum Z e i t p u n k t n d u r c h g e f ü h r t brauchen mit einem anschließenden Grenzübergang f ü r n

werden

oo. Ähnlich

ist

auch bei der Ruinwahrscheinlichkeit eines Spielers a r g u m e n t i e r t w o r d e n , um im Bereich d i s k r e t e r V e r t e i l u n g e n zu bleiben. Es ist nämlich zu daß bei der Existenz von s t o c h a s t i s c h unabhängigen

Zufallsgrößen

beachten,

6 Mittelwert

nnit v o r g e g e b e n e n P als

direktes

diskreten

Produkt

und S t r e u u n g

Verteilungen

P^ ®

. . . ) , j = 1,2 ^

I

OD

so

'

^

b e s t e h t O a u s d e r V e r e i n i g u n g a l l e r M e n g e n d e s T y p s .O^Bj m i t B^ = C^ o d e r C^ , j = 1 , 2 , . . . , s o daß e s e i n e M e n g e d i e s e r

Art

mit

positiver

Wahrscheinlichkeit

g e b e n m u ß , da P d i s k r e t i s t . D i s k r e t e V e r t e i l u n g e n P Uber e i n e r M e n g e O h a b e n f e r n e r d i e E i g e n s c h a f t , daß a u s A^ D A ^ 3 ... m i t A^ e ^ ( C l ) . j = 1,2 l i m P ( A ) = P( n A . ) (Stetigkeit n-»oo n j=1 J

von oben),

W e g e n P( n B,) > 0 u n d 0 < P ( B , ) < 1, j = 1.2 ^ j=i i J ' = E £ n P ( B . ) < 00 u n d d a m i t j=1 J P ^ U { a } ) e { 0 , 1 } . Es bleibt von d i s k r e t e n Stetigkeit ^

Verteilungen

von

unten

A j 6 ^ ( O ) , j = 1,2

f o l g t h i e r a u s -co < £ n P( 0 B,) ^ j=i J

lim « n P(B,) = 0 , also der j^oo j

nur

n o c h die E i g e n s c h a f t

Widerspruch

der

Stetigkeit

P Uber O zu b e w e i s e n , die m i t

gemäß ^

lim

äquivalent

P(A

CO

) = P( U A , ) f ü r n j= 1 J

A

der

von

oben

sogenannten

C A „ C ... 1 2

mit

i s t . Der B e w e i s d i e s e r E i g e n s c h a f t läßt s i c h auf

f o l g e n d e e i n f a c h e H i l f s a u s s a g e z u r ü c k f ü h r e n : Es s e i ( a p ^ ) ^ ^ ^ ^ wachsende

folgt

w o r a u s P( n B.) = l i m P( n B,) f o l g t . j=1 ) n-»oo j=1 i

eine m o n o t o n

n e g a t i v e n r e e l l e n Z a h l e n mit Ilm a , = a für k-»oo nk n oo C30 N jedes nGlN. Dann gilt lim Z a , = I a . D i e s f o l g t a u s SUD SUD Z a, = ' ^ k-»oo n = 1 nk n = 1 n k e W N S N n= 1 kn N N N OD SUD SUD I a, = SUD I SUD a, = sup Z a = I a und N e N k e N n = 1 kn N e N n=1 k e N kn neIn n=1 n n=1 n N OD oo sup sup I a, = sup Z a, = lim Z a, . i n s b e s o n d e r e i s t d u r c h d i e keN

N6N

obige

Folge von nicht

n= 1 kn

Hilfsaussage

wartungswerte

keN noch

n=1 der

kn

k-»oD n = 1

Satz

von

der

kn monotonen

Konvergenz

b e w i e s e n w o r d e n : X ^ : O -» R , n G IN, m i t

für

u 6 O, i m p l i z i e r t f ü r j e d e d i s k r e t e V e r t e i l u n g P ü b e r O die ( m o n o t o n e ) v e r g e n z von Z X^(a))P({(i)}) g e g e n Z .su^ X . ( ( i ) ) P ( { u } ) der

Stetigkeit

von u n t e n von d i s k r e t e n k = 1,2

Dann ist die H i l f s a u s s a g e und es gilt d a h e r ^

Z a , = n = 1 nk

Verteilungen

n 6 IN, m i t

mit

für

Er-

£ X^Cu) ^

n-»oo. Z u m

P über

O setzt

als T r ä g e r

l i m a nk = a n — P ( { u n } ) l °^U^ ° A , j ( u n) k-»oo

....

Kon-

Nachweis man

O p von

anwendbar

Z P({(o }) = P ( A , ) - » Z a ^ P( U A ) . oj^EOpnA^ n k n=1 n j=i j

P.

62

K a p i t e l 6 : M i t t e l w e r t und S t r e u u n g

Eine A n w e n d u n g der S t e t i g k e i t von oben von d i s k r e t e n V e r t e i l u n g e n P Uber O e r h ä l t man m i t P({w e O: X ( u )

s x }) ^ P ( { u e O: X(ü)) s x } ) f ü r eine n m o n o t o n f a l l e n d e Folge (x ) r e e l l e r Zahlen m i t x = inf x , w o b e i X : n - > I R ^ n neiN nGIN n eine r e e l l w e r t i g e

Zufallsgröße

i s t . Dies f o l g t s o f o r t

d a r a u s , daß die

der Mengen { u e O: X(a)) ä x n }, n 6 IN, a n t i t o n i s t m i t ^

Folge

D { u e O: X(g)) s x n } nelN

= {(0 6 O : X(g)) ä x } . Dabei heißt F ^ m i t F ^ ( x ) : = P ( { u E O : X ( u ) ^ x } ) . x 6 R , von X ( u n t e r P ) . FUr den Fall, daß der T r ä g e r von P ^ in

Verteilungsfunktion

der G e s t a l t ^^ < >-oo lim F ^ ( x ) = O u n d x-»oo lim F ^ ( x ) = 1. Als

eine

weitere

schwache

Gesetz

Anwendung

der

der

Zahlen

1774 v e r ö f f e n t l i c h t Zufallsgrößen X, i

großen

worden n

X

ist

Ungleichung

und

von

von Bernoulli wonach

für

Tschebycheff behandelt

stochastisch

soll

das

werden,

daß

unabhängige

u n t e r e i n e r d i s k r e t e n V e r t e i l u n g P m i t P^'' = ... = P ^ " n

und P ^ als ; ß ( 1 , p ) - V e r t e i l u n g die relative

Häufigkeit

— - — f ü r die A n z a h l von

T r e f f e r n in e i n e m B e r n o u l l i - E x p e r i m e n t vom U m f a n g n im f o l g e n d e n Sinn g e gen die T r e f f e r w a h r s c h e i n l i c h k e i t p k o n v e r g i e r t :

Beispiel (Schwaches Für

unter

g r ö ß e n X^

einer

Gesetz

diskreten

der

großen

Verteilung

Zahlen

von

P stochastisch

Bernoulli) unabhängige

Zufalls-

X^ m i t P^i = ... = P^" und P^^ als » ( 1 , p ) - V e r t e i l u n g gilt Z X|(üj)

lim P ( { u G n-»oo

"

-p|iE})=0

f ü r jedes e > 0. n

Z u m Beweis b e a c h t e t man, daß V a r

=

£ Var(X,) ri-^ 1 = 1 _ I Z X|(co) a u f g r u n d der U n g l e i c h u n g von T s c h e b y c h e f f P({ 0 . Dabei kann man die s t o c h a s t i s c h e Unabhängigkeit der X^, j = 1

n.

noch d u r c h die p a a r w e i s e s t o c h a s t i s c h e Unabhängigkeit e r s e t z e n . Es ist ü b lich, die E i g e n s c h a f t P^^ = ... = P^" als identische

^

Verteiltheit

(unter P) zu bezeichnen. Zusammen mit der s t o c h a s t i s c h e n von X^

von X

I

von u

e

0

als

n-maliger

Wiederholung

einer

n

Unabhängigkeit

X^ ( u n t e r P) kann man bei I n t e r p r e t a t i o n von X^(u)

Beobachtung

X

bei physikalischen

Messung von der R e p r o d u z i e r b a r k e i t des E x p e r i m e n t s s p r e c h e n . Beim n - m a l i g e n , unabhängigen, zufälligen Raten einer P e r m u t a t i o n von (1

n

m)

stellt — die d u r c h s c h n i t t l i c h e Anzahl der Übereinstimmungen d a r , wobei X^ X^ s t o c h a s t i s c h unabhängig und identisch v e r t e i l t sind mit P ^ als R e n c o n t r e - P r o b l e m - V e r t e i l u n g , so daß insbesondere E(X.|) = 1 und daher —pj

1 f ü r großes n i s t .

Als w e i t e r e Anwendung der Ungleichung von T s c h e b y c h e f f soll die s t o c h a s t i s c h e Konvergenz der relativen Häufigkeit nicht l e e r e r Urnen bei z u f ä l l i g e r V e r t e i l u n g von m Kugeln auf k Urnen bewiesen w e r d e n . Beispiel (Stochastische

Konvergenz

nen bei zufälliger

Verteilung

der relativen

Häufigkeit

von m Kugeln auf k

Im Zusammenhang mit dem Beispiel, die Bestimmung der Anzahl k(1 - ( 1 -

k

nicht

leerer

Ur-

Urnen) durchschnittlichen

nicht l e e r e r Urnen b e t r e f f e n d , ist b e r e i t s

bewiesen

w o r d e n , daß die W a h r s c h e i n l i c h k e i t d a f ü r , daß genau £ Urnen nicht leer sind, -^(e)

E

- v ) " ^ , £ = 0,1

k. b e t r ä g t . Bezeichnet X,

die zuge-

64

Kapitel 6: M i t t e l w e r t

und

Streuung

h ö r i g e Z u f a l l s g r ö ß e n i c h t l e e r e r U r n e n , so g i l t f ü r die V a r i a n z von X^^ ^ Beziehung

Var(X,

^

p

^ m

)=

k . m

(«)= i

v = 0

E

e(e-1)('l)p

£ = 2

*

- v ) " " , £ =0.1

^

) =

k . m

(£=2 I

. m

(

| 0 die

E

,

, '' V2tc

f -00

noch f ü r

Ferner

also

x^-^

e""^^^T -0° ungerades

= 0 = l i m ECZ;") f U r u n g e r a d e s n^oo " 2®-s!

stochastisch

= lim E i Z ' ) n->oo "

diskreten

gröBen

an d e r

r G IN

für

berücksichtigt.

unabhängige

und i d e n t i s c h

ver-

X ^ m i t e x i s t i e r e n d e m E(X!^) f ü r j e d e s r G IN u n d

Aussage:

£ Xi-nE(Xi) (1;^ ^

,,

CO o f x^e-x^/^dx

für

Verteilung wird klassischen

insbesondere

Aussage

für

man,

lim E ( Z ° ) = n-» 00 "

alle r G N

.

Die B e d e u t u n g d e r V e r t e i l u n g s f u n k t i o n e i n e r r e e l l w e r t i g e n Z u f a l l s g r ö ß e einer

von

Ungleichung

f .r^-x^/^dx = -00 VZtc

x^e-'^^^2dx = (2s-1)(2s-3)-...-1=

liefert

und

lim g(x) = 0 e r g i b t . Damit erhält X->00

lim ( f ( x ) + g(x)) X-» 00

t e i l t e Z u f a l l s g r ö ß e n X^

lim

die

und f x ^ e ' ^ ^ ^ ^ ^ j ^ , _ J x ^ e ' ' ' ^ ^ ^ ^ ^ O -00

F -00

dv

ist f ( x ) + g(x) = f ( 0 ) + g ( 0 ) ,

r = 2 s , s G IN, w e n n m a n d e n e r s t e n B e w e i s s c h r i t t Der

2

z u t r i f f t , die A b l e i t u n g

f ü r 0 ^ t s 1 und x e R

o

T -OD

r 6 IN e r g i b t s i c h ^ und

also I h U ^

1 _ 2 _ 2 J e " dt = e , woraus O

fe-^^/^dx. -00

^XZL •/27t

e "

< '> I

+

folgt aus 0 ^ ^ t ^ t i

= ^ V2n

_ 2 " /

Für

^^ ^

alle t e C O . I ] ,

x e R , also f ( 0 ) + g ( 0 ) = lim

schließlich

x 6 R betrachtet.

o

Integranden gebildet w e r d e n d a r f . Daher

Oiq(x)ä

Hilfsfunktionen

wobei w e g e n I

|h(t^+1)|s1 für

g am

dx = — - / 2 t i 2 y2

o

v= 2 falls

2

f e"* o

sich f'(x) = 2 e

f^ +l

werden.

ist

2

dx = J e " " o

gezeigt o ^ ^

binomialverteilte

des G r e n z w e r t s a t z e s

von

unter

Zufalls-

Laplace

und

6 M i t t e l w e r t und S t r e u u n g

67

de M o i v r e d e u t l i c h , w o b e i a l l e r d i n g s f ü r großes n eine A p p r o x i m a t i o n eine s o g e n a n n t e Normal-

stetige Verteilung stattfindet,

( G a u ß - ) Verteilung

nämlich

die

durch

standardisierte

m i t d e r V e r t e i l u n g s f u n k t i o n 4> gemäß i s t m o n o t o n w a c h s e n d und s t e t i g m i t

T Stt ~ca der E i g e n s c h a f t lim

$ ( x ) = 0 und

lim $ ( x ) = 1).

Sind nun X.: O - > R , j = 1.2, r e e l l w e r t i g e Z u f a l l s g r ö ß e n und i s t P eine d i s k r e t e V e r t e i l u n g Uber O , so s a g t m a n , daß X^ ( u n t e r P) stochastisch ist,

w e n n

1 -

F ^ ^ ( x )

i

1

-

f

u

größer

als X ^

j e d e s x e R z u t r i f f t , also

r

P ( { o e O: X ^ ( u ) > x » S P ( { u e O: X 2 ( u ) > X » f ü r j e d e s x e R g i l t . Bei f e s t e m P a r a m e t e r w e r t p b z w . n von ® ( n . p ) - v e r t e i l t e n Z u f a l l s g r ö ß e n b e s t e h t in n 6 IN b z w . in p e [ 0 . 1 ] eine e i n f a c h e B e z i e h u n g , die s t o c h a s t i s c h e O r d n u n g b e t r e f f e n d :

Beispiel (Stochastische

Ordnung

bei 16(n,p)-verteilten

Zufallsgrößen)

Es w i r d z u n ä c h s t d e r P a r a m e t e r p f e s t g e h a l t e n und g e z e i g t Z k=0

i

!8(n,p)-verteilte

I ( r ' ) p ' ' ( 1 - p ) " " ' ' für jedes m 6 (0 K=0

Zufallsgröße ist stochastisch

n}. d. h. eine

g r ö ß e r als eine

!8(n'.p)-ver-

t e i l t e Z u f a l l s g r ö ß e , f a l l s n' s n g i l t . Z u m Beweis v e r w e n d e t man die B e z i e 1-k hung = + für k = 1 n, w o r a u s s i c h (;^)p''(1-p)"" = ( 1 - p ) " . (1-p)

(

-

P

= (1-p) J^

=

pV

^

und d a m i t die B e h a u p t u n g e r g i b t . Bei f e s t e m n E IN soll nun f ü r alle m = 0

n und f ü r p ^ p' m i t p.p' e [ 0 , 1 ] g e z e i g t

w e r d e n . Dies e r g i b t s i c h s o f o r t aus (n-m)(^)

=

/ x ' ^ ( 1 - x ) " " ' " " ' ' d x f ü r m = 0.1

n - 1 . Die l e t z t e Gleichung

beweist

man am e i n f a c h s t e n d u r c h D i f f e r e n z i e r e n beider S e i t e n nach p, w o b e i e r g i b t , daß die A b l e i t u n g e n der

zu b e w e i s e n d e n

übereinstimmen.

Gleichung

für

p = 0

Ferner

überein,

stimmen woraus

beide

sich

D a r s t e l l u n g f ü r die V e r t e i l u n g s f u n k t i o n e i n e r ® ( n , p ) - v e r t e i l t e n

die

sich

Seiten obige

Zufallsgröße

ergibt. Z u m A b s c h l u ß soll j e t z t noch die L a p l a c e - V e r t e i l u n g

d u r c h eine

g e n s c h a f t , die s t o c h a s t i s c h e O r d n u n g b e t r e f f e n d , g e k e n n z e i c h n e t

Maximaleiwerden.

68

Kapitel 6 : M i t t e l w e r t und S t r e u u n g

Beispiel

(Kennzeichnung schaft

Ist

X eine

{x^

der

bezüglich

durch

der stochastischen

reellwertige

x^} C R mit

Laplace-Verteilung

Zufallsgröße

< Xg ^ •••

eine

Maximaleigen-

Ordnung)

mit

P

^n

V

als

^

Laplace-Verteilung reellwertige

mit einer d i s k r e t e n V e r t e i l u n g P ^ , d e r e n T r ä g e r

in {x^

Uber

Zufallsgröße

x^} enthalten

ist

mit P ^ ( { x ^ } ) i P ^ ( { X 2 } ) ^ ... s P ^ ( { x ^ } ) , so soll gezeigt w e r d e n , daß X ( u n t e r P) s t o c h a s t i s c h g r ö ß e r als Y i s t . Dazu genügt e s , E(f o X) s E(f o Y) f l i r jede m o n o t o n fallende F u n k t i o n f : {x^

x^}

R zu z e i g e n , da man dann

speziell f ü r f den I n d i k a t o r von ( - 0 0 , x ] , x 6 {x^

x ^ } , wählen kann.

Zum

Beweis der l e t z t e n Ungleichung w i r d die Beziehung f ( x i ) + ... + f ( x „ )

ä

n

f(xi)H-...>f(xk) , . , ; für k = 1

, n, v e r w e n d e t , wobei diese U n -

k

gleichung m i t k(f(X|^^^) + . . . + f ( x ^ ) ) s ( n - k ) ( f ( x ^ ) + ...+f{X|^)) g l e i c h w e r t i g ist und diese aus der M o n o t o n i e von f w e g e n f ( x . ^

) + ...+f(x

k+1

) s (n-k)f(x, ) bzw. n

k

f ( x ^ ) + ...+f(X|^) i k f(X|^) f o l g t . Die Ungleichung E(f o X) ä E(f o Y) e r g i b t sich nun Y

aus der D a r s t e l l u n g P

"

=

"'k'^k

Z u s a m m e n h a n g m i t der Kennzeichnung

der l a c e -nEV e ra.t e i=l u1n ggiltd uund r c h P, eineeine E x tdr ei smk ar el et ei g eVnesrct e h ial u f tn, g wobei s 0 , x } ist k = 1L a p n, k=1 k ^ k ^ Uber { x ,1 n mit der E i g e n s c h a f t , daß x ^ } ) die L a p l a c e - V e r t e i l u n g Uber {x

X }, k = 1

1

n, i s t . Gilt s t a t t d e s s e n P ^ ( { x , } ) s ... s P'^({x } ) . so e r h ä l t

k

I

n

man E(f o X) i E(f o Y) f ü r jede m o n o t o n w a c h s e n d e F u n k t i o n f : { x ^ denn d i e s e r Fall läßt sich d u r c h U b e r g a n g von P ^ ( { x . } ) zu 1 =1 n I

i-pY({x.}) f(x.)i

1=1

—

n, auf den b e t r a c h t e t e n Fall z u r ü c k f u h r e n , da man danach

n-1

I

n Z

f(x,)

i= i

£ p Y ( {5x i } ) f ( x i ) . also n-1

^ ^ und d a m i t

n

—

f(xi) n

i

I i " ' ' ' ' - — n-1

n

n V iS = i f ( x ,I) P ^ ( { x . I} )

erhält.

i

7. Wahrscheinlichkeitserzeugende FunKtlongn dlsKrgter Verteilungen j m d l2fiz dingte WahrscheinllchkeUsYertellungen Die

bisher

betracliteten

l 0 die Beziehung^ lim inf r I= 0 r n"^ / / n ^ foe ' ^ ^ ^ ^ d x = 2^ / 2 ¥ n->co folgt. Aus Z 1+ I ( 1 - 7 - ) - . . . - ( I - — ) ^ 1+ £ ' = r=0 nr |< = 1 " n k=1 1 k(ti = 1 Eine

weitere

trifft

r,

die F r a g e , ob es

daß beim z w e i f a c h e n

der

zwei

Produktregel nicht

für

notwendig

unabhängigen

Würfelwurf

mit d i e s e n beiden W ü r f e l n

für

erzeugende

negativ

beantworten.

Beispiel

(Nichtexistenz beim

Würfeln

Funktionen

einer mit zwei

Sind f.(t)! = Z p'^'t'^, t 6 R , J k—1 k k =1

läßt

sich

oder

k,

Funktionen Würfel

gleichwertig

die V e r t e i l u n g

für

die

12 i s t . Mit H i l f e der diese

Laplace-Verteilung nicht

erzeugende

ungefälschte

s u m m e n z a h l eine L a p l a c e - V e r t e i l u n g über 2 regel

+

einsehen.

Anwendung

multanen W e r f e n

k^) mit

notwendig

die z u g e h ö r i g e n

Frage

für

besonders

die

ungefälschten erzeugenden

gibt, beim

beso si-

AugenProdukteinfach

Augensummenzahi Würfeln) Funktionen

6, j = 1,2, als W a h r s c h e i n l i c h k e i t e n f ü r die A u g e n z a h l k e {1

bei V e r w e n d e n des j - t e n W ü r f e l s , j = 1,2, s o f ü h r t die A n n a h m e der

mit 6}

Existenz

einer L a p l a c e - V e r t e i l u n g für die A u g e n s u m m e n z a h i a u f g r u n d der P r o d u k t r e g e l

74

K a p i t e l 7:

fUr

erzeugende

= iV • = ^

Erzeugende

Funktionen

+

Funktionen

auf

die

folgende

t e R . w o r a u s die G l e i c h u n g

(1+ t + ... + t ' ' ° ) , t 6 l R , f o l g t . A l s o s i n d

wobei

Gleichung: I

f^(t)f2(t)

•

=

i

=

^pj^-'^t'"''' P o l y n o m e 5 - t e n G r a d e s ,

I p j ^ ' t * * " ^ d a h e r eine r e e l l e N u l l s t e l l e t € R b e s i t z t , die w e g e n k=r k o ^

(1 + t + ... + t ^ ° ) T-d +t 11 o

+

o

0 f ü r t = 1 von e i n s v e r s c h i e d e n s e i n m u ß . W e g e n = -h- ° , 11 t _ - 1

* 0 e r h ä l t man dann aber einen

Widerspruch. ^

Den N u t z e n e r z e u g e n d e r F u n k t i o n e n kann man b e s o n d e r s e i n f a c h d a r a n e r k e n n e n , daß nach d e m G r e n z w e r t s a t z von A b e l aus d e r E x i s t e n z von lim ( E ( t ^ ) ) ' t-»i X: O lim ( E ( t

IN V

die E x i s t e n z von E ( X ) f o l g t , w o b e i dann E(X) = l i m

für

wegen

oo ) ) ' = Z k p . z u t r i f f t , w e n n man die f o l g e n d e , b e r e i t s f r ü h e r b e w i e s e n e k=o ^

A u s s a g e b e r ü c k s i c h t i g t : Für k o n v e r g e n t e Folgen

2

reeller

Zahlen

m i t O ^ a nk, ä:a n.k, + ,1 f ü r jedes n 6 l N und alle k e l N f o l g^t k-»oo lim i m a nk , , nZ= 1a nk= fn = 1 l k-»oo e r g i b t s i c h a u c h u m g e k e h r t aus d e r E x i s t e n z von E(X) die von lim E ( t ^ ) '

und

es g i l t E(X) = lim^ E ( t ^ ) ' . A l l g e m e i n e r e x i s t i e r t ECX*") f ü r X: C l I N ^ genau d a n n , w e n n Mm^ ( E ( t ^ ) ) ^ ' ' ' ( k - f a c h e A b l e i t u n g von E ( t ^ ) ) e x i s t i e r t . In d i e s e m Fall g i l t E(X(X-1)-...-(X-k+1)) faktorielles

Moment

= lim t-»i

(E(t^))"'',

wobei

E(X(X - D-...-(X - k + D)

k-tes

von X ( u n t e r P) h e i ß t . Das k - t e f a k t o r i e l l e M o m e n t e i n e r

» ( n , p ) - v e r t e i l t e n Z u f a l l s g r ö ß e X b e t r ä g t lim^ ( ( p t +

n ( n - 1 ) . . . ( n - k + 1)p'' =

= (^)k!p''. Besitzt

so g i l t

..(X-k.l))= k =0

P ^ die R e n c o n t r e - P r o b l e m - V e r t e i l u n g ,

£ v=0

vi

= "z' ^ v= 0 vi

(1 = 0

E(X(X-1).. =1

(1 = 0

für

n b z w . = 0 f ü r k > n. H i e r a u s g e w i n n t man f ü r die z u g e h ö r i g e e r z e u g e n d e

F u n k t i o n die e i n f a c h e D a r s t e l l u n g E ( t ^

X

) = Z k=o

(t~ 1 , , kl

t e R , w e n n m a n eine

T a y l o r - E n t w i c k l u n g f ü r E ( t' E(tX)= ^

£

Z k=0

kl

)* an d ae ar S s itee il il e ti =- 1 a n s e t z t , w o b e i ^k n k a u c h d i r e k t gemäß Z = Z Z ^ k=0 kl k = 0 (1 = 0 f

^

k = 0 (1 = 0 l i l ( k - i i ) i

,

£

£

t^

(-1)'^-^'

(1 = 0 k=(i Ii!

I n s b e s o n d e r e e r g^ i b t s i c h n-»oo lim k = Z0

(k-ii)! kl

=

=

£

kl

.t^i

(i = 0 (Xl

foi X=0

a l s o w e g^^e n

= e '^e*'* = e ^ ' * " ^ ' , t 6 R , die e r z e u g e n d e F u n k t i o n e i n e r

XI

t ^

|oo

n

l-|t|

für k = 0

E ( t ^ " ) = E ( t ^ ° ) für |t| < 1 wegen P ( { X n

KT =

2

fUr n i n o

11-|t|

U m g e k e h r t folgt aus

= 0 } ) i ECt'^") ^ n-» oo

t-1

0 und f e s t e s t mit |t| < 1 mit

n -^oo

Funi n, so e r h ä l t nnan w e g e n lim — f^(t) = ^ tH.1 dt^ E ( X ( X - 1 ) . . . ( X - r + D ) , r G l N , die Beziehung f ^ ( t ) = c

I r =0

. | t | < 1, w o r a u s

r!

w e g e n f ^ ( 0 ) = 1 f o l g t c = 1, d. h. f ^ s t i m m t mit der e r z e u g e n d e n F u n k t i o n der Rencontreproblem-Verteilung

ijberein.

Die T a t s a c h e , daß d u r c h B e r e c h n u n g der f a k t o r i e l l e n M o m e n t e eine e i n f a c h e r e D a r s t e l l u n g der e r z e u g e n d e n F u n k t i o n m ö g l i c h i s t , z e i g t auch das

folgende

Beispiel f ü r die Z u f a l l s g r ö ß e Y^ ^ l e e r e r U r n e n bei z u f ä l l i g e r V e r t e i l u n g von m Kugeln auf k U r n e n . Beispiel (Erzeugende Zuordnung

Funktion

für

von m Kugeln

die

Verteilung

zu k

Urnen)

leerer

Urnen

bei

zufälliger

Die Z u f a l l s g r ö ß e X, = k - Y, b e s i t z t die V e r t e i l u n g P({X, =£}) = ^ k.m k,m ^ k.m (^J

I

)(«-v)"", £=0,1

^ l ' l IN^ o also X = (X

I

X

m

V

), X : Ü-» IN , j = 1,...,m, ü b e r t r a g e n , indem man o ' ^

E ( t f i •...• t ^ " ^ ) f ü r | t , l < 1 , j = 1 I m j

m, b e t r a c h t e t . Die N ü t z l i c h k e i t des B e g r i f f s

der e r z e u g e n d e n F u n k t i o n von I N ^ - w e r t i g e n Z u f a l l s g r ö ß e n geht s c h o n aus der T a t s a c h e h e r v o r , daß die s t o c h a s t i s c h e U n a b h ä n g i g k e i t von X^ X rO^IN j

. i=1

X^

im Fall

m, mit der G ü l t i g k e i t von E ( t f ^ •...• t ^ ^ ) =

o

1

m

1

m

f ü r I t j l < 1, j = 1,...,m, g l e i c h w e r t i g i s t , wenn man b e r ü c k s i c h t i g t , daß bei I N ^ - w e r t i g e n

Zufallsgrößen

auch

der E i n d e u t i g k e i t s s a t z

für

die

e r z e u g e n d e n F u n k t i o n e n a u f g r u n d des I d e n t i t ä t s s a t z e s

für

Potenzreihen

mehreren

den

Veränderlichen

zutrifft.

Einen

Beweis

für

zugehörigen in

Stetigkeitssatz

e r z e u g e n d e r F u n k t i o n e n von I N ^ - w e r t i g e n Z u f a l l s g r ö ß e n e r h ä l t man b e s o n d e r s e i n f a c h mit Hilfe v o l l s t ä n d i g e r

I n d u k t i o n nach m v e r m ö g e des nun f o l g e n d e n

B e g r i f f s b e d i n g t e r V e r t e i l u n g e n . Z u v o r soll noch als Beispiel f ü r die gende

Funktion

von

behandelt w e r d e n .

IN^-wertigen

Zufallsgrößen

die

erzeu-

Multinomialverteilung

7 Erzeugende Funktionen

F ü r den Fall P

(X ,. .,x ) ^ a l s iOT(n,p^

des M u l t i n o m i a l s a t z e s

|t, | R eine r e e i l w e r t i g e Z u f a l l s g r ö ß e , so kann m a n vernnöge P ^ ' ^ beliebiger n ^ ' w e r t i g e r wert

Z u f a l l s g r ö ß e Y: O

O^

den bedingten

bei

Erwartungs-

E ( X | y ) von X u n t e r y bei g e g e b e n e r d i s k r e t e r V e r t e i l u n g P i j b e r O gemäß

E(X|y) = Z X

für y e O^y einführen, falls I | x | P ^ ' y ( { x } )

konvergiert

( m a n c h m a l w i r d a u c h die B e z e i c h n u n g E p ( X | y ) g e w ä h l t , u m die A b h ä n g i g k e i t von P a u s z u d r ü c k e n ) . W e g e n

^

X e R , y e O y , f o l g t aus d e r

E x i s t e n z von E(X) die E x i s t e n z von E ( X | y ) f ü r j e d e s y 6 Q ^ y . Im Fall, daß X. Y ( u n t e r P) s t o c h a s t i s c h u n a b h ä n g i g s i n d , w a s z . B. im Fall z u t r i f f t , w o P ^ eine Dirac-Verteilung

i s t , so f o l g t

aus

(x,y)})

= P^({x})P^({y».

x 6 R,

y 6 O p y , die B e z i e h u n g P ^ ' y ( { x } ) = P ^ ( { x } ) f ü r j e d e s x e R bei f e s t e m y 6 O ^ y , w o r a u s E(X|y) = E ( X ) , y e ^ p y Bedingung

r e s u l t i e r t , f a l l s E(X) e x i s t i e r t . F e r n e r i s t die

= P^ für jedes y e O p y o f f e n b a r mit der s t o c h a s t i s c h e n

Unab-

h ä n g i g k e i t von X, Y ( u n t e r P) g l e i c h w e r t i g . A u f g r u n d d e r D e f i n i t i o n des b e d i n g t e n E r w a r u n g s w e r t e s als M i t t e l w e r t d e r z u g e h ö r i g e n b e d i n g t e n V e r t e i l u n g , s i n d die E i g e n s c h a f t e n der Konvergenz

den

Erwartungswerte

1.

Linearität:

LInearität,

Erwartungswert

y 6 Opy 3 . Satz

sowie

der

betreffend,

Satz

von

unmittelbar

der

monotonen

auf

bedingte

übertragbar.

a ^ E ( X j y ) + a ^ E ( X ^ l y ) = E(a^X^ + a ^ X ^ l y ) , y e O ^ y , a. 6 R , j = 1,2,

f a l l s E ( X j l y ) , j = 1,2, y 6 O p y 2 . Isotonie:

isotonie

existiert.

X, ^ X ^ i m p l i z i e r t E ( X J y ) £ E ( X 2 l y ) , y 6 O p y . f a l l s E ( X . | y ) , j = 1,2, existiert.

von der

monotonen

Konvergenz:

Aus O ^ X ^ s X ^ ^ . . .

E ( X | y ) . y e O p y f ü r X: = s u g ^ X ^ r e s u l t i e r t ^ i m

mit

existierendem

E(X^|y) = E(X|y). y e O ^ y .

82

Kapitel 7: E r z e u g e n d e

Funktionen

S e t z t man y: = Y((o), u G 0 , so w i r d d u r c h Z ( u ) : = E ( X | Y ( u ) ) . (0 6 0 , eine r e e l l w e r t i g e Z u f a l l s g r ö ß e e r k l ä r t , f a l l s E(X|y) fijr y e O^y e x i s t i e r t und E(X|y): = 0 für y t f l p Y g e w ä h l t w i r d , die Inn f o l g e n d e n mit E(X|Y) b e z e i c h n e t w i r d . E x i s t i e r t E{X), s o gilt E ( E ( X | Y ) ) = E ( X ) . w e g e n E ( E ( X | Y ) ) = I I x y X I

X P^({x}) = E ( X ) . FUr die V a r i a n z von Z gilt

Ungleichung

Var(E(X|Y))

s Var(X),

s o daß

die

({y}) =

bei e x i s t i e r e n d e m Sprechweise

E(X^)

plausibel

die

wird,

daß es s i c h beim U b e r g a n g von X zu E(X|Y) um eine G l ä t t u n g s o p e r a t i o n h a n d e l t . FUr das V e r s t ä n d n i s von V a r ( E ( X | Y ) ) ä V a r ( X ) ist die s o g e n a n n t e regel

für

bedingte

Erwartungswerte

nützlich:

Mit

X: Q

Substitutions-

R,

Y: O -> O^.

f: R X O ^ ^ R , w o b e i E ( f o (X,Y)) e x i s t i e r e n möge, gilt E(f o (X,Y)|y) = E ( f o (X.y)|y), y e n ^ y , wobei

in f o (X,y)

die

konstante

Abbildung

mit dem W e r t

y 6 O^y

gemeint i s t . W e g e n der S u b s t i t u t i o n s r e g e l für bedingte V e r t e i l u n g e n gilt nämlich p f o ( X , Y ) | y ^ p f o ( X . y ) | y ^ V 6 O^y, w o r a u s E ( f o ( X , Y ) | y ) = E ( f o (X,y)|y), y G O^y. f o l g t . F ü h r t man V a r ( X | y ) für X: O -> R mit e x i s t i e r e n d e m als S t r e u u n g von P^'^. y G O^y, ein,

so gilt Var(X|y)

E(X^|y), y e O^y ,

= E ( ( X - E(X|y))^|y) =

E ( X ^ - 2 X E ( X | y ) + E^(X|y)|y) = E(x2|y) - 2E^(X|y) + E^(X|y) = E(X^|y) - E^(X|y), so daß man für die gemäß V a r ( X | Y ( u ) ) , u G 0 , mit V a r ( X | Y ( u ) ) = 0 für Y ( u ) t O ^ y , d e f i n i e r t e Z u f a l l s g r ö ß e V a r ( X | Y ) e r h ä l t E ( V a r ( X | Y ) ) = E(X^) - E ( E ^ ( X | Y ) ) . Die Substitutionsregel

f ü r bedingte E r w a r t u n g s w e r t e

E((X-E(X|Y))^|y). y GOpy, woraus

liefert f e r n e r Var(X|y) =

insbesondere E(Var(X|Y)) = E((X-E(X|Y))^)

r e s u l t i e r t . W e g e n V a r ( E ( X | Y ) ) = E(E^(X|Y)) - E^(E(X|Y)) = E ( e 2 ( X | Y ) ) - E^(X) e r h ä l t man s c h l i e ß l i c h V a r ( X ) = V a r ( E ( X | Y ) ) Var(E(X|Y))

resultiert,

wobei

Var(X)

+ E(Var(X|Y)), woraus Var(X) a

= Var(E(X|Y))

wegen

E(Var(X|Y))

=

E ( ( X - E ( X | Y ) ) ^ ) genau dann z u t r i f f t , wenn P({X = E(X|Y)}) = 1 gilt. Zur

Herleitung

von V a r ( X )

= Var(E(X|Y))

+ E(Var(X|Y))

für

X: O

R

mit

e x i s t i e r e n d e m E(X^) ist die B e z i e h u n g E ( E ( X | Y ) ) = E(X) b e n u t z t w o r d e n .

Ei-

ne w e i t e r e A n w e n d u n g hiervon w i r d im f o l g e n d e n B e i s p i e l b e h a n d e l t .

Beispiel

(Erwartungswert,

Varianz

und

im Zusammenhang

mit der

Ruinwahrscheinlichkeit

Bezeichnet

D^ die Z u f a l l s g r ö ß e

Ruinwahrscheinlichkeit

eines

der

Spielers

erzeugende

Spieldauer mit

dem

Funktion

der

eines

Spieldauer Spielers)

im Z u s a m m e n h a n g Anfangskapital

mit

a G IN

der und

7 Erzeugende Funktionen

dem Zielkapital

b 6 IN mit b i

a, s o gilt

mit

E r g e b n i s des e r s t e n M U n z w u r f s

mit e i n e r

ungefälschten

die f o l g e n d e R e k u r s i o n s f o r m e l : + i (E(D J + 1), a e {1 2 a-1 d

a

a e

{1

Zufallsgröße, MiJnze

die

das

beschreibt,

E(D^) = ~ E(D^|1) + ^ E ( D ^ | 0 ) = ^

b-1}, w o b e i D

von z w e i L ö s u n g e n d i e s e r ^

Y als

83

= D^ = 0 z u t r i f f t . D a die D i f f e r e n z o b

Rekursionsformel

b-1}, mit d e r L ö s u n g d ^ -

aa

+

auf d

+ ß. a G {0

a

= i d , + i d 2 a+1 2 a-l b} f ü h r t , w e n n

die Ü b e r l e g u n g e n z u r B e r e c h n u n g d e r R u i n w a h r s c h e i n l i c h k e i t

eines

man

Spielers

b e a c h t e t , e r g i b t s i c h u n t e r B e r ü c k s i c h t i g u n g d e r N e b e n b e d i n g u n g d^ = d^ = 0 die B e z i e h u n g a = ß = 0 , s o daß h ö c h s t e n s eine L ö s u n g d e r o b i g e n R e k u r s i o n s f o r m e l z u s a m m e n mit den N e b e n b e d i n g u n g e n e x i s t i e r t . F ü r die E x i s t e n z

einer

s o l c h e n L ö s u n g m a c h t m a n a m e i n f a c h s t e n den A n s a t z E(D^) = A a ^ + B a , a £ {0,..,b}, w o r a u s

sich

wegen

der

Rekursionsformel

durch

Koeffizientenver-

g l e i c h A = -1 e r g i b t , w o b e i w e g e n ECD^^) = 0 f ü r B = b r e s u l t i e r t , a l s o E(D^) = a(b-a). Z u r B e r e c h n u n g von V a r ( D

) b e a c h t e t m a n die B e z i e h u n g E(D^|1) =

= n= I 1 n ^ P ° ® ' \ { n } ) = n=1 ? n ^ P ( { D a+1 = n - 1 } ) = n=0 I (n + 1)^P({D a + 1 =n}) = E ( D ^ a + ,) 1 + 1 und

analog

E(D^|0) = E(D^

+ 2E(D^

+1,

woraus

sich

die

R e k u r s i o n s f o r m e l E ( D ^a ) = i2 (E(D^a+1J + a - 1, ) ) + E ( D a+1 ) + E ( D a - 1J + 1 = = 1(E(D^ ) + E ( D ^ J ) + 2 E ( D ) - 1 = i (E(D^ J + E ( D ^ )) + 2 a ( b - a) - 1, 2 a+1 a-1 a 2 a+1 a-1 a e {1

b-1}, e r g i b t , die w i e d e r u m a u f g r u n d d e r s e l b e n A r g u m e n t a t i o n

im F a l l z u r B e r e c h n u n g von E(D^) u n t e r

Berücksichtigung

der

wie

Nebenbedin-

g u n g D^ = D^ = 0 e i n d e u t i g l ö s b a r i s t . D a b e i e r g i b t s i c h die E x i s t e n z L ö s u n g d u r c h den A n s a t z E ( D ^ ) = A a ' ' ' + B a ^ + C a ^ + D a , w o r a u s

einer

zusammen

mit d e r R e k u r s i o n s f o r m e l d u r c h K o e f f i z i e n t e n v e r g l e i c h A = - i , B = - ^ b , C = - | r e s u l t i e r t . Die N e b e n b e d i n g u n g E ( D ^ ) = 0 l i e f e r t s c h l i e ß l i c h f ü r D = |

(b^-2).

w o r a u s s i c h E ( D ^a ) = f3 (a^ - 2 b a ^ + 2 a + b ( b ^ - 2 ) ) = |3 (b - a ) ( - a ^ + ba + b ^ - 2 ) e r g i b t . D a m i t e r h ä l t m a n s c h l i e ß l i c h V a r ( D ) = E(D^) - E ^ ( D ) = ^ a { b - a ) ( a ^ - 1 + ^ a a a 3 (b-a)^-l).

Zur

Berechnung

der erzeugenden

Funktion E(t

von

D

m a n von d e r R e k u r s i o n s f o r m e l E ( t ° ® ) - ^ E(t°®|1) + ^ E(t°®|0) = - i |t|a> und - 1 < t . Ä l . j

X ' " ' ) : 0 - » IN"", n G N , folgt P ( { x ' " ' = k m o o 1 1

^ P({x'°'= k,,...,Xoo 1 1

m

m

}) = P ( { x ' ° ^ = k ^

X'°* = k

}), k.GlN

}). k

})-P({X;°'=k 1 1

m, folgt. U m g e k e h r t ergibt Sich aus

P({X'°' = k

Induktionsvoraus-

X ' " ' =k Jy}) = P ( { x ' ° ' = k m-1 m— I i 1

J y } ) , w o r a u s wegen l i m P ( { x ' " ' = k rn—1 n—^ OD

Beziehung

=

, j = 1

m , die

E N . o

X*°'=k m

limP({x'"' = k n-» '

m-i

=

die

}).k,GN, m j o

, x ' " ' = k }) = 1 m m

Aussage

1

1 m m j o ^ l i m E ( t ^/ ( n ) - . . . - t ^ ( n ) ) = E ( t ^/ ( n ) • ... • t^(O) ), - 1 < t . ä 1, j = 1 n-» 1 m 1 m i ' Zweck

w ä h l t man z u

|t | < 1, j = 1

, L I — s. , i 1-|tj| 2(2^-1)

1

|P({X'"* = k,....,X^"' = k 1 1 m m k.G{0 I

n>, j = 1 o

'

rn

für

m, und E > 0 n^n

°

m. Z u

diesem

ein n^ G IN m i t

, s o w i e ein n , G l N 1

mit

})-P({X;°' = k X'°'=k })|s 1 r "1 m mm

m. H i e r a u s

resultiert

^(n) (n) (O) |E(t, • ... • t ) - E(t ^ 1

m

1

(O) m

86

^

Kapitel 7: E r z e u g e n d e Funktionen

l0 und P ( { N = 1}) > 0 angenommen, w o r a u s die Existenz von Hnn

= = a > 0 folgt.

Aus (••) ergibt sich die Existenz von lim = = b mit bi^O und u / 1 , da der ^ ^ T-vO g ( t ) Fall einer Dirac-Verteilung für P ^ bzw. P ^ ausgeschlossen wurde. Daher liefert t

0 in der Beziehung ( * » ) die A u s s a g^e

woraus f(s) =

t ^ •a - = = X > 0 für alle 0 < s < 1, f ( s ) = 1-n

0 < s < 1, folgt, d. h. f ist die erzeugende Funktion einer

^|>(X)-Verteilung. Hieraus ergibt sich schließlich zusammen mit (•*) für s Beziehung woraus

1 die

= ^ ^ + t für 0 < t ^ 1 und damit g(t) = (1 - n ) + t:t wegen g(1) = 1,

sich insbesondere

0 < n < 1, also die erzeugende

Funktion

einer

a5(1,p)-Verteilung mit p: = n ergibt. Der zweite Fall P ( { N = 0>)=0 führt nach ~k minimaler W a h l von k e IN mit P ( { N = k } ) > 0 auf lim ^ . = f , so daß insbesondere (,„)

H

J

lim ->o

^ tf(t)

t f (t) .

= : a > 0 e x i s t i e r t . Aus (*•) =

f 0 und P ( { N = 1}) = 0 führt bei minimaler W a h l von k > 1 mit P ( { N = k}) > 0 auf die A u s s a g e llrr,

f(t)

_

P ( { N = 0))

-, o

Aus (••) ergibt sich (••) die Existenz von

= lim

t

- ( - k ' ' fiJ^ 0< s . t < 1 . w o r a u s

, g ' ' ' ' — = : b folgt, wobei h ^ O gilt, da für P*^ eine

Dirac-Verteilung ausgeschlossen worden ist. Geht man in ( » ) zu t -» 0 über, so erhält man d. h. f ( s ) = exp IzSL = 9 < t ) / LI g (t)

f(s)

=^ • ^ == c> 0, 0 < s < 1, also « n f ( s ) 1-n a k

s*" - 1), 0 < s s 1, w o r a u s mit Hilfe von (*»*) für s

(s'' -1), 1 folgt

0 < t i 1, also £ n g ( t ) = f £n (1-n + [xt''), 0 < t ^ 1, d. h. k

7 Erzeugende Funktionen

89

±

g(t) = ( d - i i ) + tit'')'* , |t| < 1. Da (1-(i)

|t| < 1, die erzeugende Funktion

einer Verteilung mit {0,k} als Träger ist, liegt der Träger der zu g gehörenden Verteilung, also P^^ in der Menge {0

k } . wobei die k - f a c h e Faltung von

P^^ als T r ä g e r {0,k} besitzt. Hieraus resultiert schließlich der V\/iderspruch k = 1. Poisson-Verteilung und Binonnialverteilung lassen sich gegenseitig

dadurch

kennzeichnen, daß P^^'^eine Binomialverteilung für y^lN^ ist mit Y: = wobei

stochastisch unabhängig und identisch verteilt (unter P)

sind. Es handelt sich hierbei in der Hauptsache um eine Anwendung der Tatsache, daß ein Erwartungswert iteriert mit Hilfe bedingter E r w a r t u n g s werte berechnet werden kann. Hieraus resultiert für die erzeugende Funktion f von

die Beziehung f (st)f (t) = E(E(s^M Y ) t ^ ) ) = E(

j'^t'^) f U r O < s , t i 1 .

wenn man für P^i''' eine ! 8 ( y , ) - V e r t e i l u n g , n G IN^, annimmt, die sich, wie bereits gezeigt worden ist, im Fall P '' als V ( X ) - V e r t e i l u n g f(st)f(t) =

ergibt. Aus

t). 0 < s,t i 1, ergibt sich umgekehrt für P^^ eine V { X ) - V e r -

teilung bzw. Dirac-Verteilung 8 , wie das folgende Beispiel zeigt. Beispiel (Gegenseitige verteilung

Kennzeichnung

als

bedingte

der Poisson-Verteilung

und der

Binomial-

Verteilung)

Nach den obigen Überlegungen ist die Lösung von f ( s t ) f ( t ) = f ^ ( - ^ t ) , 0 < s , t < 1, für die erzeugende Funktion f von P^^ gesucht, aus der f ( s ) = + 0 < s i 1, folgt. Hieraus resultiert f ( s ) = f^ +1),0ss

+

n } - » I R , die Beziehung £ f ( k ) ( " 1 - p)""''= 0 ^ () =

sn-1,

1-X^

Moment

explizit

optimalen

Bernoulli-Experiment

ist der d u r c h n

Zentrale

optimale

optimal

X^ als s t o c h a s t i s c h

erwartungstreu.

unabhängigen

mit P^^ als 3 5 ( 1 , p ) - V e r t e i l u n g

s t o c h a s t i s c h u n a b h ä n g i g und i d e n t i s c h v e r t e i l t

und

auch

sind,

wobei

P ^ " ^ ' ' e i n e » ( 1 , 1 - p ) - V e r t e i l u n g i s t . S p e z i e l l f ü r k = 2 e r g i b t s i c h , daß n P H Xf 2 ^ Z (x.--^^^—) (Stichprobenstreuung) für p(1-p) optimal e r w a r t u n g s n-1 j=1 t r e u i s t . D i e s k a n n m a n a u c h e i n f a c h e r d a d u r c h e i n s e h e n , daß m a n v o n d e r n T. Xn t .^A I\ r, p O p t i m a l i t ä t von x / n bzw. ( ^ P P a u s g e h t , s o daß n

n

n

n -

n(n-1)

^ n(n-1)

(n

Z x. - ( Z x . ) 2 ) = - L - ( E 1=1 i 1=1 i n - 1 i=1

i

n Z

—!— Z (x n - 1 j=1 j

X :

— f ü r n

Einer

ähnlichen

einer

35(n, ^

Situation

)-Verteilung

P a r a m e t e r s der

p - p ^ = p(1-p)

wie

beim

begegnet

optimal

Schätzen man

ist.

des

beim

Rencontre-Problem-Verteilung.

ganzzahligen

Schätzen

des

Parameters ganzzahligen

8 S c h ä t z e n von P a r a m e t e r n

Beispiel (Bestimmung Parameter lokal

aller der

erwartungstreuen

Schätzer

für

Rencontre-Problem-Verteilung

optimaler

ganzzahligen Kennzeichnung

Schätzer)

d. h. P ^ ( { m } ) = - ! ml

n G IN eine Menge ^ ^

den

und

Es b e z e i c h n e X eine I N ^ - w e r t i g e Z u f a l l s g r ö ß e m i t P ^ als Verteilung, "

101

Z v=0

^

Rencontre-Problem-

. m G l N , so daß bei

v!

von d i s k r e t e n V e r t e i l u n g e n d e f i n i e r t

unbekanntem

w i r d . Die

Menge

D o der z u g ' e h ö r i g e n N u l l s c h ä t z e r d o sind d u r c h d o (k) = - ( k - 1 ) d o ( 0 ) , k G INo , g e k e n n z e i c h n e t . W e g e n Ep(X) = 1, P'^

sind alle d ^ : IN^

R mit d ^ ( k ) =

- ( k - 1 ) d O( 0 ) , k GIN O. N u l l s c h ä t z e r . U m g= e k e"h r t =f o l g "t f ü 0r d GD 0 im Fall n = 1 die Beziehung d (1) = 1 und aus d (k) = - ( k - 1 ) d (0) f ü r k = 0 n - 1 (n GIN f e s t ) ="0 o o n (k-1)do(0) n - k (_i)V resultiert zusammen mit E ) = 0 die Gleichung - Z ^ I —— p p'^ o ^ k=0 kl v=o vi '

d (0) o n! k I k*'"' m i t

nl

d*(k)=

o

(n) = 0 , d. h. d (n) = - ( n - 1 ) d ( 0 ) . F e r n e r i s t d : N ^ R m i t ' ' ' o o I— 1 n ( k - j ) , k 6 IN , r 6 IN, k ' ° ' : = 0 . k e IN , ein fUr S

r =1

J=0

mit ^

n

k

E p x ( d ) = I^JQ n n-r ^ Z r=1 £ =Z0 — «! k (k-1)c+ —1

kl

'

o

5 ( P ^ ) = n, e r w a r t u n g s t r e u e r

1 i.——

kl

r\-r-t v =Z0 ( .

n-k - j ^

^IQ

n =

o

S c h ä t z e r , denn es gilt n

n - r - ( k ~ r ) (-1)'^

k=r ( k - r ) l

Z k ' ^ ' , k G l N , f ü r ein c G R z u t r i f f t . Dagegen e r g i b t s i c h w e g e n vZ = 0 (-1)

/ v i , n i k , f ü r den S c h ä t z e r d: INO

M a x i m u m - L i k e l i h o o d - M e t h o d e d(k) = k, k G N

o

f ü r n = d(k) = k maximal w i r d , während

R nach der s o ^g e n a n n t e n

, w o n a c h die W a h r s c h e i n l i c h k e i t

p d o X j ^ l ^ j j in A b h ä n g i g k e i t vom P a r a m e t e r w e r t

kl

"

( - i ;— ) ^ = n . D a m i t g i l t d G D . genau dann, w e n n d(k) = vi y & ^

n GIN bei f e s t e m k GIN^ hier

Z k ' ^ ' = k! Z r =0 r=0 rl

wegen ^

S - T < - r . k G l N . als [ k l e ] f ü r k G IN m i t Cx] = = s u p { n G IN : n s x } , x > 0 , r=k-H r l k o

d a r g e s t e l l t w e r d e n k a n n . Z u r C h a r a k t e r i s i e r u n g der f ü r n i g (g GIN f e s t ) lokal o p t i m a l e n S c h ä t z e r ü b e r l e g t man s i c h z u n ä c h s t , daß die im Modell

wobei

der g a n z z a h l i g e P a r a m e t e r n f ü r j e d e s P ^ G die Bedingung n ^ g e r f ü l l t , die 9 (rl N u l l s c h ä t z e r von der G e s t a l t Z a (k -1), a GR. r = 1 q, k G IN , sind. r=1 r r o Für j e d e n s o l c h e n S c h ä t z e r d^ gilt w e g e n E p ( x ' ' " ' ) = 1. r = 1 n, P ^ G^P^, die B e z i e h u n g E ^ x l d ^ ) = 0 , P ^ G ^ P ^ . U m g e k e h r t f o l g t f ü r d^: IN^-> R m i t E ^ x ^ d ^ ) = 0 , pX g ® ^ g

z u n ä c h s t die E x i s t e n z eines Polynoms n : IN -> R h ö c h s t e n s ^ g o

vom

G r a d g m i t 7t (k) = d ( k ) , k G { 0 , 1 g - l ) , so daß d - 7t ein N u l l s c h ä t z e r g o o g b e z ü g l i c h ^ ^ u { 8 ^ } i s t , d. h. es g i l t d^ = Tt^. Da { k ^ ' " ' , r = 0 g} eine Basis f ü r den V e k t o r r a u m der Polynome in k G IN^ h ö c h s t e n s vom G r a d g i s t , gilt f ü r 7t^ die

102

Kapitel 8: Schätzen von Parametern

g ot k - , , a ER, r = 0 Darstellung tu (k) = Z ^ 9 r=0 r • r • • P^eV^,

die Gleichung

g

q, k e IN , wobei E ^ ( t ) = g E ot , -a g (g e IN^ fest) lokal optimalen S c h ä t z e r d*: f l ^ -> R mit O^ =

als Polynome höchstens vom Grad g gekennzeichnet werden.

Beispiel (Kennzeichnung funktion

der lokal optimalen

des ganzzahligen

Schätzer

Parameters

einer

für eine

Parameter-

Binomialverteilung)

Als Modell liegt die Familie ^ ^ von !8(n,-l )-Verteilungen mit n 6 IN zugrunde. Daher reicht e s , die Elemente d^ der Menge D^ aller Nullschätzer im Modell mit

als Klasse der ÄCn, ^ ) - V e r t e i l u n g e n mit n e {g + 1,g + 2,...} mit festem g

g" e l N o a l s d o (k) = ( - 1 ) ']=o ' I a kJ ^ , k e IN o , o j. G R . j ' = 0,1

g. zu identifizieren. Dann

gilt nämlich für jeden S c h ä t z e r d*. der im Modell ^ ^ = { » ( n . 1 ) - V e r t e i l u n g : n 6 N} für jedes n > g lokal optimal ist. daß für jeden Nullschätzer d^ in diesem Modell nach der Kovarianzmethode d*d^ ein Nullschätzer im Modell

= {I8(n.-i)-

Verteilung: n € {g + 1.g + 2....}} ist. woraus d*(k)(-1)'' = ( - 1 ) " j=o I a.k^, k 6 N o, j ttj G R . j = 0.1,....g. folgt, und umgekehrt liefert diese Gleichung nach der Kovarianzmethode. daß d* im Modell (P^ = { ® ( n , ^ ) - V e r t e i l u n g : n G l N } f ü r n > g lokal optimal ist. Die Kennzeichnung der Nullschätzer im Modell

= {I8(n,

Verteilung: n G {g + 1,...}} ergibt sich nun folgendermaßen: Da die Funktionen d^ mit d^(k) :=

k = 0

g, v = 0

g, aufgrund der Tatsache, daß ein nicht

verschwindendes Polynom höchstens vom Grad g nicht mehr als g verschiedene Nullstellen besitzt, eine Basis des Vektorraumes der Polynome in k G {0 höchstens vom Grad g sind, gibt es zu ot. G R , j = 0

g, reelle Zahlen

j=0

g} g.

104

Kapitel 8 : S c h ä t z e n von P a r a m e t e r n

mit (-1)''

9 I o V=0

I

=

daß d

o

9 I ß (h, k6{0 v=0 V V • .

= £

g } . w o r a u s wegen .a • a

=

mit d (! v

folgt,

k e IN , ein Nullscinätzer im Modell

V

o

= {!8(n, ^ ) - V e r t e i l u n g : n e {g + 1,...}} ist, da v s g z u t r i f f t . Um umgekehrt einzusehen, daß jeder Nullschätzer d^ im Modell n e { g + 1,...}} von der G e s t a l t d (k) = (-1)'' o

v = 0

n

^)-Verteilung:

a k " , k £ IN , mit a 6 R , V o V

g, ist, wird zunächst die folgende Umrechnung von

E^(d)! = E

S

v=0

= {I8(n,

d ( k ) ( ^ ) 2 ' " , n e l N , mit d : I N ^ ^ I R ,

(d)=d(0)2"" + ^ I 2 k=1

d(k)! =

k+1

k

=

k-1

herangezogen: + 5 E ( d ) . mit 2 n-1

k e IN , n € IN. Gilt insbesondere E (d) = 0 für ein n i 2 und o n

d ( 0 ) = 0 , s o e r h ä l t m a n E ^ . | ( d ) = 0 . D i e Behauptung, die G e s t a l t der Null S c h ä t z e r d

im Modell

= {»( n,-^ ) - V e r t e i l u n g : n 6 {g + 1,...}} b e t r e f f e n d , kann nun mit

Hilfe vollständiger Induktion nach g £ IN^ bewiesen w e r d e n . FUr g = 0 ist die Behauptung b e r e i t s in den Vorüberlegungen zu diesem Beispiel bewiesen w o r d e n . Gilt nun E n (d o ) = 0 für n > g3 + 1. • so t r i f f t für d'o mit d'o ( k ) ' = do (k) - (-1)''do ( 0 ) , k 6 IN , die Gleichung E (d' ) = 0 für n > g +1 zu, w o r a u s wegen d' (0) = 0 nach der obigen H i l f sich s a u s shieraus a g e E^(d^) für nE9^ g Setzung ergibt d ' ( k ) ==0(-l)*^ a +1 k ' 'folgt. , k 6 l N Nach , mit induktionsvorausa 6 R, v = 0 g, ^ ^ o v=0 V o V also d' (k + 1) = (-1)'' o

=

O

Z a (k + D k " , k 6 IN , d. h. d (k+1) = o o g (0) + (-1)'' E a (k + D k " , k e IN , wobei diese Gleichung auch für V=0

V=0

M

O

k! = -1 richtig ist. Damit erhält man aber wie behauptet g+1 d (k) = (-1)'' Z a k^, k e l N , mit a e R . v = 0 g + 1. o V o V Die Nichtexistenz eines gleichmäßig besten e r w a r t u n g s t r e u e n S c h ä t z e r s

für

den ganzzahligen P a r a m e t e r einer Binomialverteilung im Modell

= {»(n,

Verteilung: n 6 N } läßt sich insbesondere durch Untersuqhung der

größten

konvexen Menge C .O( d ) unter allen konvexen Teilmengen C von D .O, die d e DO. enthalten, so daß d gleichmäßig b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r für 8 bezüglich C ist, illustrieren. Dabei ist hier 8: «J)^ »(n,^)-Verteilung

definiert.

R gemäß 8 ( P ^ ) := n mit P ^ als

8 S c h ä t z e n von P a r a m e t e r n

B e i s p i e l (Klassifikation Parameter

der

erwartungstreuen

einer

Schätzer

für

105

den

ganzzahligen

Binomialverteilung)

N a c h den o b i g e n Ü b e r l e g u n g e n läßt s i c h j e d e s E l e m e n t von D^ in d e r

Gestalt

d (k) = 2k + ( - 1 ) ' ' c , k e IN , f ü r ein c e R d a r s t e l l e n . F e r n e r b e s t e h t C J d ) aus c o S c allen d . e D , m i t Kov y ( d , d . - d ) ^ 0 fUr j e d e s P £ c s p-^ c c c '

^

wobei P

eine

! 8 ( n , ^ ) - V e r t e i l u n g i s t . FUr n > 1 e r g i b t s i c h K o v ^ ^ ' d ^ , d^, - d ^ ) = c ( c ' - c) und f ü r n = 1 e r h ä l t man Kovp x^ ( d C , d C . - d C ) = ( c - 1 ) ( c ' - c ) . so daß C öJ d c ) = { d c } f ü r 0 < c < 1, C J d ) = {d .: c' i c } f ü r e i l . und C . ( d S e e ' S e

) = {d .: c' s c } f ü r c s: 0 g i l t . e ^ X

1

I n s b e s o n d e r e e r g i b t s i c h h i e r a u s n o c h m a l s daß es im M o d e l l ^ ^ = { » ( n . - ^ ) - V e r t e i l u n g : n 6 IN} k e i n e n f ü r 8 g l e i c h m ä ß i g b e s t e n e r w a r t u n g s t r e u e n

Schätzer

gibt. Man k a n n die e x p l i z i t e G e s t a l t d e r f ü r n > g m i t f e s t e m g e IN^ l o k a l o p t i m a l e n S c h ä t z e r im M o d e l l

= { » ( n . i ) - V e r t e i l u n g : n 6 IN} als P o l y n o m e in k 6 IN^ a u c h

ohne g e n a u e K e n n t n i s d e r N u l l s c h ä t z e r im M o d e l l

= {®(n, ~

)-Verteilung:

n G{g+1,...}} h e r l e i t e n . Bei d i e s e r B e g r ü n d u n g w i r d l e d i g l i c h die K e n n z e i c h n u n g der N u l l s c h ä t z e r im M o d e l l

= { » ( n , ^ ) - V e r t e i l u n g : n 6 IN} als S c h ä t z f u n k t i o n e n

d e r G e s t a l t ( - 1 ) ' ' c , k G l N o . c G R , b e n u t z t , s o w i e die T a t s a c h e , daß S c h ä t z f u n k t i o nen von der F o r m (-1)"* Z a k ^ . k G l N . a e l R . v = 0 v=0 V o V = i®(n,^)-Verteilung:

n e { g + 1....}} s i n d , i s t nun d * : I N ^ - > R ein f ü r

l o k a l o p t i m a l e r S c h ä t z e r im M o d e l l 7t*: IN^ -> R das

eindeutig

it*(k) = d*(k). k = 0 9

=

n>g

= { » ( n . ^ ) - V e r t e i l u n g : n G N } . so sei

bestimmte

Polynom

höchstens

vom Grad

g

mit

g, daß n a c h L a g r a n g e gemäß 7 r * ( m ) =

9

f. d * ( k ) n k =0 j=0 j^k

Optimalität

g. N u l l s c h ä t z e r im M o d e l l

Z' . . m G IN , d a r g e s t e l l t w e r d e n k a n n . A u s d e r k-j o ^

von d *

und der

Tatsache,

daß

d e f i n i e r t e S c h ä t z f u n k t i o n ein N u l l s c h ä t z e r lung: n e { g + 1....}} i s t , e r g i b t sich j e d e s n G IN, w o b e i die G ü l t i g k e i t d'Ck) = 7t''(k), k e {0

die

durch

( - 1 ) ' ' 7 t * ( k ) , k G IN^,

im M o d e l l

= {»(n,

•1)-Vertei-

(d*(k) - 7t'(k)) ( - 1 ) ' ' ) 2 ' " = 0 für dieser

Beziehung f ü r

g}, offensichtlich ist. Aufgrund

d e r N u l l s c h ä t z e r im M o d e l l

lokalen

n G {1 der

g}

wegen

Kennzeichnung

= { » ( n . ^ ) - V e r t e i l u n g : n G N } g i b t es d a h e r

ein c G R m i t (d^Ck) - 7 t * ( k ) ) ( - 1 ) ' ' = ( - D ' ^ c . k G INo . d . h. d " : IN o ^ R i s t ein P o l y n o m h ö c h s t e n s v o m G r a d g. Ü b r i g e n s i s t c = 0 . da d * - 7t* s o g a r ein

106

K a p i t e l 8 : S c h ä t z e n von P a r a m e t e r n

N u l l s c h ä t z e r im Modell die

= { ® ( n , ^ ) - V e r t e i l u n g : n G IN^} i s t , w o b e i f ü r n = 0

Dirac-Verteilung

einen

anderen,

vorliegt.

einfacheren

Dieselbe

Argumentation

B e w e i s , daß im

Modell

liefert

übrigens

= {®(n, 1)-Verteilung: g

nG {g + 1,...}} j e d e r N u l l s c h ä t z e r d

von der G e s t a l t ( - 1 ) ' '

o

E a k " , k 6 IN . V=0 O

sein muß, wenn man z u r S c h ä t z f u n k t i o n , die d u r c h ( - l ) ' ^ d ( k ) , k G IN , q e o geben i s t , w i e d e r ein Polynom Tt : IN

o

^

-» R h ö c h s t e n s vom G r a d g w ä h l t

mit

7C (k) = ( - 1 ) ' ' d ( k ) , k 6 { 0 , 1 , . . . , g } . Dann i s t d u r c h (-D'^TI (k) - d ( k ) , k G IN , ein N u l l s c h ä t z e r

im Modell

= { » ( n, — ) - V e r t e i l u n g : n G IN } d e f i n i e r t , so

daß t a t s ä c h l i c h d o (k) = (-D'^TC o ( k ) , k G IN o , z u t r i f f t . Diese

Überlegungen

enthalten

bereits

die

Grundidee

zur

Übertragung

A u s s a g e , daß die f ü r n > g lokal o p t i m a l e n S c h ä t z e r im Modell V e r t e i l u n g : n GIN} Polynome in n G

der

= {I8(n,

h ö c h s t e n s vom G r a d g sind auf

den

sund o g eX^ nanntX e n^ m - S tui cn h c h das Modell als t eprr oPb eGn ^f a lsl ,t odcehrahsitei sr cdhu runabhängig und i dmit e n t iXs c== h (Xv e1 r t e i lXt emn), Z u f a l l s g r ö ß e n m i t P^^ als 35(n, - l ^ j - V e r t e i l u n g , n G IN, b e s c h r i e b e n w i r d . Beispiel (Die symmetrischen g in jeder

Polynome

Variablen als

Obermenge

Schätzer

im

m-Stichprobenfall

Parameters

k

k^ e IN^, j = 1

Variablen

zahligen

in (

der

einer

Familie für

!6(n,

£

N^

höchstens

vom

m, bei festgehaltenen der

für

n > g lokal

Parameterfunktionen

Grad übrigen

optimalen des

ganz-

)-Verteilung)

Im e r s t e n B e w e i s s c h r i t t w i r d z u n ä c h s t der Fall der globalen O p t i m a l i t ä t , also q = 0 , b e t r a c h t e t . Da ^

k

2

m

),k,GlN , j = 1 J o '

m, mit beliebiger S t i c h ^

p r o b e n f u n k t i o n d: I N ^ " ^ -» R , ein N u l l s c h ä t z e r im Modell als u n t e r j e d e m P G

^ ' " ^ m i t X^

X^

s t o c h a s t i s c h unabhängigen und i d e n t i s c h v e r t e i l t e n Z u f a l l s -

g r ö ß e n m i t P^^ als ® ( n , I ) - V e r t e i l u n g i s t . f o l g t aus der O p t i m a l i t ä t von d * :

R

nach der K o v a r i a n z m e t h o d e k i £ =0 1 2 ' •k m ) ( "ki ) = 0 f ü r alle (k^ k j G l N * ^ " ^ und jedes n G IN . H i e r a u s r e s u l t i e r t 2 m o ' d''(k.,k^ 1 2

k m

) = c , C G R , (k

1

k

m

) G IN"". In e i n e m z w e i t e n o

w i r d g e z e i g t , daß aus der lokalen O p t i m a l i t ä t von d : IN^ obigen Modell f o l g t , daß d * in k^ G (k^

kj

k^)

G

Beweisschritt R f ü r n > g im

bei f e s t g e h a l t e n e n ü b r i g e n V a r i a b l e n

ein Polynom

höchstens

vom G r a d g ist

für

8 S c h ä t z e n von P a r a m e t e r n

107

jedes j = 1,...,m. Zu diesem Zweck beachtet man, daß es ein Polynom Tt*:

o

j = 1

-» R von diesem Typ mit 7r*(l g f o l g t , daß d * ein Polynom der oben beschriebenen A r t i s t . Die S y m m e t r i e (X X ) (X X ) invarianz) folgt s o f o r t aus P TT von {1

=P

^

(Permutations-

f ü r jede P e r m u t a t i o n

m), zusammen mit der Eindeutigkeitsaussage

f ü r lokal optimale

Schätzer. Insbesondere gibt es also wie im Fall m = 1 lediglich die k o n s t a n t e n

Schätz-

f u n k t i o n e n auf I N ^ als gleichmäßig beste e r w a r t u n g s t r e u e S c h ä t z e r . Da man VJ V f e r n e r jedes Polynom Z „ k, -...-k k.elN , j = 1 m, auch ' ' Ofvjfig ^m 1 m • J o' ^ ' ' ' gemäß

Z b^, 0«V|Sg 1 j = 1..^.,m

^ ( J ' M - . k , G IN . j = 1 ^m J o

w e r d e n d u r c h solche Polynome wegen E ( ( ^ j ) ) = 2 !8(n, • ^ ) - V e r t e i l u n g , j = 1

m. d a r s t e l l e n kann.

mit P ^ j als

m, e r w a r t u n g s t r e u e S c h ä t z e r f ü r Polynome

in

n G N h ö c h s t e n s vom Grad g als P a r a m e t e r f u n k t i o n e n b e s c h r i e b e n . U m g e k e h r t ist aus demselben Grund jede solche P a r a m e t e r f u n k t i o n d u r c h ein Polynom auf der obigen A r t e r w a r t u n g s t r e u s c h ä t z b a r . Allerdings sind im Fall m > 1 die s y m m e t r i s c h e n Polynome in (k^ jeder Variablen k^ 6 N ^ , j = 1

k^)

G I N ^ höchstens vom Grad g in

m, bei f e s t g e h a l t e n e n übrigen Variablen im

allgemeinen nicht lokal optimal f ü r n > g. Genauer w i r d g e z e i g t , daß Im Fall m > 1 das S t i c h p r o b e n m i t t e l f ü r kein g G IN^ die Eigenschaft der lokalen O p t i m a l i t ä t f ü r n > g b e s i t z t . Zu diesem Zweck soll zunächst die größte konvexe Teilmenge C - ( d * ) von D . unter allen konvexen Teilmengen C von D , u n t e r s u c h t w e r d e n , die o o o d * e n t h a l t e n , so daß d * bezüglich C gleichmäßig b e s t e r e r w a r t u n g s t r e u e r

108

Kapitel 8 : S c h ä t z e n von Parannetern

S c h ä t z e r ist im Modell

mit X

X

1

m

als unter

stochstisch

unabhängigen, identisch v e r t e i l t e n Z u f a l l s großen mit P^^ als n e l N , wobei 8:

-»R gemäß

Beispiel (Untersuchung Parameter

der größten einer

= n definiert ist.

konvexen

Teilmenge aller für den

!B(n, ^)-Verteilung

m-Stichprobenfall

bezüglich

Verteilung,

erwartungstreuen

des zweifachen

ganzzahligen Schätzer

im

Stichprobenmittels)

Mit den obigen Bezeichnungen gilt C^Cd*) = {d 6 D^: E j^(dd*) ^ E x ^ d * ^ ) . P^ e m l t X ! = (X

X

) und d ' ' ( k ,

k

) = —(k

+... + k

), k. E { 0 , . . . , n } , i = 1

1 m 1 m m 1 m Diese Ungleichungen lauten unter Beachtung von i=1

m, k o n k r e t e r Z m 1=1

Z v= 1

m

k|e{0 i Var

(X, •^•••-^X ) 1 m

pX m

)

n 6 IN. FUr d 6 D , mit d(k S

k, + 1 I

1

1

+ ... + X

m

)) =

) = d(k+...+k

m

m.

^ , k^ 6 {1 k

n},

) 5 ( " )(V^) m j = 1 «J

n-1}

( X px m k

i

d(k

i )=

i

m

^ + n^ = n ( n + — ) . ^

), k , G l N . i = 1 m

kann man diese Bedingung auch e i n f a c h e r als

j

o

"

m, d : I N - » I R ,

'

o

d(n +

^ n + — , n G l N , b e s c h r e i b e n . Als Anwendung dieser Ungleichung müssen i n s besondere alle linearen S c h ä t z e r d e D^, also d ( k , k )= m I a,k,. k , £ l N , S I m (=1 I I j o m ^ j=1 m, a^ e R, j = 1 ~ 2 zu Cg(d ) gehören, da die linearen S c h ä t z e r d G D^ eine konvexe Teilmenge von D . bilden, die d * e n t h ä l t . Dies kann man 5 o m m 2 n a t ü r l i c h auch d i r e k t folgendermaßen einsehen: Ep( a^X. • ^S^ — X.) = m

( E „ ( S a,XX,) P I^J i i J

= — (2m— m

4

a , x f ) = ^ (( I i I m |j 3 für n > 1 2

für die Varianz des durch —

j = 1....,m, definierten S c h ä t z e r s .

m-1

m

m

E k., k , e IN ,

j= 1

j

J

o

8 Schätzen von Parannetern

III

Zum Abschluß der B e t r a c h t u n g e n , den ganzzahligen P a r a m e t e r einer 3B(n, Verteilung

betreffend,

soll

im 2 - S t l c h p r o b e n f a l l

der

Maximum-Likelihood-

S c h ä t z e r b e s t i m m t werden und gezeigt w e r d e n , daß dieser nicht e r w a r t u n g s treu (verzerrt) ist.

Beispiel

(Verzerrtheit benfait

des

Maximum-Likelihood-Schätzers

für den ganzzahligen

Bezeichnet

Parameter

"

einer

im

2-Stichpro-

35(n. ^

)-Verteilung)

W a h r s c h e i n l i c h k e i t , bei zweimaliger

unabhängiger A u s f ü h r u n g eines B e r n o u l l i - E x p e r i m e n t s vom Umfang n mit T r e f f e r w a h r s c h e i n l i c h k e i t ^ jeweils k ^ - m a l bzw. k ^ - m a l T r e f f e r zu e r z i e l e n , so gilt

Pki,l+1

>,

d-F

o

in diesem Modell =0 gilt mit

n _

p

+

n, ein für p e r w a r t u n g s t r e u e r

t r e u e r S c h ä t z e r , da für einen N u l l s c h ä t z e r Z d (k {0,1} o 1' j= 1 n

_

Schätzer

erwartungs-

8 S c h ä t z e n von Parannetern

115

= p^p + ( 1 - p ^ ) ( 1 - p ) . Multipliziert man nun die v o r l e t z t e Gleichung mit (

1

u

n

d

d i f f e r e n z i e r t anschließend nach so erhält man m n E „ ( d o (X X ) ( I X E X,)) = 0 für jedes P e V . so daß nach der P o 1 n j=i J j=m + 1 J m n Kovarianzmethode durch Z k , Z k,, k , G { 0 , 1 } , j = 1 n, ein gleichmäßig j= 1

J

j=m +1

J

J

'

^

^

b e s t e r erv**artungstreuer S c h ä t z e r definiert wird. H i e r a u s folgt die Optima1 m pi-1 + ki lität des durch - ( Z n j=l 2pi-1

n pi-k: Z j ), k . e {0.1}. j = 1 J = m + 1 2pi-1 j '

Schätzers

prozentualen

gruppe.

für

Dabei

den ist

unbekannten hier

noch

eine

leichte

Anteil

einer

n, definierten Bevölkerungs-

Verallgemeinerung

des

üblichen

V e r f a h r e n s behandelt worden, da e s der befragten P e r s o n ü b e r l a s s e n bleibt, das E r e i g n i s mit der W a h r s c h e i n l i c h k e i t p^ bzw. das zugehörige mit der W a h r s c h e i n l i c h k e i t

1- p^ mit der F r a g e

bzw. Nichtgruppenzugehörigkeit

zur

Komplement

Qruppenzugehörigkeit

zu verbinden. Diese Information muß aller-

dings dem E x p e r i m e n t a t o r bekannt sein, wobei diese Wahlmöglichkeit

even-

tuell die B e r e i t s c h a f t der B e f r a g t e n zur Mitarbeit erhöht. Man kann sogar zeigen, daß im Fall von unter P e ^ s t o c h a s t i s c h unabhängigen und { O . D - w e r t i g e n Z u f a l l s g r ö ß e n X^ V e r t e i l u n g , Pj ^

i = 1

X^ mit P^J als » ( 1 , p p j + (1-p)(1-p.))-

n. P E tO,1], jeder gleichmäßig b e s t e r e r w a r t u n g s -

t r e u e r S c h ä t z e r d * { 0 , 1 } " ^ R (zum eigenen E r w a r t u n g s w e r t als r e e l l w e r t i g e Parameterfunktion) j,k 6 ( 1

konstant sein muß, wenn nicht p. = p,

oder p, + p, = 1,

n} z u t r i f f t . In Verallgemeinerung der vorangehenden

Überlegungen

im Fall n = 2 mit p^ ^ p^ oder P^ + P j ^ 1 soll zunächst gezeigt w e r d e n , daß ein gleichmäßig b e s t e r e r w a r t u n g s t r e u e r

S c h ä t z e r d * : { 0 , 1 } ^ -> R

konstant

ist.

Nach der Kovarianzmethode gilt nämlich ^ xjeTO.D J = 1.2

1

2

2pi-1

-

2P2-1

a.! = P|P + (1-pj)(1-p), j=1,2. H i e r a u s

n 1=1 I

I

p G [ 0 , 1 ] mit ^

resultiert =

peco.i:,

1 = 1.2

w o r a u s wegen - ^ a ^ ' d - « j ) ^ " * * ' = ( 2 p . - 1 ) ( - 1 ) ' ' ' , i = 1,2, die Beziehung d * ( 0 , 0 ) ( p ^ - p 2 ) - d " ' ( 1 , 0 ) ( p ^ + p2-1) +d*(0,1)(p^ + p 2 - 1 ) - d * ( 1 , 1 ) ( p ^ - p 2 ) = 0 folgt. S c h l i e ß l i c h kann

man d* durch

mit A--= {(x^,x2) 6 { 0 , 1 } ^ : ld*(x^.X2)l = M } ,

116

Kapitel 8 : S c h ä t z e n von P a r a m e t e r n

M: = sup { I d ' C x ^ . x ^ ) ! : ( x ^ . x ^ ) £ { 0 , 1 } ^ } e r s e t z e n , da nach der Kovarianzmethode f ü r jedes k G IN ein gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r und damit auch aus demselben Grund

lim ( I R k o n s t a n t i s t , falls nicht p, = p. j oder p + p =1, j , k 6 { 1 n} z u t r i f f t . Zu diesem Zweck überlegt man sich z u J ^ n ä c h s t , daß nach der Kovarianzmethode d * : {0,1}^-> R mit d * ( x ,,x ) = = ti n—I n d*(x,,...,x 1 n-2

,,x ). (x ,.x ) G { 0 , 1 } ^ . ( x , , . . . , x n-1 n n-1 n . . .

gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r

Schätzer

.,) G { 0 . 1 } " " ^

im Fall

n=2

ist,

fest,

ein

denn

ist

d o : { 0 , 1 } ^ - > I R in diesem Fall ein N u l l s c h ä t z e r , so w i r d d u r c h d o (x 1 x n ): = • .(x,,...,x ^ ) d (x ),(x, X ) e { 0 , 1 } " mit A als beliebiger Teilmenge von A 1 n-2 o n - r n 1 n ^ ^ { 0 , 1 } " " ^ ein N u l l s c h ä t z e r d ^ ; { 0 . 1 } " - » I R f ü r den S t i c h p r o b e n u m f a n g n e r k l ä r t . Ist nun d * : { 0 , 1 } " ^ ^

R ein gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r , so

muß d 2 * mit d *2( x n .x n +,1) ! = d ' ' ( x , 1 x n - l n.x n +J1 = (x n,x n +J1e { 0 , 1 } ^ . (x x J G { 0 , 1 } " ' ^ f e s t , k o n s t a n t s e i n , falls p = p , oder p + p = 1 1 n-1 n "^n + l n n+1 nicht z u t r i f f t , was man mit Hilfe einer geeigneten P e r m u t a t i o n von {1 n+1} ohne Beschränkung der Allgemeinheit annehmen kann, falls nicht p = p oder J ^ p + p = 1, j,k e d n+1} g i l t . Nach I n d u k t i o n s v o r a u s s e t z u n g ist dann auch J ^ d * : { 0 , 1 } " ' ^ ^ R k o n s t a n t , wenn nicht p. = p^^ oder p^ + p^ = 1 g i l t . Es muß j e t z t nur noch gezeigt w e r d e n , daß es keinen gleichmäßig b e s t e n , e r w a r t u n g s t r e u e n S c h ä t z e r d * : { 0 , 1 } " ' ' ^ R g i b t , der von (x^

x^^^) G { 0 , 1 } " " ^ nur über

(x 1 x n ,) n-1}. 1 £ { 0 , 1 } " ' ' ' abhängt, wobei p.J = p.^ oder p,j + p. = 1. j.k G {1 z u t r i f f t . Zu diesem Zweck d a r f man p = p , j.k G d n-1} annehmen, da nach J ^ V o r a u s s e t z u n g p^ = p^, j 6 {j^ j^^} C d n-1} und p^ = 1 - p ^ . j 6 d n}\{j^ j^^} f ü r ein k G { 0

n - 1 } und ein p

GC0,1]\{1/2}

z u t r i f f t und man daher von

8 S c h ä t z e n von P a r a m e t e r n

X

X

r

, Ubergehen kann zu Z n-1 ^ 1

j 6 {1

n-1}\{j^

Z

, mit Z . — X., n-1 j j '

j^}. Damit sind Z^

'1

117

j, }. Z . — l - X . , ^k J j

unter P 6 ^ s t o c h a s t i s c h unab-

hängig und identisch verteilt mit P^^ als I8(1,pp^+(1-p)(1-p^))-Verteilung, P 6 E 0 . 1 ] . Nun w i r d aber durch E ~ ( d o ( Z ^ j®^®" S c h ä t z e r d:

-» R ein Polynom in p mit p : = p p

+(1-p)(1-p ) h ö c h s t e n s vom G r a d n-1 E Xj n - 1 d e f i n i e r t , w/obei d ^ {0.1}""^-» R mit d ' C x .x J = k k i n —1 (x^

ein für

^""'''-»R.

=

k =0

n-1, gleichmäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r i s t , so daß

d'Cx

X

1

J="l a, d*(x n-1 k=0 k k 1

x

Menge der optimalen S c h ä t z e r

J , (x n-1 1

x

,) e {0,1}""'' z u t r i f f t , da die n-1

einen linearen Raum Uber R aufgrund

der

K o v a r i a n z m e t h o d e bilden und aus d e m s e l b e n Grund optimale S c h ä t z e r eindeutig b e s t i m m t sind. F e r n e r muß nach der n-1 E

p k=0 k

Z^

-

k

2po-1

^n-1' ^n

P^V

2Pn-1

Z - ^ ^ E k = 0 2po-1

)) = 0, p e L O . 1 ] , z u t r e f f e n , wobei ' ^

s t o c h a s t i s c h unabhängig sind mit P " als

»(1,pp^+(1-p)(1-p^))-Verteilung n-1 gilt =

Kovarianzmethode

(Z (J"! p n-1 k

fUr ein p^ 6 [ 0 . 1 ] \ { 1 }, p G [0.1], n-1

))+

Z a. ^ ^ E k=0 k 2po-1

p

k

)) -

Daher

I a ( " : ^ ) p p = 0, k = 0 k k ^ ^^ '

p e C 0 , 1 ] , mit p: = p^p + (1-p^)(1-p), d. h. P = Vp^^^-^i" " W e g e n n-1 Z 2: V-\ )) = pE

E (Z p

n-1

k

^

n-1 E Z| + 1 {{>-\ ))=p[E p

k

^

n-2 n-2 E Z: E Z: ((j"! )) + E ((J-J , )] = p

k

p

k-1

p " + ('l^^^)p''"'') für k = 1,....n-2 b z w . p für k = 0 und p " " ' ' für k = n - 2 folgt h i e r a u s : kio^

'p z/n-h k

®n-1

~n-1

®n-1 ~n

k »P

-

+1 ^o ~ ^n-l ~n ^ - 2 ^ P - 2 ^ P

an-2 ,n-2>~n-1

»1

~

fn-2>~k_ -

1

,

zn-2,

p 6 [min{p^,1-p^}, max{p^,1-p^}]. H i e r a u s folgt d u r c h K o e f f i z i e n t e n v e r g l e i c h

118

Kapitel 8 : S c h ä t z e n von P a r a m e t e r n

=

k=1

n - 1 , d. h. d * = a ^ , w o m i t gezeigt w o r d e n i s t , daß ein g l e i c h -

mäßig b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r d * : {0,1}"-> R k o n s t a n t Ist, falls nicht p, = p. oder p +p. =1. j , k 6 { 1 J

K

j

n} z u t r i f f t .

K

Dieses Beispiel läßt noch folgende naheliegende M o d i f i k a t i o n zu: Es w i r d mit unbekannter W a h r s c h e i n l i c h k e i t p e [ 0 , 1 ] b e s t i m m t , welches von zwei B e r noulli-Experimenten

vom

Umfang

n

mit

jeweils

bekannten

Trefferwahr-

s c h e i n l i c h k e i t e n p^ b z w . p^ d u r c h g e f ü h r t w i r d , so daß in diesem Fall vom Modell (p'^^

mit

X^

X^ als

stochastisch

unabhängigen,

identisch

v e r t e i l t e n Z u f a l l s g r ö ß e n m i t P^^ als !B(1,pp^ + (1- p ) P 2 ) - V e r t e i l u n g ausgegangen w e r d e n kann. Wegen P •

(x),

x e [ - M , M ] ( x ^ G [ - M , M ] fest) gleichmäßig durch stetige Funktionen auf [ - M , M ] , s o f o l g t h i e r a u s , daß g o d * e i n g l e i c h m ä ß i g b e s t e r e r w a r t u n g s t r e u e r i s t . Die V o r l i b e r l e g u n g e n EPX^GOD'^EPX'HOT),

zu d i e s e m B e i s p i e l l i e f e r n d a n n E p x t g o d * • h o T) =

P^gV^.

f a l l s T : O ^ - > O.^. f U r

ist. Daher

sind d * und T u n t e r j e d e m P ^ G ^ ^

Bevor

Familien

nun

vollständigen

diskreter

Abbildung

stochastisch

Verteilungen

T : O ^ -» O ^

verteilungsunabhängig

untersucht

Uber

O

werden,

unabhängig.

mit

einer

soll

mit

S a t z e s von L e h m a n n und S c h e f f e s o w i e der K o v a r i a n z m e t h o d e schätztheoretische

Kennzeichnung der Vollständigkeit

den, falls T bereits für ^

Beispiel

(Schätztheoretische dungen,

Ist T f i j r ^ ^

Schätzer

die suffizient

suffizient

für Hilfe

eine

einfache

von T b e w i e s e n

der

Vollständigkeit

von

nach d e m S a t z von L e h m a n n und

d'oT

mit existierendem E p x ( ( d * o T ) ^ ) ,

gleichmäßig bester, e r w a r t u n g s t r e u e r

^^

vollständig.

S c h ä t z e r i s t , daß T f ü r

ein N u l l s c h ä t z e r , so f o l g t nach der

E p x ( ( d ^ o T ) ^ ) = 0, P ^ G V ^ ,

d. h.

Scheffe

der G e s t a l t d * o T G D . fUr 8 g l e i c h s

mäßig b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r i s t . U m g e k e h r t f o l g t aus der

ist. ist nämlich d ^ o T

Abbil-

sind)

d i e V o l l s t ä n d i g k e i t , daß j e d e r S c h ä t z e r

Schätzer

wer-

ist.

Kennzeichnung

s u f f i z i e n t , so l i e f e r t

s c h a f t , daß j e d e r

des

EigenP^G^^.

vollständig

Kovarianzmethode

0}) = 0, P ^ G V ^ ,

also ist T

für

126

Kapitel 8 : S c h ä t z e n von P a r a m e t e r n

Es ist auch möglich, die S u f f i z i e n z und V o l l s t ä n d i g k e i t von T: Q

^

X

O

r

fUr

gemeinsam s c h ä t z t h e o r e t i s c h zu kennzeichnen, wie das folgende Beispiel zeigt. Beispiel (Schätztheoretische

Kennzeichnung

von Suffizienz

und

Vollständigl X

fi^

I

fiJr

g l e i c h w e r t i g ist mit der Existenz eines gleichmäßig besten e r w a r t u n g s t r e u e n ^ ^ 4 R,

Schätzers d ' o T für

= P ^ ( A ) , P eq), A e q X D ^ )

A

mit

d * ( y ) ! = Q y ( A ) , y e O ^ . Y: = T o X, wobei Q^ f ü r jedes y G O ^ eine d i s k r e t e V e r t e i l u n g Uber O mit Q ^ ( T " ' ' ( { y ) ) ) = 1 , y ^ p I g J ^ O y für

' s t nämlich

s u f f i z i e n t und vollständig, so s t e l l t d * einen f ü r

er war tungs t r e u e n S c h ä t z e r d a r , A 6 ^ ( O V e r t e i l u n g Uber O ^ mit

=

Q ^ ( T " ^ ( { y } ) ) = 1, y ^ p ^ ^ ^ p Y t r e u e von d * f ü r H

X

gleichmäßig besten

), wobei Q y , y G OY, hier eine d i s k r e t e

y G O ^ y - P ^ V . so daß insbesondere z u t r i f f t . U m g e k e h r t f o l g t aus der

und Q ^ ' T ^({y})) = 1, y G O ^ y

Erwartungs-

die Beziehung

Q ^ , , ( A n T " ' ' ( { y } ) ) P ^ ( { y } ) = P ^ ( A n T " ^ { y } ) , d. h. Q (A n T ' ' ' ( { y } ) =

P ^ ( A n T ' ^ ( { y } ) ) / P ^ ( { y } ) , A G ^ X O ^ ) . also s u f f i z i e n t fUr

=

Die V o l l s t ä n d i g k e i t von T f ü r ^ ^

y G O ^ y . Daher ist T f o l g t d a r a u s , daß mit

d : n ^ - > I R , E ^ ( d ^ ) < o o , P g V . der S c h ä t z e r d * o T mit d * ( y ) : = S d ( x ) Q ( { x } ) , X ' pX • ' xeOx y y G O ^ , fUr

= = E ^ ^ ( d ) , P g ^ , ein gleichmäßig b e s t e r , e r -

w a r t u n g s t r e u e r S c h ä t z e r i s t , denn es gilt E^yCd") = ^ ^ xeOx

d(x)

E

d*(y)P^({y}) =

Z : Q ({x})P^({y})= H d ( x ) P ^ ( { x } ) = E ^ ( d ) , P G ^ , wobei yeOy y xsDx p^ aus der O p t i m a l i t ä t von d ' o T mit d = = d L , ^ ,

insbesondere pY E_Y(d* von d ' o T

)^

. . n G N , d. h.

), P G ^ ,n gil. Dabein e r g i b t { I sich d ü n } die O p t i m a l i t ä t

(und p damit auchp Xvonn d n* o T , nGlN) aus E pX ^(d o• d ' ' o T ) = 0, ' n

PG^.

mit d^ als N u l l s c h ä t z e r gemäß der Kovarianzmethode, denn es gilt E pX^ ( d o • d ' ' o T ) = x eSn x d° ( x ) d * ( T ( x ) ) P ^ ( { x } ) = z e 2 O:x d(z) x e n x (d ° ( x ) Q ^ , =

S : ( d ( z ) - 0 ) = 0 , P g V . Insbesondere ist d o T mit E ^ ( ( d o T ) ^ ) < < x > , zeOx p

für

d

8^

doT

,({z})P'^({x) PgV.

= E ^ ( d o T ) , P g V . ein gleichmäßig b e s t e r , e r w a r t u n g s pX

t r e u e r S c h ä t z e r wegen ( d o T ) * ( T ( x ) ) = x G O ^ mit T ( x ) G p ^ O p Y . da

H (d o T ) ( z ) Q ^ , , ( { z } ) = d ( T ( x ) ) , _zGT-i({T(x)}) V T ( X ) } ) = 1, X G mit T(x) G p ^ ^ " p V

8 S c h ä t z e n von P a r a n n e t e r n

z u t r i f f t . Ist nun s p e z i e l l d o T ein N u l l s c h ä t z e r , so f o l g t aus E

127

^(doT)=0, pX

P e V . nach der K o v a r i a n z m e t h o d e E pX ^ ( d o T ) ^ ) = 0 , PG^P. d. h. P ^ ( { d o T = 0 } ) = 1. P g V . also ist T für

vollständig.

In den m e i s t e n h i e r b e t r a c h t e t e n Beispielen von Familien d i s k r e t e r lungen

w a r jede V e r t e i l u n g P ^ G ^ ^

e i n d e u t i g d u r c h einen r e e l l e n

m e t e r g e k e n n z e i c h n e t , d. h. es e x i s t i e r t trisierung)

eine i n j e k t i v e A b b i l d u n g

Tt: ^ ^ -» R . Man b e z e i c h n e t in d i e s e m Fall Q - = 7t ( V ^ )

Parameterraum

Vertei-

und { P ^ : ^ G 6 } m i t P ^ : =

Para-

(ParameC R als

^

G 0 , eine

einpara-

m e t r i g e Familie von d i s k r e t e n V e r t e i l u n g e n . H ä u f i g läßt

s i c h eine

einpara-

/->^ = _ R mn ^ IV^JH P^ nX G ^ t»X m e t r i g e Familie { Pi X^ : •a» ^G S } m i t O " , OpX C o' V e r t e i l u n g e n in der G e s t a l t P ^ ( { x } ) = »

•

d a r s t e l l e n . Dabei i s t K: 6 -> R p o s i t i v und h: O ^ T e i l m e n g e von R'^: = {x G R : x > 0} s o w i e T : R " daß { P ? : •ö' G 0 } eine einparametrige I n s b e s o n d e r e e r g i b t s i c h , daß O x

x G O ^ , f ü r jedes d G 9 X'

R n i c h t negativ und 0 eine R m i t T ( N ^ ) C N ^ . Man s a g t .

Potenzreihenfamilie unabhängig

von d i s k r e t e n

in T und d G 0

von d G 0

i s t , so daß

Beispiel eine Familie von L a p l a c e - V e r t e i l u n g e n keine e i n p a r a m e t r i g e reihenfamilie

sein k a n n . Beispiele

für

einparametrige

ist. zum

Potenz-

Potenzreihenfamilien

sind: 1.

= { » ( n , p ) - V e r t e i l u n g : pG ( 0 , 1 ) } . Hier ist m i t h(x)!= (") für X G {0

3.

xGN

G 0== R^. K t ^ j ^ C - ^ ) '

n) und h ( x ) : = 0 f ü r x G R \ { 0

= { V ( X ) - V e r t e i l u n g : X G R""}. S e t z t man h(x)!=^, XI

I~ P

1

V

n } , T ( x ) ! = x, x G R .

X, so i s t 0 : = R"",

, und h ( x ) ! = 0 f ü r x G R \ IN , T { x ) ! = x . o o

=

xGR.

= { i K » ( r , p ) - V e r t e i l u n g : p G ( 0 . 1 ) } . M i t & = = 1- p i s t © = = (0,1), K ( d ) : = ( 1 - d ) ' " , h ( x ) : = ( - 1 ) ' ' ( " ' " ) , xG IN . u n d h ( x ) ! = 0 f ü r xG R \ N

, K x ) : = x, x G R .

E i n p a r a m e t r i g e P o t e n z r e i h e n f a m i l i e n ^ ^ = { P ^ : d G 0 } in T und ^ G © haben die E i g e n s c h a f t , daß T f ü r

v o l l s t ä n d i g i s t , f a l l s es eine r e e l l e Zahl a > 0

gibt m i t ( 0 , a ) C 0 . Aus E p ^ t d ^ o T) g(t)!=

d^(t)K(d)a*g(t)

= 0. & G 0 ,

mit

I h ( x ) , t G l N . f o l g t n ä m l i c h nach dem i d e n t i t ä t s s a t z f ü r P o t e n z xGT-1({t}) °

128

Kapitel 8: Schätzen von P a r a m e t e r n

reihen d ^ ( t ) = 0 f ü r alle t 6 IN^ mit g(t) > 0, woraus sich wegen ü p j o x und

= 0 f ü r g(t) = 0. t e IN^. e r g i b t

P^({d o T / O » = 0 ,

0 » = 0 , P^ e

I^q d. h.

P^e

Ferner ist T f ü r ^ ^

als e i n p a r a m e t r i g e Potenzreihenfamilie in T und & G 0

auch s u f f i z i e n t , wobei f ü r diese Aussage die Annahme (0,a) c 0 f ü r ein a > 0 nicht benötigt w i r d . Die S u f f i z i e n z von T f ü r aus

g(y):=

=

folgt mit Y: = T o X u n m i t t e l b a r ^ ^

^ ^ ^

^ ^ ^

Z h ( x ) , y e fi Y (O Y ist unabhängig von d e 0 ) , falls T(x) =y xCT-1({y}) P» P^

z u t r i f f t . Im Fall T ( x ) ? ! y gilt P^'>'({x}) = 0 . Damit ist d u r c h q (x): = ' ^ 9 ^y g(y) xeT

V { y } ) f ü r jedes y 6 0

„

d i s k r e t e Verteilung Q

Träger in IN^ l i e g t , b e s t i m m t mit

Beispiel (Vollständigkeit PascalSind X^

und

= Q

und Suffizienz

yGO

über R , deren y-

der Summenabbildung

bei

Bernoulli-,

Poisson-Experimenten)

X^ unter P £

s t o c h a s t i s c h unabhängig und identisch v e r t e i l t mit

P^^ als a) 35(1.p)-Verteilung ( B e r n o u l l i - E x p e r i m e n t vom Umfang n), p e ( 0 , 1 ) , b) 3135(1.p)-Verteilung ( P a s c a l - E x p e r i m e n t vom Umfang n), p G ( 0 , 1 ) , c) ^P(X)-Verteilung ( P o i s s o n - E x p e r i m e n t vom Umfang n), X 6 R * . so w i r d gezeigt, daß die Summenabbildung T : R " - » R mit T(x^ X. e R . j = 1,....n. f ü r

X:= (X^

allen drei Fällen gilt nämlich ^ X.GR, i = 1 n, 0 , mit J ' a) 0 : = R'', = 1- p und h ( x , I

X ) ! = 0 für (x, n

x n) » =

-a 6 0 , h(x I

x

n

I

X ) = = 1 f ü r (x n

i

0 , h(x,,...,x ) : = 1 f ü r ( x 1 n 1

I x n ).

x ) £ {0,1}" n

x ) e IN" n o

X ) ! = 0 für (x,,..,x ) 6 R " \ I N " , n 1 n o

c ) & : = XG 0 : = R " ' , K ( & ) = e " " ® , & G © , h ( x , 1 und h(x I

I

''"'h(x

)GR"\{0,1}",

b)-»! = 1 - p e 0 ! = (0,1), K ( d ) ! = ^ und h(x

+

X ^ ) . vollständig und s u f f i z i e n t i s t . In

P ^^ ( { ( x 1

1

x^): =

n X ) : = 0 f ü r (x I

n x )e

x ): = — p - ! -für(x, n x-jl'...'xp) 1

R " \ N o" .

x ) G N" n o

8 S c h ä t z e n von P a r a n n e t e r n

Im Fall a) Scheffe

und

c)

erhält

nochmals,

daß

man

das

zusammen

mit

arithmetische

dem

Mittel

Satz +

129

von L e h m a n n

+

und

gleichmäßig

b e s t e r , e r w a r t u n g s t r e u e r S c h ä t z e r f ü r p b z w . X i s t , w ä h r e n d im Fall b) die Trefferwahrscheinlichkeit p optimal e r w a r t u n g s t r e u durch

—

£ schätzt c

( pV

wird.

ge-

n-1+ i:

Im Fall b ) i s t n ä m l i c h P

X I

eine ! R 8 ( n , p ) - V e r t e i l u n g , so daß

\ _ V f n + k - l v n„l< _ „ v ,n-1-H n - 1 k _ „.,. ) ^ — r ~ r ( ,, 1 q p ^ ( „ o q p giltn / k=0 n-1+k n-1 f i ^ k=0 ^^ ^ ^ n - 1 + Z X: 1= 1

'

Man s p r i c h t im Fall b ) a u c h von inverser Fall a)

auch

von

direkter

Stichprobenentnahme,

Stichprobenentnahme

so daß

gesprochen

werden

kann.

A u c h b e i m P r o b l e m , a u f g r u n d des n - m a l i g e n Z i e h e n s o h n e Z u r ü c k l e g e n prozentualen

Anteil P-=

von N P r o d u k t i o n s s t l i c k e n ,

von denen M

im

den

defekt

s i n d , zu s c h ä t z e n , h a t m a n die b e i d e n M ö g l i c h k e i t e n d e r d i r e k t e n und i n v e r s e n S t i c h p r o b e n e n t n a h m e . Im e r s t e n Fall soll a l s o p:= k e

aufgrund der Realisierung

e i n e r Z u f a l l s g r ö ß e X m i t P ^ als ^ ( N , M , n ) - V e r t e i l u n g , N E I N ,

M R

ist von der Gestalt d o T mit geeigneter A b b i l d u n g d : R " - » R . G i l t n u n E^x^d oT) = 0 für jedes P e so folgt speziell für die diskrete Verteilung P^^ über R mit P^U{Xj}) = Pj, j = 1 m, wobei x^ G M, j = 1 m, paarweise verschieden, p^. s 0, m j =1 m, Multinomialsatz die Beziehung

8 S c h ä t z e n von P a r a m e t e r n

ij=1 J=1

S

m n

Pi," •••• Pi d ( T ( x . ^'n '1

x; )) = 'n

Z

j = 1

131

d(T(y

n, z u t r i f f t und x. in (y^

y )) = 0 , w o b e i y , e {x

y ^ ) g e n a u l —pKt !

_

ist

kfeiN^

kjikj-

zu b e a c h t e n und y , G { | x J J 1

|x

m

|} b z w .

kj.^kj = k j Vj e { 0 , | x j in (y.|

j = 1

n, w o b e i k^ die H ä u f i g k e i t d e s A u f t r e t e n s von Ix^l

y^) a n g i b t . D i e A r g u m e n t a t i o n m i t H i l f e h o m o g e n e r

dann wieder

1

v o n T^ f ü r

n

=

ergibt

P({T30X=y})

. falls T

s

(x

i

n

sich

|Xj| u n d

y^). G i l t

mit

x ) = (y •'1

k^ a l s

aus

^ , , 2 " P ( { X i =xi}) • . . P ( {X„ = x „ » Kl I- . ..-Knr, ! y ) g i l t und ( x , •'n ^ I

T r ä g e r v o n P ^ s t a m m t , s o w i e |x.| ^ 0 , j = 1

(y.|

liefert

y^)) = 0 . w o r a u s P ^ ( { d o T^ = 0}) = 1 f ü r a l l e P^ G

folgt. Die S u f f i z i e n z

schiedenen

Polynome

der

Ixjl = 0 f U r ( g e n a u )

dem

m mit m als A n z a h l d e r

Häufigkeit ein j = 1

x ) aus n

des

Auftretens

m, so

ist

2"

dem

Satz

von

D^ f ü r

8:

der

ver-

|x.|

in

durch

zu

ersetzen. Im o b i g e n Scheffe 8:

Modell

eine

-» R

bzw.

Schätzfunktion gleichmäßig

permutationsinvariant

also

d: R "

R

bester

bzw.

erhält man auf diese W e i s e tionsinvarianten

ist

für

nach mit

d e

8 erwartungstreuer

zusätzlich nochmals

Stichprobenfunktionen

vorzeicheninvariant

Lehmann -» R

Schätzer, ist.

einem

bzw.

wenn

d

insbesondere

das R e s u l t a t , daß g e n a u die in

und

permuta-

Bernoulli-Experiment

vom

8 S c h ä t z e n von P a r a m e t e r n

Umfang

n optimal

sind.

Aufgrund

der

obigen

i n s b e s o n d e r e , daß d i e Symmetrisierung d (x^ s 1

X ) =-V n n!

d®(x

X )=—-— n nl2

1

E d(x I

X , ,) 7t(n)

7r(1)

d(±x

d

±x

7t(1)

Schätzer

beziehen,

s i n d . Die N u l l s c h ä t z e r

, J 7t(n)

mit

dadurch

gekennzeichnet,

b z w . d= O

g ^ i l t P ^ ( { d OS = 0 »

Als

Anwendung

soll

erwartungstreue

daß

= = Ep(X^), P^ G

die

= 1. P ^ G

speziell

Schätzer

für

^^

= 1, P ^ G

gleichmäßig

gleichen Komponenten, wobei der T r ä g e r

bzw.

bzw.

Teilmenge

von E p ( X ^ )

ist.

Beispiel

Stichprobenstreuung

rischer

für

im M o d e l l nere Varianz

mit liegt,

symmetrisch Existenz

(und

wird.

suffizient), über R

ar-

und

empi-

im

Modell

dar,

wobei

Verteilungsfunktion)

Da d a s S t i c h p r o b e n m i t t e l einen

Dabei

angenommen

, j = 1,2, v o l l s t ä n d i g

Stichprobenmittel,

fest,

M von R

Verteilungen ebenfalls

gumentiert worden ist, deren Träger endlich von

bzw.

verglichen werden.

da b e i m N a c h w e i s d e r V o l l s t ä n d i g k e i t m i t d i s k r e t e n V e r t e i l u n g e n

(Optimalität

mit

der diskreten Verteilungen

in e i n e r

i m Fall j = 2 d i e E x i s t e n z

Dann bleibt T b z w . T^ f ü r

beste

mit x G R

z u m N u l l p u n k t a n g e n o m m e n w i r d , u n d w o b e i f e r n e r i m Fall j = 1 d i e von E p ( X ^ )

^s

-» R . j = 1 , 2 . 3 ,

bzw. P^ G

das n - f a c h e d i r e k t e P r o d u k t

die i m F a l l z u m N u l l p u n k t s y m m e t r i s c h e r

d^^

Varp(X^), P^ G

a n g e g e b e n u n d in d e n b e i d e n M o d e l l e n m i t e i n a n d e r ist Vj^ b z w .

Vor-

b z w . ^ ^ sind s

^

der

R b z w . 8^:

bzw. P^ G

die

erwartungstreue

o = 0»

bzw.

auf

sich

Symmetrisierungen

bzw.

^

) 6 R " , wobei

beste,

zugehörigen ^

^^

n

im obigen Modell ^

o

, und 8 3 ( P ^ ) : = P ^ ( ( - Q D , X ] ) , P^ G

P^GVg^

,x

1

n} b z w . z u s ä t z l i c h

im Modell ^ ^

fUr

(x

8 gleichmäßig G D

o

folgt

bzw.

für d

SuffizienzUberlegungen

b z w . d® von d G D . g e m ä ß o

S

die S u m m e n a u f P e r m u t a t i o n e n 7t von {1 zeichenkombinationen

133

permutationsinvariant

gleichmäßig

besten

ist, stellt

erwartungstreuen

dieses

Schätzer

d i e N u l l f u n k t i o n f ü r 8^ o p t i m a l i s t u n d i n s b e s o n d e r e e i n e als

das

Stichprobenmittel

besitzt.

Nicht

der V e r g l e i c h der f ü r 8^ o p t i m a l e n S c h ä t z e r im Modell durch £ x.^, (x n J= 1 j 1' 8^ e r w a r t u n g s t r e u ,

x )GR", n

ganz ^^

definierte Schätzfunktion

permutations-

und

vorzeicheninvariant

so

klei-

einfach

ist

^^^ • V^s" im Modell ist.

stellt

nach d e m S a t z von L e h m a n n und S c h e f f e einen f ü r 8^ o p t i m a l e n S c h ä t z e r

für diese dar.

134

K a p i t e l 8 : S c h ä t z e n von

Im M o d e l l

^^

Ist

die

Parannetern

Stichprobenvarianz

e r v » ( a r t u n g s t r e u e S c h ä t z f u n l < t i o n ein Varianz

nach f r ü h e r e n

für

optimaler

Berechnungen ^

(Ep(X^)

z u t r i f f t . Dagegen gilt V a r p ( l 1 - ( E ^ ( x f ) E ? ( x f ) ) n P 1 n-1 P I (x^

x^) 6 R "

S c h ä t z e r , fUr d e s s e n

-

Ep(X^))

2s

. Da die d u r c h

stellt

diese

im M o d e l l ^ ^ e i n e n fiJr

aber nicht vorzeicheninvariant

gilt,

ZI, n j=i (-00,x]

( x 6 l R f e s t ) d e f i n i e r t e S c h ä t z f u n k t i o n fUr 8^ ist,

für

falls

x f ) = ^ Var^CXf) = 1 (Ep(x:;^)-E2(xf))

für

und p e r m u t a t i o n s i n v a r i a n t lungsfunktion

als p e r m u t a t i o n s i n v a r i a n t e

sogenannte

J

erwartungstreu

empirische

optimalen Schätzer dar.

Vertei-

Da d i e s e r IX I

i s t , e r h ä l t man fUr x ^ O w/egen P

^ ((-ao,x]) =

P ^ ^ ( ( - c o , x ] ) - P ^ M ( - o o , - x ) ) = 2 P ^ n ( - o o , x ] ) - 1 , P ^ e V g . mit ZI, ,(|xl) = l + 4 2 ('r '-'r ,(x,)), (x, 2 2n j = i (-00.xD J 2 2n j = i ( - 0 0 . x ] J (-00.-x) J ' 1'

x)6lR". ' n

e i n e n f ü r 8^ g l e i c h m ä ß i g b e s t e n e r w a r t u n g s t r e u e n

gilt

Schätzer. Ferner

V a rP^ (2- i + -2n L JZ= 11, ( - o D . x, ] o l X . Ij ) = ^ 4 n p ' ^ ' ' ' ( ( - o o , x ] ) ( 1 - p ' ^ ' ' ' ( ( - o o , x ] ) ) 2n

( 2 F ^ i ( x ) - 1 ) ( 1 - F ^ i ( x ) ) ä = n

ZI, ,oX.), P n j = l (-00,x] j

m i t F^'iCx) = P ^ ' ' ( ( - c o , x ] ) ( i F ^ ' i t x ) I n t e r e s s i e r t

man s i c h fUr

einen g l e i c h m ä ß i g b e s t e n e r w a r t u n g s t r e u e n S c h ä t z e r f ü r 8: ^P = E p ( ( X ^ - EpCX^))*"), P ^ e

wobei

das n - f a c h e d i r e k t e

d i s k r e t e n V e r t e i l u n g e n Uber R m i t g l e i c h e n K o m p o n e n t e n in e i n e r

Teilmenge

=

M von R l i e g t und d e r e n M o m e n t

-> R mi t S ( P ^ ) Produkt

ist, deren

der Ordnung

von

Träger 2k

exi-

s t i e r t , so g e h t m a n a m b e s t e n von d e r G l e i c h u n g 8(P^)=

Z \> = 0 ^

P

1

P

P ^ e V f a u s . Dann i s t d e r d u r c h k

1

_L y n! n

y ("X-D'^-^X" -X • v=0 ^ td) 7c(2)

(x

X ) 6 R " , d e f i n i e r t e S c h ä t z e r f ü r 8 o p t i m a l , w o b e i Z die n ' 7c

1'

-X = — Z ""Z^X -X ) ^TtCk-v-M) n! „ i = 2 ^'^Ttd) '^Tcd)'-

Uber alle P e r m u t a t i o n e n TT von {1 i m Fall X^

von

stochastisch

n}

Summation

bedeutet.

unabhängigen,

identisch

verteilten

Zufallsgrößen

X^ m i t P^^ als V ( X ) - V e r t e i l u n g m i t u n b e k a n n t e m P a r a m e t e r

ü b r i g e n s , daß

das

S c h ä t z e r f ü r 8:

Stichprobenmittel ^

gleichmäßig

bester,

R , 8 ( P ^ ) = V a r p ( X ^ ) m i t X : = (X^

b e s o n d e r e , daß die S t i c h p r o b e n s t r e u u n g

gilt

erwartungstreuer X ^ ) , i s t . d. h. i n s -

als e r w a r t u n g s t r e u e r

8 in d i e s e m Fall k e i n g l e i c h m ä ß i g b e s t e r e r w a r t u n g s t r e u e r

X>0

Schätzer

Schätzer

für

i s t . Die

8 Schätzen von Parametern

Optinnalität des Stichprobenmittels für die Varianz der ist fUr die Poissonverteilung

charakteristisch,

135

Einzelbeobachtung

wie das folgende

Beispiel

zeigt. Beispiel (Schätztheoretische Es seien X^

Kennzeichnung

X^ unter P

der

Poissonverteilung)

stochastisch unabhängige, identisch verteilte

Zufallsgrößen, wobei Epfx'j) für jedes k G IN existieren möge. E s soll gezeigt werden, daß aus der Eigenschaft des Stichprobenmittels, für jeden S t i c h probenumfang n i 2 ein gleichmäßig bester erwartungstreuer S c h ä t z e r für ^"'^R,

^ " ' ) : = V a r p ( X , ) . p""^

sein, folgt, daß P ^ fUr jedes P 6

^n'g^tXi

^^^

eine Poissonverteilung ist. Zu diesem

Zweck wird zunächst die Beziehung EpCX^"^') = (Ep(X^))'", r g N ^ , fUr die faktoriellen Momente von X^ bezüglich P 6 V , nachgewiesen. Für r = 0 und 1 ist diese Beziehung offensichtlich, während der Fall r = 2 aus der Voraussetzung Ep(X^) = Varp(X^), P

folgt. Damit gilt nach Induktionsvoraussetzung für

r i 2 mit Hilfe der Kovarianzmethode Ep( woraus Ep(X^ •

^

- X^ • ... • X^)) = 0, P e

E p ( X , ) E p ( x j ^ ' ) - r E p i x f • X^ • ... • X^) =

+

rEpCx'""^) + (r-1)Ep(X^)Ep(X*'"') - r E p ( x f XEpCX^))""'^ = EpCX^'"'^') + r(Ep(X^))'" + (r-1){Ep(X^))'"'"^ - r(Ep(X^) + (Ep(X^))2)(Ep(X^))'"^ = EpCX^""""^') - (Ep(X^))'"''^ = 0, P e V . resultiert. Ferner sind durch die faktoriellen Momente Ep(X^'''), r GlN^. die Momente Ep(X'^), r GIN^, eindeutig bestimmt, da

r = 0.1

k)

eine Basis des Vektorraums aller Polynome in x E R höchstens vom Grad k (k GIN^ fest) ist. Schließlich genügen die faktoriellen Momente Ep(Y^'"'), r elN^. mit P ^ als V ( X ) - V e r t e i l u n g der Beziehung EpCY^""^) = (EpCY))"", r G N ^ , wie man am einfachsten wegen E p ( t ^ ) =

t G R , durch r - m a l i g e s Dif-

ferenzieren nach t nachweist. Darüberhinaus folgt aus der Existenz von Ep(e*^^), t g R , daß die Momente Ep(Y'"), r GlN^, die Verteilung P ^ eindeutig bestimmen, woraus resultiert, daß p'^^ für jedes P g V eine ^ ( ^ ' - V e r t e i l u n g sein muß, wobei X = 0 zugelassen ist und dieser Fall als 8^-Verteilung aufzufassen ist. Man kämm im vorangehenden Beispiel die Annahme, daß das Stichprobenmittel für alle n ^ 2 ein gleichmäßig bester erwartungstreuer S c h ä t z e r für die Streuung ist, dadurch e r s e t z e n , daß dies nur für einen Stichprobenumfang n ^ 2 zutrifft. Dies zeigt das folgende

136

Kapitel 8 : S c h ä t z e n

Beispiel

(Ubereinstimmung einer

von

der

Parannetern

ersten

Poisson-verteiiten

Stichprobenmittels

Momente

Zufallsgröße für

die

höherer

Ordnung

aufgrund

der

mit

denen

Optimalität

des

Streuung)

E s s e i e n X^.X^,... reellwertige, s t o c h a s t i s c h u n a b h ä n g i g e u n d identisch verteilte Zufallsgrößen

unter jeder Verteilung

P

aus

V e r t e i l u n g e n , w o b e i EpdX^l'') < oo, k = 1 Dann

einer n i c h t - l e e r e n 2£. P

Menge

für ein £ E I N

soll g e z e i g t w e r d e n , d a ß Ep(X![") fijr j e d e s P

^

von

zutreffe.

für nn = 1

£+1,

mit

d e n e r s t e n £ + 1 M o m e n t e n einer P o i s s o n - v e r t e i i t e n Z u f a l l s g r ö ß e Ü b e r e i n s t i m m t , falls d a s S t i c h p r o b e n m i t t e l b a s i e r e n d a u f

für ein n > 1 ein g l e i c h m ä ß i g

b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r für V a r ^ C X ^ ) , P £ V , ist. D i e s ergibt sich a u s d e r B e z i e h u n g E p ( X ^ ( X ^ - 1)... (X^ - m + 1)) = E ^ ( X ^ ) für m P g V . d e n n h i e r d u r c h w i r d EpCX^'"), m

= 1,...,£ +1, P

die o b i g e B e z i e h u n g für die faktoriellen M o m e n t e verteilte

Zufallsgröße

eingeschlossen

erfijllt, w o b e i

ist. W e g e n

Ep(.£

E „ ( I X , ( X -(X -1)...(X - m + 1 ) - X P J=1 J 1 1 1

die

= 1

2+1

werden

d u r c h eine

Dirac-Verteilung

im

m > n

und

-...-X )). m = 1 I m

n und nach

mä£+1, den

PG^,

Überlegungen = 1

n und

gilt E p ( . £ ^ Xj(jn X . ( X . - 1 ) ...(X.-v. + l)-

wegen

E p ( . p / X j ( X . - 1 ) . . . (X.-v^ + l) -

1)...

( X ^ - m + D ) = 0 , P e ^ P , a u f g r u n d d e r K o v a r i a n z m e t h o d e m i t v^ G I N , j = 1 +

+

=

Hieraus

resultiert

E p ( x f (X,-1) ...(X^-m + D )

mit

X j ( X ^ ( X ^ - 1) . . . ( X ^ - m + 1 ) - X ^ - . . . - X ^ ) ) =

so

X ^ ( X ^ - I ) . . . ( X ^ - m + 1)) = 0 , P e V ,

Poisson-

Nullpunkt

z u m v o r a n g e h e n d e n Beispiel m i t Hilfe vollständiger Induktion für m Ist n u n

jedes

eindeutig b e s t i m m t , u n d

folgt die o b i g e B e z i e h u n g für die faktoriellen M o m e n t e

ms;£+l.

und

E p ( x f (X^-1)...(X^ - Vj + D ) - E p

- ( n - 1 ) E p ( X ^ ) E p (X^) = 0 . P

e^,

nach

n, u n d (X^)-

Induktions-

n Voraussetzung

und

aus

demselben

Grund

^E^ ( E p ( X ^ { X ^ - 1 ) ...(X^-v^)) +

v . E p ( X ^ ( X ^ - 1 ) . . . ( X ^ - v . + 1)))-E^'''J(X^) - E p ( X ^ ( X ^ - 1 ) . . . ( X ^ - m ) mEp(X^(X^-1)...(X^-m+1)) - (n-l)Ep(X^) = v.EpJ

( E p J ^ ^ X ^ ) E p ' " j (X^) +

- Ep(X^(X^-1)...(X^-m))

nE^^^X^) +mE^(X^) -

- m

E^(X^)

- E p ( X ^ ( X ^ - 1 ) ... ( X ^ - m ) ) - m

E p ( X ^ ( X ^ - 1 ) ...(X^-m)) = 0, P

- (n-1)

E^(X^) -

Gq), d. h. die o b i g e

= Beziehung

faktorielle M o m e n t e ist fUr m + 1 z u t r e f f e n d . D a m i t s t i m m t EpCX'j"), m mit d e n e r s t e n

£+1

Momenten

=

einer P o i s s o n - v e r t e i i t e n

= 1

Zufallsgröße

für £+1,

Uberein.

8 S c h ä t z e n von P a r a m e t e r n

137

Es i s t v i e l l e i c h t ü b e r r a s c h e n d ,

daß z u m v o r l e t z t e n B e i s p i e l n u r ein

Gegenstück

im Z u s a m m e n h a n g

m i t der F r a g e , fUr w e l c h e

P

Stichprobenstreuung

die

Schätzer Beispiel

ein

f ü r den E r w a r t u n g s w e r t (Kennzeichnung für

den

der

gleichmäßig

Verteilung

mit

Verteilungen

bester

Ep(X^), P e V .

ist,

triviales,

erv^rartungstreuer

existiert.

optimaler

Stichprobenstreuung

Mittelwert)

Es s e i e n

r e e l l w e r t i g e , s t o c h a s t i s c h unabhängige und i d e n t i s c h v e r t e i l t e

Zufallsgrößen

unter jeder Verteilung

Verteilungen,

wobei

b a s i e r e n d auf X, 1

Ep(X^) X

n

für

P aus einer n i c h t - l e e r e n

< oo, P

gelte

und die

n = 2 u n d n = n, , k = 1,2 k

Menge

von

Stichprobenstreuung mit

I l m n, = oo ein k-> R . für

b z w . h(x) = 0

bezeichnet, bzw.

g p ( y ) : = P ( { T o X = y } ) , y G O ^ . die F a k t o r i s i e r u n g xGO^,

folgt

Dirac-Verteilung

X^))=E^((1-J-) £ X ^ - ^ 1 2

+- E ^ ( x f ) - 6 - ! ^ E „ ( x f ) E „ ( X n P l n P I P l

erhält

P e ^ , nur aus der

gilt so

sonst,

mit

P({X = x}) = g p ( T ( x ) ) h ( x ) ,

P6^|>. wegen P({X = x}) = P({X = x } | { T o X = y } ) P ( { T o X = y}) =

Q ^ ( ^ j ( { x } ) P ( { T o X = y}), falls y = T(x)

mit T(x) G O ^ t o x

z u t r i f f t , b z w . P({X = x}) = 0 ,

138

K a p i t e l 8 : S c h ä t z e n von

falls y = T ( x )

Parametern

und P ( { T o X = y}) = 0 g i l t , da nnan dann P ( { X = x } ) = 0 e r h ä l t .

k e h r t f o l g t aus d e r F a k t o r i s i e r u n g P ( { X = x } ) = g p ( T ( x ) ) h ( x ) , x 6 O ^ , g

P

:O

T

-» R und h i Q

X

Umge-

mit

- » R , die E x i s t e n z von d i s k r e t e n V e r t e i l u n g e n Q

Uber O

y

f ü r y 6 p U ^ O p Y m i t Qy = P ^ ' ^ f ü r j e d e s y e Q ^ y bei b e l i e b i g e m P e ^P, w o b e i Y: = T o X i s t . Z u n ä c h s t k a n n man n ä m l i c h w e g e n P ( { X = x } ) = | g p ( T ( x ) ) | | h ( x ) | , X e O ^ , a n n e h m e n , daß h ( x ) s O . x e f l ^ , z u t r i f f t . Gilt nun f ü r ein y: = T ( x )

die

B e z i e h u n g P ( { T o X = y } ) > 0 f ü r ein P e ^P. so r e s u l t i e r t h i e r a u s P ( { X = x } | { Y = y } ) _ -

P({X=x>) P«Y=y})

_

gp(T(x))h(x) E gp(T(x*))h(x*) x*eT-'"({y})

Einzelwahrscheinlichkeiten

—

h(x) Z h(x*) x*eT-''({y})

*

*

^ T"^({y}),

n

,

.. d'®

•

deren

Summe

x^eT-icty}) Uber alle x e T ~ V { y } ) den W e r t

1 l i e f e r t , w i r d also eine d i s k r e t e

Verteilung

Q y d e f i n i e r t m i t Qy = P ^ ' ^ . Als e r s t e

A n w e n d u n g des N e y m a n - K r i t e r i u m s

soll j e t z t

allgemeiner

unter-

s u c h t w e r d e n , i n w i e w e i t bei u n t e r P s t o c h a s t i s c h u n a b h ä n g i g e n und i d e n t i s c h v e r t e i l t e n Z u f a l l s g r ö ß e n X^, X ^ die b e d i n g t e n V e r t e i l u n g e n

P ^ ^ y

60

y,

mit

Y: = X^ + X ^ , die V e r t e i l u n g P^^ b e s t i m m e n . Z u d i e s e m Z w e c k w i r d noch v o r a u s g e s e t z t , daß d e r T r ä g e r von P^^ m i t { 0

n} (n 6 IN f e s t ) b z w . IN

Beispiel

Verteilungen

(Eindeutige lungen

Bestimmtheit

von

bei Summenabbildungen

durch

als bedingende

übereinstimmt.

bedingte Zufallsgrößen)

S e t z t man Y: = T o X m i t T als S u m m e n a b b i l d u n g T ( x ^ , x 2 ) : - x., j = 1,2, so soll u n t e r s u c h t w e r d e n , w a n n aus folgt

=

=

x ^ , x^ G R ,

für jedes

D a b e i s i n d X^, X ^ u n t e r P^, j = 1,2, s t o c h a s t i s c h

und i d e n t i s c h v e r t e i l t , und O x ^ , j = 1,2, i s t g l e i c h { 0 Pj s t i m m t m i t IN

Vertei-

yGO^y,

unabhängig

n} { n e l N f e s t )

bzw.

U b e r e i n . Die A b b i l d u n g T i s t a l s o s u f f i z i e n t f ü r { P ^ , P ^ } , Neyman-Kriterium

K ( k ) ! = P^({X^ = k } ) / P 2 ( { X 2 = k } ) , k e { 0

für

n} ( n e l N f e s t )

bzw. k 6

wegen

P j ( { X ^ = k , X 2 = m } ) = gp^{k + m ) h ( k + m) = Pj({X^ = k } ) P j ( { X ^ = m } ) , j = 1.2, k,me{0

n} ( n G l N f e s t ) b z w . k . m G l N ^ , die B e z i e h u n g i n T t ( k ) + £ n 7 t ( m ) =

£ n ( g p (k + m ) / g p (k + m ) ) f o l g t , d . h . « n 7t(k) + £ m t ( m ) = f ( k + m ) , k , m e ( 0 n} ^ ^ gp.'v) ( n e l N fest) bzw. k , m G i N o , mit f(v): = f n n} (n 6 IN f e s t ) gpgCv)- , v G { 0

X

8 S c h ä t z e n von Parannetern

bzw. v e IN . M i t 0 , j = 1,2 Zufallsgrößen X ^ — n l ^ sicher

von viele

existieren.

eines

endlichen Anzahl

Atomen

disjunkte

Mengen

paarweise

In d i e s e m Fall k o n v e r g i e r e n

paarweise

disjunkten

atomar

Atomen

mit

zu

lediglich

sein,

auch

die

P-fast

Teilfolge existiert, kann man

Wahrscheinlichkeitsmaßes, von

disjunkten

. n G l N , P - s t o c h a s t i s c h g e g e n Null, a b e r n i c h t

gleichmäßig. D a auch keine s o l c h e

Eigenschaft

paarweise

die

einer

dadurch

c h a r a k t e r i s i e r e n , daß jede P - s t o c h a s t i s c h k o n v e r g e n t e F o l g e v o n r e e l l w e r t i g e n Z u f a l l s g r ö ß e n eine P - f a s t s i c h e r gleichmäßig k o n v e r g e n t e Teilfolge

besitzt.

Ferner

P als

atomares

W a h r s c h e i n l i c h k e i t s m a ß , w o b e i h ö c h s t e n s e n d l i c h viele, p a a r w e i s e

disjunkte

lassen

P-Atome

sich

existieren,

N a t ü r l i c h ist L

GO

Wahrscheinlichkeitsräume

durch

die S e p a r a b i l i t ä t

(0,?l,P)

von

L

OD

mit

(0,3l,P)

kennzeichnen.

( O . J l . P ) im a t o m a r e n Fall mit h ö c h s t e n s e n d l i c h vielen

w e i s e d i s j u n k t e n P - A t o m e n s e p a r a b e l . U m g e k e h r t folgt a u s d e r von L oo ( n , 3 l , P ) die E x i s t e n z e i n e r a b z ä h l b a r e n M e n g^e

paar-

Separabilität

{ A n : A n 6 31), s o

daß

: n e N } b e z u g l i c h d e r N o r m v o n L _ ^ ( 0 , 3 l , P ) dicht in { 1 ^ : A 6 3 1 } i s t . H i e r a u s r e s u l t i e r t f ü r j e d e s A e 3 l die E x i s t e n z e i n e s n G IN mit

=

P-f.U.,

d. h. i n s b e s o n d e r e , daß e s n i c h t a b z ä h l b a r viele p a a r w e i s e d i s j u n k t e

Mengen

B ^ g 3 1 mit P ( B ^ ) > 0 , n e l N , g e b e n k a n n . D i e s i m p l i z i e r t a b e r , d a ß P a t o m a r ist mit h ö c h s t e n s Übrigens Menge

einer endlichen Anzahl

ist die S e p a r a b i l i t ä t

aller

von

paarweise

v o n L oo ( 0 , 3 l , P )

mit d e r

disjunkten

P-Atomen.

Metrisierbarkeit

b e s c h r ä n k t e n , endlich additiven M e n g e n f u n k t i o n e n

der

v a u f 31 mit

|v|(0) s: 1 und v ( N ) = 0 f ü r P ( N ) = 0 mit N G31 g l e i c h w e r t i g , f a l l s m a n d i e s e M e n g e mit d e r s c h w a c h e n T o p o l o g i e v e r s i e h t , w o n a c h ein N e t z m e n g e n w e i s e

konver-

giert. Eine weitere Kennzeichnung

atomarer

Wahrscheinlichkeitsmaße

o - A l g e b r a mit n u r e i n e r e n d l i c h e n A n z a h l

von p a a r w e i s e

P auf

disjunkten

m e n b e s t e h t in d e r E i g e n s c h a f t , d a ß e s k e i n e n r e i n e n d l i c h a d d i t i v e n

einer

P-AtoWahr-

152

Anhang: Kennzeichnung diskreter

scheinlichkeitsinhalt menge

eine

Q auf Ol gibt, der

Q-Nulinnenge

ist.

Gibt

Verteilungen

{0,1}-wertig

es

nämlich

disjunkte M e n g e n A^ g31 mit P(Aj) > 0, j = 1,2

abzählbar

wobei

jede

P-Nullmenge

eine

viele

P-Null-

paarweise

so sieht man die E x i s t e n z e i n e s

rein e n d l i c h additiven W a h r s c h e i n l i c h k e i t s i n h a l t s ist,

i s t , w o b e i jede

Q auf 21, der

Q-Nullmenge

ist,

{0,1)-wertig

folgendermaßen

ein:

M a n s e t z t den d u r c h Q { A . ) = 0 , j = 1,2 auf der A l g e b r a ^ — { A G J l : E s ' n n e x i s t i e r e n A^ e {A,,A^,...}, m = 1 n, mit A= Z A. oder A = I A. ^m 1 2 rn = 1 »«m m= 1 Über 0 d e f i n i e r t e n {0,1}-wertigen W a h r s c h e i n l i c h k e i t s i n h a l t

zu e i n e m

}

Wahr-

s c h e i n l i c h k e i t s i n h a l t Q auf 31 f o r t mit der E i g e n s c h a f t , daß jede P - N u l l m e n g e eine Q - N u l l m e n g e i s t . F e r n e r ist jeder E x t r e m a l p u n k t Q^ d e r konvexen

Menge

aller F o r t s e t z u n g e n Q von Q zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t

auf 3t mit

der

durch

die

Z u jedem e > 0

und

Eigenschaft,

folgende

daß

jede

P-Nullmenge

Approximationseigenschaft

eine

Q-Nullmenge

charakterisierbar:

A G 31 e x i s t i e r t ein A G 31 mit Q ^ ( A A A ) 0} abzählbar

=

0 Qp abzählbar erzeugt

ist. Mit

S

C Op

als

a b z ä h l b a r e s E r z e u g e n d e n s y s t e m von » p f l O p i s t ff +3= = {E + F: E 6 $ , F G g } m i t 3 a l s S y s t e m a l l e r e n d l i c h e n T e i l m e n g e n von O p , n ä m l i c h e i n

abzählbares

E r z e u g e n d e n s y s t e m von I 8 p und e i n a b z ä h l b a r e s E r z e u g e n d e n s y s t e m Q v o n ® p liefert daher für

d a s a b z ä h l b a r e E r z e u g e n d e n s y s t e m ff D O p + 3 . D i e s

ist

a b e r i m s t e t i g e n Fall n a c h d e n o b i g e n Ü b e r l e g u n g e n n i c h t m ö g l i c h , i m d i s k r e t e n Fall s t i m m t 35p m i t d e r P o t e n z m e n g e ?|>(0) von O ü b e r e i n , w o b e i die M ä c h t i g k e i t von ?|>(0) g r ö ß e r

a l s die von R i s t , da die M ä c h t i g k e i t

v o n O m i t d e r von R

ü b e r e i n s t i m m t , f a l l s O n i c h t a b z ä h l b a r i s t . D a h e r k a n n 35p n i c h t a b z ä h l b a r e r z e u g t s e i n , da f ü r s o l c h e o - A l g e b r e n die M ä c h t i g k e i t

Man kann d i s k r e t e W a h r s c h e i n l i c h k e i t s m a ß e o-additive Mengenfunktionen auf ^ ( O )

höchstens

die v o n R

P als n i c h t - n e g a t i v e ,

ist.

normierte,

mit P ( 0 ^ ) = 1 f ü r eine a b z ä h l b a r e

Teil-

m e n g e O ^ von O a u c h d u r c h e i n e A p p r o x i m a t i o n s e i g e n s c h a f t v e r m ö g e e n d l i c h e r Teilmengen k e n n z e i c h n e n , wie das n ä c h s t e Beispiel

Beispiel

(Kennzeichnung

diskreter

Approximationseigenschaft

Wahrscheinlichkeitsmaße vermöge

endlicher

Ist P eine d i s k r e t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g mit 3 = = { F G^|>(0): F endlich} und Q —

zeigt.

durch

eine

Teilmengen)

über O, so ist Q: g ^

[0,1]

PI3 e n d l i c h additiv und es gibt zu j e d e m

160

Anhang: Kennzeichnung d i s k r e t e r

Verteilungen

E > 0 ein F^ e g nnit Q ( F ^ ) i 1 - e . U m g e k e h r t l i e f e r t j e d e s o l c h e M e n g e n f u n k t i o n Q: 3

t O , 1 ] genau eine d i s k r e t e W a h r s c h e i n l i c h k e i t s v e r t e i l u n g P Uber O , w e n n

nnan b e a c h t e t , daß

O = = U F, ^ o n = 1 1/n

A u s d e r D e f i n i t i o n von O

d. h. es g i l t

^ ^

o

a b z ä h l b a r i s t und

TL Q ( { u } ) = 1 z u t r i f f t . ueOo

f o l g t nännlich S Q({(o})äl--l ^ wetto r,

Q({(i)})i1, während

^ ^

f ü r jedes '

Q ( { w } ) s 1 aus d e r

nGlN,

endlichen

A d d i t i v i t ä t von Q und 0 s Q ( F ) s 1, F e ^ . r e s u l t i e r t . D a h e r w i r d d u r c h P(A)-- = A 6?|>(0), eine d i s k r e t e

Wahrscheinlichkeitsverteilung

e r k l ä r t , wobei P durch Q eindeutig bestimmt

Uber O m i t

PIg

= Q

ist.

Man k a n n die A p p r o x i m a t i o n s e i g e n s c h a f t d e r e n d l i c h a d d i t i v e n M e n g e n f u n k t i o n Q : 8 " » [ 0 , 1 ] a u c h d u r c h eine e i n d e u t i g e F o r t s e t z u n g s e i g e n s c h a f t e r s e t z e n , um d i s k r e t e V e r t e i l u n g e n zu c h a r a k t e r i s i e r e n . Z u d i e s e m Z w e c k soll als V o r ü b e r legung g e z e i g t w e r d e n , daß s i c h j e d e r W a h r s c h e i n l i c h k e i t s i n h a l t A l g e b r a 21 Uber O , d. h. Q i s t n i c h t

negativ, normiert

Q auf

und e n d l i c h

einer

additiv,

zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t Q' a u f eine 21 u m f a s s e n d e A l g e b r a 21' Uber 0

f o r t s e t z e n l ä ß t , w o b e i Q' g e n a u dann e i n d e u t i g b e s t i m m t

i s t , w e n n es zu

j e d e m e > 0 und A ' 621' M e n g e n A^ 621, j = 1,2, g i b t m i t A^ C A' C A ^ Q(A2\A^)

^ e. Z u d i e s e m

Marczewski Q

o

Zweck

beachte

mit Q (A, D B + A ^ n o 1 2

j = 1,2, ein W a h r s c h e i n l i c h k e i t s i n h a l t Q

man

zunächst,

daß

nach

und l^os-

Q ( A , D B) + Q * ( A . , f l B'^), A, 6 2 t , * 1 2 J a u f d e r von 21 und B 6 ^ ( f l )

erzeugten

A l g e b r a {A^ n B + A ^ 0 B ' ' : A^ 621, j = 1,2} m i t Q ^ I 2 l - Q i s t . D a b e i i s t Q ^ b z w . Q * d e r i n n e r e b z w . ä u ß e r e I n h a l t von Q , d. h. 0 ^ ( 0 = = s u p { Q ( A ) : A c C , A 621} b z w . Q " ' ( C ) : = i n f { Q ( A ) : C C A , A 621}, C 6^)>(0). F e r n e r i s t die M e n g e a l l e r P a a r e (t,Q)

m i t ä als A l g e b r a Uber O , 21 C 21 C 21', und Q als

i n h a l t a u f 21, QI2l = Q , i n d u k t i v g e o r d n e t b e z ü g l i c h d e r d^.Q^)

genau d a n n , w e n n 21^ C 21^

WahrscheinlichkeitsOrdnung

02121^ = 0 ^ z u t r i f f t ; denn

ist

{ { 2 i . , Q . ) : i 6 1} v o l l s t ä n d i g g e o r d n e t , so w i r d d u r c h ( . U | 2 l | , Q ) m i t Q ( A ) : = Q . ( A ) , A621., 161, eine o b e r e S c h r a n k e d e f i n i e r t . D a h e r e x i s t i e r t n a c h d e m L e m m a von Z o r n ein m a x i m a l e s

Element

F o r t s e t z u n g von , l l o s - M a r c z e w s k i g e l t e n

(21,Q), w o b e i

21=21' a u f g r u n d

der

muß.

I s t nun die F o r t s e t z u n g Q' von Q zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t

a u f 21'

e i n d e u t i g b e s t i m m t , so muß Q ' K A ^ n B + A ^ 0 B ' ' : A^ 621, j = 1,2} fUr j e d e s B 621' m i t d e r F o r t s e t z u n g von Q n a c h j : : o s - M a r c z e w s k i a u f { A ^ H B + A ^ f ) B"^: A. 621, j = 1,2} als W a h r s c h e i n l i c h k e i t s i n h a l t U b e r e i n s t i m m e n , w o r a u s fUr j e d e s B 621'

Kennzeichnung d i s k r e t e r Verteilungen

161

und E > 0 die E x i s t e n z von A^ G Ä , j = 1,2, m i t A^ C B C A ^ und QCA^VA^) s e f o l g t . Ist f e r n e r diese A p p r o x i m a t i o n s e i g e n s c h a f t von Q e r f ü l l t , so Ist o f f e n b a r die F o r t s e t z u n g Q' von Q auf 31' als W a h r s c h e i n l i c h k e i t s i n h a l t

eindeutig be-

s t i m m t . D a m i t sind alle V o r b e r e i t u n g e n f ü r das f o l g e n d e Beispiel Beispiel (Kennzeichnung

diskreter

eindeutige

Wahrscheinlichkeitsverteilungen

getroffen. durch

eine

FortsetZungseigenschaft)

Es soll g e z e i g t w e r d e n , daß die e n d l i c h a d d i t i v e M e n g e n f u n t i o n Q : g -» C0,1] m i t g : = {F c O: F e n d l i c h } genau dann e i n d e u t i g zu e i n e m W a h r s c h e i n l i c h k e i t s maß auf ?|>(n) f o r t s e t z b a r i s t , f a l l s es eine d i s k r e t e

Wahrscheinlichkeitsver-

t e i l u n g P Uber O g i b t m i t P I g = Q. Ist n ä m l i c h P eine d i s k r e t e

Wahrschein-

l i c h k e i t s v e r t e i l u n g über O, so hat o f f e n b a r Q : = P I g diese e i n d e u t i g e s e t z u n g s e i g e n s c h a f t , da es zu j e d e m A 6 ^ ( 0 ) und s > 0 M e n g e n F^ mit

Fortj = 1.2,

A c F^ und PCF^ \ F ^ ) ^ E, g i b t . U m g e k e h r t f o l g t aus der e i n d e u t i g e n

F o r t s e t z u n g s e i g e n s c h a f t von Q: 3 ^ [ 0 , 1 ] , daß auch Q : 3 l ^ [ 0 , 1 ] , 3l! = { A c O : A o d e r A ' ' e n d l i c h } und Q ( A ) : = Q ( A ) , A e n d l i c h b z w . Q ( A ) : = 1 - Q ( A ) . A'^ e n d l i c h , e i n d e u t i g zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t auf ^ ( 0 ) f o r t s e t z b a r i s t . Für die E x i s t e n z e i n e r d i s k r e t e n W a h r s c h e i n l i c h k e i t s v e r t e i l u n g P Uber 0 m i t P I J = Q genügt es zu z e i g e n , daß f ü r die a b z ä h l b a r e T e i l m e n g e f l ^ von O m i t O ^ : = { w e n : Q ( { o } ) > 0 } die Beziehung

Z:

Q ( { u } ) = 1 z u t r i f f t . Im Fall

S

< 1, der nur f ü r eine unendliche Menge O e i n t r e t e n k a n n , w i r d d u r c h (Q-Q)/(1-

2:

—

(oecio

Q({tj})) mit Q ( A ) : = -

51

Q({u}) Q-=

Q ( { u } ) , A e 3 l , w e g e n Q (A) £

ueOoriA

^

—

Q ( A ) , A E31, ein W a h r s c h e i n l i c h k e i t s i n h a l t auf 31 e r k l ä r t , der s i c h e i n d e u t i g zu einem W a h r s c h e i n l i c h k e i t s i n h a l t Q auf

f o r t s e t z e n l ä ß t , w e n n man b e a c h t e t ,

daß s i c h nach den V o r U b e r l e g u n g e n zu d i e s e m Beispiel die e i n d e u t i g e s e t z b a r k e i t zu e i n e m W a h r s c h e i n l i c h k e i t s i n h a l t

d u r c h eine

Fort-

Approximations-

e i g e n s c h a f t k e n n z e i c h n e n l ä ß t . Dies i s t auch der G r u n d d a f ü r , daß m i t Q auch Q ein { 0 , 1 } - w e r t i g e r W a h r s c h e l n l l c h k e i t s i n h a l t

ist, wobei Q ( { u } ) = Q ( { u } ) = 0,

(i)6 0 , g i l t . Da f e r n e r im b e t r a c h t e t e n Fall O unendlich i s t , e x i s t i e r e n u n e n d l i c h e T e i l m e n g e n O., j = 1,2, m i t

= 0 und 0 ^ + 0 ^ = 0 . so daß Q ( 0 . , ) = 0 o d e r

^ ( f l ^ ' ~ ® 9''^- S c h l i e ß l i c h f ü h r t die f ü r e i n d e u t i g e F o r t s e t z b a r k e i t

charakteri-

s t i s c h e A p p r o x i m a t i o n s e i g e n s c h a f t von Q z u s a m m e n m i t Q ( { u } ) = 0 , u GFI, und der { 0 , 1 } - W e r t i g k e i t

von Q zu Q ( O ^ ) = Inf { Q ( A ) :

C A, A e n d l i c h } = 0 , f a l l s

Q ( 0 ^ ) = 0 gilt und d a m i t a u f einen W i d e r s p r u c h , da Q^ u n e n d l i c h I s t . Im Fall Q { d ^ ) = 0 e r h ä l t man d e n s e l b e n

Widerspruch.

162

Anhang: Kennzeichnung d i s k r e t e r

Verteilungen

Ähnlich zur Kennzeichnung d i s k r e t e r V e r t e i l u n g e n d u r c h die Existenz r e g u l ä r e r bedingter V e r t e i l u n g e n ist es z w e c k m ä ß i g , polnische Räume, d. h. diese sind vollständig, separabel und m e t r i s c h , mit der zugehörigen Boreischen o - A l g e b r a zugrundezulegen, wenn man eine Kennzeichnung d u r c h die E i g e n s c h a f t a n s t r e b t , daß das zugehörige innere Maß s t e t i g von unten i s t . Beispiel

(Kennzeichnung vollständiger, Stetigkeit

diskreter separabler.

von unten

Verteilungen metrischer

auf der Boreischen

o-Algebra

Räume durch die Eigenschaft

des zugehörigen

inneren

der

Maßes)

Es w i r d zunächst g e z e i g t , daß das endliche Maß n, welches man d u r c h Eins c h r ä n k u n g des L e b e s g u e - B o r e l s c h e n Maßes X auf das S y s t e m 31 der

Bo-

r e l s c h e n Mengen von [ - 1 , 2 ] e r h ä l t , die Eigenschaft hat, daß das zugehörige innere Maß (i^ nicht s t e t i g von unten i s t . Zu diesem Zweck b e t r a c h t e t man zunächst das S y s t e m aller Teilmengen A von [ 0 , 1 ] mit der E i g e n s c h a f t , daß A + p, peiQ, p a a r w e i s e disjunkt sind. Dieses Mengensystem ist bezijglich der Inklusion induktiv g e o r d n e t , so daß jedes nach dem Lemma von Z o r n e x i s t i e rende maximale Element A des obigen Mengensystems die E i g e n s c h a f t [0.1] C

+

b e s i t z t . Dann gilt aber

(A + p^^)) = 0 , n e l N , mit

jCln [ - 1 , 1 ] = {p.|,p2.-..}. denn es gibt unendlich viele p e f l n [ 0 , 1 ] , so daß n n (^y^ (A + + p p a a r w e i s e disjunkt sind und daher mit B c ^U^ (A + p^^), BeQl, auch die Mengen B + p f ü r diese p 6 i E l n [ 0 , 1 ] paarweise disjunkt sind und daher schließlich ( i ( B ) = 0 wegen X ( B + p ) = X(B), p G i Q . z u t r i f f t , da sonst X ( ( - 1 . 2 ] ) = co gelten w ü r d e . Wegen [ 0 . 1 ] C CO

, (A + p) gilt aber p € d n T - 1 .in

n

U^

(A + p^)) i 1. Auf dieselbe Weise e r h ä l t man, daß auch die E i n -

schränkung

^^ des L e b e s g u e - B o r e l s c h e n Maßes auf I8n [ 0 , 1 ] die Eigen-

s c h a f t b e s i t z t , daß das zugehörige innere Maß nicht s t e t i g von unten indem man die Überlegungen mit dem Z o r n s c h e n ~ ] e r s e t z t . Mit Hilfe eines I s o m o r p h i e s a t z e s keitsraum

([0.1],

( O , 35,P) mit

8

n [0,1],

P als

stetiges

und jeden

Lemma

für

[0,1]

ist.

durch

f ü r den W a h r s c h e i n l i c h Wahrscheinlichkeitsraum

Wahrscheinlichkeitsmaß

auf

der

Boreischen

o - A l g e b r a 3B eines polnischen Raumes O (vgl. H. L. Royden, Real Analysis, London, 1970, S. 327) e r h ä l t man schließlich, daß auch das innere Maß

P,

Kennzeichnung diskreter Verteilungen

163

von P n i c h t s t e t i g von u n t e n i s t . U m g e k e h r t i s t a b e r j e d e s d i s k r e t e W a h r s c h e i n i i c h k e i t s n n a ß P a u f Ä e i n d e u t i g als s o l c h e s a u f ^P(O) f o r t s e t z b a r , so daß in d i e s e m Fall das z u g e h ö r i g e i n n e r e Maß P ^ s t e t i g von u n t e n i s t .

Abschließend

s e i n o c h e r w ä h n t , daß das i n n e r e Maß j e d e s W a h r s c h e i n l i c h k e i t s m a ß e s von oben i s t , w a s m a n l e i c h t

einsieht.

stetig

Yerzgichnls i l S E Beispiele 1.

Der L a p l a c e s c h e W a h r s c h e i n I i c h k e i t s b e g r i f f

1

P a r a d o x o n von de Mere

2

M e h r f a c h e r W U r f e l w u r f nach C a r d a n o und Galilei

2

B u f f o n s c h e s Nadelproblem

3

2. G r u n d b e g r i f f e der Kombinatorik

4

Doppelgeburtstag

5

Mächtigkeit der P o t e n z m e n g e einer endlichen Menge

6

n - f a c h e r MUnzwurf

6

A n z a h l von Z e r l e g u n g e n

7

Abstimmungen mit nicht Liberwiegenden Enthaltungen, kollektives Modell

7

Fibonacci-Zahlen

8

Verallgemeinerte Fibonacci-Zahlen

8

Rencontre-Problem

10

Mächtigkeit der Menge aller Abbildungen z w i s c h e n endlichen Mengen

11

Mächtigkeit der Menge aller injektiven Abbildungen z w i s c h e n endlichen Mengen

11

Mächtigkeit der Menge aller s t r e n g monoton w a c h s e n d e n Funktionen z w i s c h e n {1,...,m} und {1 n}

12

Mächtigkeit der Menge aller monoton w a c h s e n d e n Funktionen z w i s c h e n {1 m} und (1 n}

12

Modifiziertes Galtonsches Brett

15

4. Einige allgemeine E i g e n s c h a f t e n von d i s k r e t e n W a h r s c h e i n l i c h k e i t s verteilunen Kennzeichnungen eigenschaften

20 der L a p l a c e - V e r t e i l u n g d u r c h E x t r e m a l 20

V e r e r b b a r k e i t s e i g e n s c h a f t von D i r a c - V e r t e i l u n g e n

21

Rencontre-Problem

23

Mächtigkeit der Menge aller s u r j e k t i v e n Abbildungen z w i s c h e n endlichen Mengen

23

Populationsanteil mit mehreren gemeinsamen Merkmalen

24

V e r z e i c h n i s der Beispiele

165

K e n n z e i c h n u n g d e r L a p l a c e - V e r t e i l u n g d u r c h eine invarianzeigenschaft

24

K e n n z e i c h n u n g d e r L a p l a c e - V e r t e i l u n g d u r c h eine V e r e r b b a r k e i t s e l g e n s c h a f t bei d i r e k t e n P r o d u k t e n

25

Randverteilungen der Multinomialverteilung

26

Randverteilungen der nnehrdimensionalen h y p e r g e o m e t r i s c h e n

26

Verteilung 5.

6.

Elementare bedingte Wahrscheinlichkeiten

und

stochastische

U n a b h ä n g i g k e i t von E r e i g n i s s e n

28

Ruinwahrscheinlichkeit

30

eines Spielers

Kühne S t r a t e g i e

31

Multiple choice V e r f a h r e n

32

Doppelgeburtstag, konstante Einzelwahrscheinlichkeiten

32

Doppelgeburtstag, nicht konstante Einzelwahrscheinlichkeiten

33

E u l e r s c h e g lokal optimalen S c h ä t z e r im m - S t i c h p r o b e n f a l l für

Parameterfunktionen

des ganzzahligen P a r a m e t e r s einer I 8 ( n , ^ ) - V e r t e i l u n g

106

Untersuchung der größten konvexen Teilmenge aller für den ganzzahligen P a r a m e t e r einer

)-Verteilung

treuen S c h ä t z e r s im m - S t i c h p r o b e n f a l l bezüglich

erwartungsdes zwei-

fachen S t i c h p r o b e n m i t t e l s

108

V e r z e r r t h e i t des M a x i m u m - L i k e l i h o o d - S c h ä t z e r s

im 2 - S t i c h -

probenfall für den ganzzahligen P a r a m e t e r e i n e r

I8(n,-i)-

Verteilung Kennzeichnung des Modells mit individuellen

111 Wahrscheinlich-

keiten zur optimalen S c h ä t z u n g eines Bevölkerungsanteils

112

Gleichmäßig b e s t e r e r w a r t u n g s t r e u e r S c h ä t z e r für den M i s c h u n g s p a r a m e t e r von zwei Bernoulli-Verteilungen Optimale e r w a r t u n g s t r e u e S c h ä t z e r für eine 3K(n,p^ Verteilung

118 Pm^" 119

Verzeichnis der Beispiele

Optimale e r w a r t u n g s t r e u e

S c h ä t z e r f ü r die

169

Genotypwahr-

s c h e i n l i c h k e i t e n von M e r k m a l s a u s p r ä g u n g e n

120

S t o c h a s t i s c h e Unabhängigkeit eines gleichmäßig besten t u n g s t r e u e n und b e s c h r ä n k t e n S c h ä t z e r s s o w i e e i n e r

erwarverteilungs-

unabhängigen Abbildung Schätztheoretische

125

Kennzeichnung der Vollständigkeit

A b b i l d u n g e n , die s u f f i z i e n t Schätztheoretische

von

sind

125

K e n n z e i c h n u n g von S u f f i z i e n z

und

Vollständigkeit Vollständigkeit

126 und S u f f i z i e n z d e r S u m m e n a b b i l d u n g

bei

B e r n o u l l i - , P a s c a l - und P o i s s o n - E x p e r i m e n t e n Optimales erwartungstreues defekter

ProduktionsstUcke

128

S c h ä t z e n des p r o z e n t u a l e n aufgrund direkter bzw.

Anteils

inverser

S t i c h p r o b e n e n t n a h m e ohne Z u r U c k l e g e n

129

O p t i m a l i t ä t von S t i c h p r o b e n m i t t e l , S t i c h p r o b e n s t r e u u n g

und

empirischer Verteilungsfunktion

133

Schätztheoretische

135

Kennzeichnung der Poissonverteilung

Ubereinstimmung der e r s t e n Momente höherer Ordnung mit

denen

einer P o i s s o n - v e r t e i l t e n Zufallsgröße aufgrund der Optimalität Stichprobenmittels

des

f ü r die S t r e u u n g

136

Kennzeichnung der Verteilung mit optimaler

Stichprobenstreuung

f ü r den M i t t e l w e r t

137

E i n d e u t i g e B e s t i m m t h e i t von V e r t e i l u n g e n d u r c h b e d i n g t e

Ver-

t e i l u n g e n bei S u m m e n a b b i l d u n g e n als b e d i n g e n d e Z u f a l l s g r ö ß e n C h a r a k t e r i s i e r u n g von e i n p a r a m e t r i g e n

138

Potenzreihenfamilien

durch Suffizienzeigenschaften

139

C h a r a k t e r i s i e r u n g des R a s c h - M o d e l l s d u r c h die A n n a h m e

der

E x i s t e n z e i n e r s y m m e t r i s c h e n und s u f f i z i e n t e n A b b i l d u n g

141

Optimales Schätzen der Mächtigkeit einer endlichen Menge

142

A n h a n g : K e n n z e i c h n u n g d e r b e s o n d e r e n Rolle d e r

diskreten

Verteilungen

144

Kennzeichnung atomarer Wahrscheinlichkeitsmaße U b e r e i n s t i m m u n g von s t o c h a s t i s c h e r f ü r Folgen r e e l l w e r t i g e r

d u r c h die

und f a s t s i c h e r e r

Zufallsgrößen

Konvergenz 149

170

Verzeichnis der

Beispiele

K e n n z e i c h n u n g d e r atonnaren W a h r s c h e i n l i c h k e i t s n n a ß e

mit

e i n e r e n d l i c h e n A n z a h l von p a a r w e i s e d i s j u n k t e n Atonnen die U b e r e i n s t i m m u n g von s t o c h a s t i s c h e r gleichmäßiger

und f a s t

nur durch

sicher

Konvergenz

150

K e n n z e i c h n u n g a t o m a r e r W a h r s c h e i n l i c h k e i t s m a ß e d u r c h die U b e r e i n s t i m m u n g von s c h w a c h e r

und s t a r k e r K o n v e r g e n z

von

Testfunktionen

152

Kennzeichnung a t o m a r e r Wahrscheinlichkeitsmaße schwache Abgeschlossenheit

d u r c h die

der Indikatoren meßbarer

Mengen

in d e r M e n g e d e r T e s t f u n k t i o n e n

154

Kennzeichnung a t o m a r e r Wahrscheinlichkeitsmaße Approximatioseigenschaft

d u r c h die

von außen b z w . innen v e r m ö g e

eines

abzählbaren Mengensystems

156

Kennzeichnung a t o m a r e r Wahrscheinlichkeitsmaße Existenz spezieller regulärer

d u r c h die

bedingter Verteilungen

157

Kennzeichnung atomarer Wahrscheinlichkeitsmaße

auf

B o r e l s c h e n o - A l g e b r a p o l n i s c h e r Räume d u r c h die

Existenz

von r e g u l ä r e n b e d i n g t e n V e r t e i l u n g e n fUr die

der

zugehörige

V e r v o l l s t ä n d i g u n g m i t d e r B o r e l s c h e n o - A l g e b r a als

bedingender

o-Algebra

158

Kennzeichnung d i s k r e t e r Wahrscheinlichkeitsmaße Approximationseigenschaft

d u r c h eine

vermöge endlicher Teilmengen

Kennzeichnung d i s k r e t e r Wahrscheinlichkeitsverteilungen

159 durch

eine e i n d e u t i g e F o r t s e t z u n g s e i g e n s c h a f t

161

K e n n z e i c h n u n g d i s k r e t e r V e r t e i l u n g e n auf d e r B o r e l s c h e n vollständiger, separabler, metrischer

Räume d u r c h die

o-Algebra

Eigenschaft

d e r S t e t i g k e i t von u n t e n des z u g e h ö r i g e n i n n e r e n M a ß e s

162

gachYgrzeichnis Additionsregel

4

Approximationssatz arithmetisches

von W e i e r s t r a ß

55

Mittel

38

austauschbar

35

bedingter E r w a r t u n g s w e r t

79

bedingte Verteilung

7 5

Bernoulli-Experiment

vom U m f a n g n

34

Bernoulli-Verteilung

12

Bernstein-Polynom

55

Binomlalkoeffizient

5

Binomlalverteilung

11

a5(n.p)-vertellte Zufallsgröße

36

Cauchy-Schwarzsche

Ungleichung

42,

43

Dirac-Verteilung

18

direktes Produkt

23

diskrete Verteilung diskrete Wahrscheinlichkeitsverteilung

11,

11,

22

18,

22

diskretes Zufallsexperiment

11

Dreiecksverteilung

37

Durchschnitt

26

Eindeutigkeitssatz einparametrige

fUr e r z e u g e n d e F u n k t i o n e n

Potenzreihenfamilie

121

elementare bedingte E r w a r t u n g s w e r t e elementare bedingte E r w a r t u n g s w e r t e

67

57 unter der Bedingung B

57

elementare bedingte Wahrscheinlichkeit

26

Elementarereignis

26

empirische Verteilungsfunktion endliche Z u f a l l s e x p e r i m e n t e

128 11

Ereignis

1

Ergebnisraum

1

erwartungstreuer erwartungstreue

Schätzer S c h ä t z b a r k e i t von S

91 96

172

Sachverzeichnis

Erwartungswert

38

erzeugende Funktion

67

Eulersche