Introduccin a la Teora de Probabilidades

Carlos Almeida
Universidad de las Fuerzas Armadas - ESPE
Beca Prometeo
13 de enero de 2014

ndice

1. Introduccin

2. Espacio de Probabilidad y Elementos aleatorios

3. Integracin y Diferenciacin

2.1. -lgebras (tribu o -campos) y medidas . . . . . . . . . . . .

2.2. Funciones medibles y distribuciones . . . . . . . . . . . . . . .

2
4

3.1. Integracin . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
3.2. Derivada de Radon-Nikodym . . . . . . . . . . . . . . . . . . . 10

4. Distribuciones y sus caractersticas

11

5. Esperanza Condicional

14

6. Resultados Asintticos

17

6.1.
6.2.
6.3.
6.4.

1.

Modos de convergencia . . . . . . . .
Convergencia de transformaciones . .
La(s) ley(es) de los grandes nmeros
El teorema central de lmite . . . . .

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

17
19
20
22

Introduccin

Estas notas de curso son basadas en el captulo 1 del libro: Mathematical

Statistics de Jun Shao, 1998, Springer.
Este libro es la base del curso de estadstica matemtica de la University
of Wisconsing-Madison y est pensado para un curso de 30 semanas a razn
1

de tres horas de clases ms dos horas de discusin por semana de clases. Se

presupone buen conocimiento de anlisis.
2.

Espacio de Probabilidad y Elementos aleatorios

Experimento aleatorio :

El resultado no puede ser predecido con certeza

Axiomatizacin: A. N. Kolmogorov (1933), pero existen antecedentes, Laplace, Moivre, Markov.
2.1.

-lgebras (tribu o -campos) y medidas

: Elementos de inters, contiene todos los resultados posibles (Probabili-

dad), espacio de muestras (Estadstica)

Ejemplo: un conjunto de nmeros, un subintervalo de la recta real, etc

2 : Conjunto de todos los subconjuntos de

Denicin 1. Sea F una coleccin de subconjuntos de , F es una -lgebra

si:

1. F
2. Si A F , entonces AC F
3. Si Ai F , i = 1,2,. . . , entonces la unin Ai F

Observaciones:
(, F) : Espacio medible
A F : conjunto medible (eventos )
Ai F
{, } y 2 son -lgebras
A tal que A 6= y A 6= , {, A, AC , } es -lgebra (la ms
pequea que contiene A)

Sea (C ) una coleccin de subconjuntos de , la ms pequea -lgebra

que contiene C , i.e.:
(C) =

B,

M = {B : C B, y B es una -lgebra }

{BM}

Sea O el conjunto de abiertos de R, a la -lgebra generada por O se

llama Conjuntos de Borel o Borelianos

Denicin 2. Sea (, F) un espacio medible, A una funcin denida en

F se llama

medida

si:

1. 0 (A) para cualquier A F

2. () = 0
3. Si Ai F , i = 1,2,. . . , y los Ai 's son disjuntos (i.e. Ai Aj = si
i 6= j ), entonces
!

Ai

i=1

(Ai )

i=1

Observaciones:
(, F, ) : Espacio medido,

Si existe una sucesin A1 A2 . . . tal que lm An = y para todo

n, (An ) < se dice que la medida es -nita
Si () = 1, probabilidad y usualmente = P (o Q), (, F, P ) se
llamara espacio probabilizado

Ejemplos: Medida de conteo, medida de Lebesgue

Proposicin 1.

Sea

un espacio medible

(, F, )

1. (Monotinicidad) Si

B,

entonces

(A) (B)

2. (Subaditividad) Para qualquier secuencia

!
Ai

i=1

3. (Continuidad) Si

A1 , A2 , . . .
(Ai )

i=1

A1 A2 . . .

(o

A1 A2 . . .

entonces

( lm An ) = lm (An )
n

donde:

lm An =

n
[

Ai

i=1

lm An =

n
\

i=1

(A1 ) < ),

Proposicin 2.
1. Sea

En un espacio probabilizado

F (x) := P ((, x])

la

(, F, P ),

funcin de probabilidad acumulada, enton-

ces:

F () = lmx F (x) = 0
F () = lmx F (x) = 1
F

no es decreciente,

F es continua por la
2. Si una funcin

sobre

i.e. F (x) F (y)) si x < y

derecha, i.e lmyx,y>x F (x) = F (y)
satisface las cuatro propiedades de la parte 1

entonces es la c.d.f. de una nica medida de probabilidad sobre

(R, B)

En la caso multidimensional, se dene el espacio medible producto y la

medida producto, para el caso de la -lgebra producto se dene como la
generada por el producto cartesiano de las -lgebras, y la medida producto
est justicada el la proposicin:

Ejemplo: medida de Lebesgue en (Rk , Bk )

El concepto de c.d.f. se extiende a Rk y es denida por:

2.2.

Funciones medibles y distribuciones

Considere una funcin (aplicacin) f de sobre un espacio ms simple

(usualmente Rk ). Sea B , la imagen inversa de f se dena por:

La funcin inversa no necesita estar denida, y tenemos las siguientes

propiedades:

Con esto se tiene la siguiente denicin de funcin medible:

Si = R y G = B ( -lgebra de Borel), entonce se dice

Borel funcin

Ejemplos:
funcin indicatriz

funciones simples

Una proposicin importante:

Borel medible

Observacin: Es difcil de encontrar funciones que no sean Borel

Sea (, F, ) un espacio medible f una funcin medible de (, F) a (, G),
la medida inducida por f es la medida en G denida por:
La medida imagen, cuando se trata de una probabilidad (P X 1 ) es
llamada ley de la distribucin de X y usualmente es denotada por PX . y su
c.d.f. por FX .
Ejemplos:
c.d.f. discreta
Distribucin uniforme en [a, b]
Exponencial
3.

Integracin y Diferenciacin

A diferencia que en clculo elemental, aqu primero se introduce la integracin y luego la diferenciacin
3.1.

Integracin

Se dene la integral de funciones de Borel con respecto a (w.r.t.) una

medida . La denicin se hace por etapas,
1. Para funciones simples no negativas:
Con ai > 0, i = 1, . . . , k

Observaciones:
R

d = es posible

Diferentes representaciones de una funcin simple son posibles pero todas dan la misma respuesta, entonces la denicin es correcta
2. Funciones de Borel nonegativas:
Sea f una funcin de Borel no negativa:

Observaciones:
Cmo justicar el lado derecho de la denicin
Para cualquier funcin f Borel medible, existe una secuencia de
funciones simples 1 , 2 , . . . tal que 0 f para cualquier i y
Z
lm

Z
n d =

f d

3. Finalmente, para una funcin f medible cualquiera, se dene primero:

f+ () = max{f (), 0},

f () = max{f (), 0}

Observe que f+ y f son Borel medibles no negativas, f () = f+ ()

f () y |f ()| = f+ () + f ().

Observaciones:
7

Est bien denida, aunque puede tomar valores de o .

R
R
Si f+ d y f d y son ambas nitas, decimos que f es integrable.
R
R
R
R
Diferentes notaciones: f d , f ()d , f ()d(), f ()(d).
R
En espacios probabilizados, XdP es usualmente escrito como
EX o E(X).

Examples:
En un conjunto contable:
Z
f d =

f ()

En R, con respcto a la medida de Lebesgue, sobre un intervalo [a, b] la

integral coincide con la integral de Riemann cuando esta ltima est
bien denida.

Propiedades:

Si una armacin se cumple para todo N , con (N ) = 0, se dice

que es casi en todas partes (a.e.) , Si la medida es de probabilidad, se dice
casi seguramente (a.s.)

R
R
| f d| |f |d

Si f > 0 (a.e.) entonces

f d 0
R
R
Si f = g (a.e.) entonces f d = gd

Algunas veces se requiere saber si se puede intercambiar los lmites con

la integral:
Sea f1 , f2 , . . . y lmn fn , existe entonces, bajo que condiciones se da
que:
8

La respuesta est en el siguiente teorema:

Ejercicio: Intercambio de la integral con la diferenciacin

El siguiente teorema generaliza el de cambio de variables:

La importancia de este resultado est por ejemplo en que el en un espacio

probabilizado, si se dene una variable aleatoria X , el clculo de la esperanza
se puede hacer de la siguiente manera:
Z

xdPX

XdP =

EX =

o para una funcin de Borel g sobre los reales:

Z
Eg(X) =

Z
g(x)dPX =

xdPg(X)

Tambin en algunos casos se puede intercambiar el orden de integracin:

Este resultado puede extenderse de forma natural a la medida producto

3.2.

Derivada de Radon-Nikodym

Sea (, F, ) un espacio medible y f una funcin de Borel no negativa,

la funcin:
Z
(A) =

f d,

AF

es una medida en (, F). Observe adems que

(A) = 0 implica (A) = 0

Si se da esta ltima propiedad se dice que es absolutamente continua

con relacin a .
El teorema de Radon-Nikodim muestra que esta ltima es tambin una
condicin suciente

f se llama derivada de Rdon-Nikodym o densidad de con respecto a ,

en el contexto de probabilidades a f se le conoce como funcin de densidad
de probabilidades (p.d.f )

Clculo con derivadas de R-N

10

4.

Distribuciones y sus caractersticas

Discretas si son dominadas por alguna medida de conteo

Ver tabla 1
Continuas si son dominadas por la medida de Lebesgue
Ver Tabla 2
Existen p.d.f. que no son ni discretas ni continuas
Cambios de variable, ver ejemplos

Funciones generadosras de momentos:

EX k es el /k -esimo momento / de X

11

E|X|k es el k -esimo

momento absoluto

de X

Si = EX , E(X )k es el k -esimo momento central de X , el segundo

momento central es llamado varianza
En el caso multidimensional:

matriz de varianzas-covarianzas

es:

Var(X) = E(X EX)> (X EX)

Los momentos son interesantes caractersticas de las distribuciones, pero estas no las determinan. Funciones que determinan las distribuciones se
introducen a continuacin:

Tenemos los siguientes resultados:

12

13

5.

Esperanza Condicional

En probabilidades bsicas, se dene la probabilidad condicional P (B |

A) = P (AB)/P (A) provisto que P (A) 6= 0, pero muchas veces necesitamos
esta nocin incluso en casos en los que P (A) = 0, ejemplo A = {Y = c} ,
donde Y es una variable aleatoria real continua.

La -lgebra (Y ) contiene la nformacin de Y ". El siguiente teorema

caracteriza la esperanza condicional:

Desarrollar el ejemplo 1.18

Aplicado a funciones medibles, tenemos la siguiente proposicin:

Adems:

14

Esto esta en acuerdo con las deniciones usadas en probabilidades bsicas.

Algunas propiedades muy tiles de las probabilidades condicionales son:

Desarrollar el ejemplo del .estimador del error de media cuadrtica"

Independencia

15

El siguiente resultado es muy til para chequear la independencia;

Observations:
X1 , X2 , . . . , XK son independientes si
FX (x1 , x2 , . . . , xK ) = FX1 (x1 )FX2 (x2 )...FXK (xK )
fX (x1 , x2 , . . . , xK ) = fX1 (x1 )fX2 (x2 )...fXK (xK )

Si X1 , X2 , . . . , XK son independientes y E|X1 . . . XK | <|$, entonces

E(X1 . . . XK ) = EX1 . . . EXK

Independencia implica no correlacin, pero el inverso no siempre es

cierto

Probabilidad Condicional

Se justica a con el siguiente teorema:

Tambin se puede dada una coleccin de probabilidades condicionales,

denir una probabilidad conjunta como sigue:

16

Desarrollar el Ejemplo 1.21

6.

Resultados Asintticos

Deniciones de convergencia, relaciones,

principales resultados
Las leyes de los grandes nmeros
El teorema central del lmte
Se estudia el comportamiento lmite de variables aleatorias y sus distribuciones
6.1.

Modos de convergencia

Se denen cuatro modos de convergencia de variables (vectores) aleatorios:

17

El siguiente resultado describe las relaciones entre los diferentes modos

de convergencia:

Desarrollar el ejemplo 1.22

El resultado siguiente es muy til para demostrar convergencia en distribucin:

18

Junto con la siguiente proposicin, este teorema puede usarse para mostrar la convergencia en ley.

6.2.

Convergencia de transformaciones

Que pasa cuando se aplica una funcin g Borel medible a una sucesin
de variables aleatorias, se resume en el siguiente teorema

Presentar ejemplo 2.13,

Observe que la convergencia conjunta en algunos casos no puede ser relajada.
Un resultado importante que puede evitar en algunos casos la exigencia
de la convergencia conjunta es:

19

6.3.

La(s) ley(es) de los grandes nmeros

20

Una versin ligeramente menos exigente se presenta en el siguiente teorema:

21

6.4.

El teorema central de lmite

Para aproximar las distribuciones tenemos uno de los as importantes resultados que permite trabajar en estadstica:

Desarrollar el ejemplo 1.26

22