概率论知识点总结
概率论总结
目 录
一、 前五章总结
第一章 随机事件和概率 …………………………1
第二章 随机变量及其分布……………………….5
第三章 多维随机变量及其分布…………………10
第四章 随机变量的数字特征……………………13
第五章 极限定理………………………………...18
二、 学习概率论这门课的心得体会……………………20
一、前五章总结
第一章 随机事件和概率
第一节：1. 、将一切具有下面三个特点：（1）可重复性（2）多结
果性（3）不确定性的试验或观察称为随机试验，简称为试验，常用
E 表示。
在一次试验中，可能出现也可能不出现的事情（结果）称为随
机事件，简称为事件。
不可能事件：在试验中不可能出现的事情，记为Ф。
必然事件：在试验中必然出现的事情，记为S 或Ω。
2、我们把随机试验的每个基本结果称为样本点，记作e 或ω. 全体
样本点的集合称为样本空间. 样本空间用S 或Ω表示.
一个随机事件就是样本空间的一个子集。
基本事件—单点集，复合事件—多点集
一个随机事件发生，当且仅当该事件所包含的一个样本点出现。
事件间的关系及运算，就是集合间的关系和运算。
3、定义：事件的包含与相等
若事件A 发生必然导致事件B 发生，则称B 包含A ，记为B ⊃A
或A ⊂B 。
若A ⊂B 且A ⊃B 则称事件A 与事件B 相等，记为A ＝B 。
定义：和事件
“事件A 与事件B 至少有一个发生”是一事件，称此事件为事件
A 与事件B 的和事件。记为A ∪B 。 用集合表示为: A ∪B={e|e∈A ，
或e ∈B}。
定义：积事件
称事件“事件A 与事件B 都发生”为A 与B 的积事件，记为A ∩B
或AB ，用集合表示为AB={e|e∈A 且e ∈B}。
定义：差事件
称“事件A 发生而事件B 不发生, 这一事件为事件A 与事件B 的差
事件, 记为A －B, 用集合表示为 A-B={e|e∈A ，e ∉B} 。
定义：互不相容事件或互斥事件
如果A ，B 两事件不能同时发生，即AB ＝Φ ，则称事件A 与事件
B 是互不相容事件或互斥事件。
定义6：逆事件/对立事件
称事件“A 不发生”为事件A 的逆事件，记为Ā 。A 与Ā满足：A ∪
Ā= S,且A Ā=Φ。
运算律：
设A ，B ，C 为事件，则有
（1）交换律：A ∪B=B∪A ，AB=BA
（2）结合律：A ∪(B∪C)=(A∪B) ∪C=A∪B ∪C
A(BC)=(AB)C=ABC
（3）分配律：A ∪(B∩C) ＝(A∪B) ∩(A∪C)
A(B∪C) ＝(A∩B) ∪(A∩C)= AB∪AC
（4）德摩根律：
小结：
事件的关系、运算和运算法则可概括为
四种关系：包含、相等、对立、互不相容；
四种运算：和、积、差、逆；
四个运算法则：交换律、结合律、分配律、对偶律。
第二节：
1、 设试验E 是古典概型, 其样本空间S 由n 个样本点组成 , 事件A B = A B = A 由k 个样本点组成 . 则定义事件A 的概率为：P(A)＝k/n＝
A 包含的样本点数/S中的样本点数。
2、 几何概率：设事件A 是S 的某个区域，它的面积为 μ(A ) ，则
向区域S 上随机投掷一点，该点落在区域A 的概率为：
P （A ）=μ（A ）/μ（S ） 假如样本空间S 可用
一线段，或空间中某个区域表示，并且向S 上随机投掷一点的
含义如前述，则事件A 的概率仍可用（*）式确定，只不过把
理解为长度或体积即可.
概率的性质： ⎛∞⎫∞（1）P(φ)=0, P Φ⎪⎪=∑P (Φ)⎝m =1⎭m =1
（2）
A i , A j , i , j =1, 2, , n , i ≠j , 两两互不相容，⎛n ⎫n 则P A k ⎪⎪=∑P (A k ); ⎝k =1⎭k =1
（3） P (A ) =1-P (),
（4）若A ⊂B ，则P(B-A)=P(B)-P(A), P(B) ≥ P(A).
第四节：条件概率：在事件B 发生的条件下，事件A 发生的概率称
为A 对B 的条件概率，记作P (A |B ).
而条件概率P (A |B ) 是在原条件下又添加“B 发生”这个条件时A 发
生的可能性大小，即P (A |B ) 仍是概率.
乘法公式： 若P (B )>0,则P (AB )=P (B ) P (A |B )
P(A)>0,则P(AB)=P(A)P(B|A)
全概率公式：设A 1,A 2,…,An 是试验E 的样本空间Ω的一个划分，且P (A |B ) =P (AB )P B P (A i )>0，i =1,2,…,n , B 是任一事件, 则 P (B ) =∑P (A i ) P (B ｜A i ) n
i =1
贝叶斯公式：设A 1,A 2,…,An 是试验E 的样本空间Ω的一个划分，且
P (A i )>0，i =1,2,…,n , B 是任一事件且P (B )>0, 则
P (A i |B ) =P (A i ) P (B ｜A i ) ∑P (A ) P (B ｜A ) j j
j =1n
第五节：若两事件A 、B 满足
P (AB )= P (A ) P (B ) 则称A 、B 独立，或称A 、B 相互独立.
将两事件独立的定义推广到三个事件：
对于三个事件A 、B 、C ，若
P (AC )= P (A ) P (C ) P (AB )= P (A ) P (B )
P (ABC )= P (A ) P (B ) P (C ) P (BC )= P (B ) P (C ) 四个等式同时成立, 则
称事件A 、B 、C 相互独立.
第六节：定理 对于n 重贝努利试验，事件A 在n 次试验中出现k
次的概率为
总结：
1. 条件概率是概率论中的重要概念，其与独立性有密切的关系，
在不具有独立性的场合，它将扮演主要的角色。
2. 乘法公式、全概公式、贝叶斯公式在概率论的计算中经常使用，
请牢固掌握。
3. 独立性是概率论中的最重要概念之一，亦是概率论特有的概念，
应正确理解并应用于概率的计算。
4. 贝努利概型是概率论中的最重要的概型之一，在应用上相当广
泛。
第二章：随机变量及其分布
1 、随机变量：分为离散型随机变量和连续型随机变量。
分布函数：设 X是一个 r.v ，x 为一个任意实数，称函数 k k n -k P n (k ) =C n p q k =0, 1, , n , q =1-p
F(X)=P（X ≤x ）为 X 的分布函数。X 的分布函数是F(x)记作
X ～ F(x)或 F X (x).
如果将 X 看作数轴上随机点的坐标，那么分布函数 F(x) 的值就
表示 X 落在区间 （x ≤X ）。
3、 离散型随机变量及其分布
定义1 ：设x k (k =1,2, …)是离散型随机变量X 所取的一
切可能值，称等式P(X=xk )=PK , 为离散型随机变量X 的概率函
数或分布律，也称概率分布. 其中P K, ≥0；ΣP k =1
分布律与分布函数的关系：
（1）已知随机变量X 的分布律，可求出X 的分布函数：
①设一离散型随机变量X 的分布律为
P{X=xk }=pk (k=1，2，…)
由概率的可列可加性可得X 的分布函数为
②已知随机变量X 的分布律, 亦可求任意随机事件的概率。
（2）已知随机变量X 的分布函数，可求出X 的分布律：
F (x ) =P {X ≤x }=即F (x ) =x k ≤x ∑P {X =x k }x k ≤x ∑p k
P {X =x k }=F (x k ) -F (x k -0) k =1, 2, 3,
一、 三种常用离散型随机变量的分布
. 1（0－1）分布：
设随机变量X 只可能取0与1两个值，它的分布律为
P{X=k}=pk (1-p)1-k , k=0，1. (0
则称X 服从（0－1）分布, 记为X ~（0－1）分布。
（0－1）分布的分布律用表格表示为：
X 0 1
P 1-p p 易求得其分布函数为
2. 二项分布（binomial distribution)：
定义：若离散型随机变量X 的分布律为 x
X ~B(n,p).
4、 泊松分布的定义及图形特点设随机变量X 所有可能取的值为
0 , 1 , 2 , … , 且概率分布为： P (X =k ) =e -λλk
k ! , k =0, 1, 2, ,
其中 入 >0 是常数, 则称 X 服从参数为 入 的泊松分布, 记作
X ~P (入). 、
连续型随机变量
1概率密度f(x)的性质
（1）f(x)≥0
（2） ⎰-∞f (t ) dt =1+∞
(3).X 落在区间(x1，x 2) 的概率 P {x 1
几何意义：X 落在区间(x1，x 2) 的概率P{x1
x 2) 上曲线y=f(x)之下的曲边梯形的面积．
(4).若f(x)在点x 处连续，则有F′(x)=f(x)。
．概率密度f(x ) 与分布函数F(x ) 的关系：
(1)若连续型随机变量X 具有概率密度f(x ) ，则它的分布函数为 F (x ) =⎰-∞f (t ) dt
(2)若连续型随机变量X 的分布函数为F(x ) ，那么它的概率密度为
f(x )=F′(x ) .
注意：对于F(x ) 不可导的点x 处，f(x ) 在该点x 处的函数值可任意
给出。
三种重要的连续型分布：
1．均匀分布(Uniform Distribution) 设连续随机变量X 具有概率
密度 ⎧1⎪f (x ) =⎨b -a ⎪⎩0a
则称X 在区间(a，b) 上服从均匀分布，记为X ~U(a，b) .
若X ~U(a，b) ，则容易计算出X 的分布函数为
⎧0⎪x -a ⎪F (x ) =⎨⎪b -a ⎪⎩1x
⎧λe -λx
f (x ) =⎨⎩02. 指数分布x ≥0x 0
则称 X 服从参数为 入的指数分布.
常简记为 X~E( 入)
指数分布的分布函数为 ⎧1-e -λx
F (x ) =⎨⎩0x >0x ≤0
指数分布的一个重要特性是”无记忆性”.
设随机变量X 满足：对于任意的s>o，t>0,有
则称随机变量X 具有无记忆性。
3. 正态分布
若r.v X 的概率密度为
2f (x ) =1e σ2π-(x -μ) 22σP {X ≥s +t |X ≥s }=P {X ≥t }, -∞0，
则称X 服从参数为 μ 和 σ 的正态分布. 记作
X ~N (μ, σ2) f (x ) 所确定的曲线叫作正态曲线. 2
μ=0, σ
=1 的正态分布称为标准正态分布.
标准正态分布的重要性在于，任何一个一般的正态分布都可以通
过线性变换转化为标准正态分布.
随机变量函数的分布
设X 为连续型随机变量，具有概率密度f x (x)，求Y=g(X) （g 连
续）的概率密度。
1．一般方法——分布函数法
可先求出Y 的分布函数F Y (y)：
因为F Y (y)=P{Y≤y}=P{g(X)≤y}，设l y ={x|g(x)≤y}
则
F Y (y )=P {X ∈l y }=⎰f X (x ) dx =⎰l y g (x )
再由F Y (y)进一步求出Y 的概率密度 f Y (y )=F Y '(y )
2. 设连续型随机变量X 的密度函数为ϕX (x), y=f(x)连续, 求Y=
f(X)的密度函数的方法有三种：
（1）分布函数法；
（2）若y=f(x)严格单调，其反函数有连续导函数，则
可用公式法；
（3）若y=g(x)在不相重叠的区间I 1,I 2,…上逐段严格单
调，其反函数分别为h 1(y), h2(y), …,且h '1(y), h '2(y),
…,均为连续函数，则Y= g(X)是连续型随机变量，
其密度函数为
ϕY (y )=ϕX [h 1(y )h 1(y +ϕX [h 2(y )h 2(y )+ ''
对于连续型随机变量，在求Y =g (X ) 的分布时，关键的一步是把
事件 { g (X )≤ y } 转化为X 在一定范围内取值的形式，从而可以利用
X 的分布来求 P { g (X )≤ y }.。
第三章 、多维随机变量
设(X , Y ) 是二维随机变量, 对于任意实数x , y , 二元函数:
F (x , y ) =P {(X ≤x ) (Y ≤y )}=P {X ≤x , Y ≤y }
称为二维随机变量(X , Y ) 的分布函数, 或称为随机变
和Y 的联合分布函数. 量X
. 分布函数的性质
1o F (x , y ) 是变量x 和y 的不减函数, 即对于任 意固定的y , 当x 2>x 1时F (x 2, y ) ≥F (x 1, y ),
2
o
0≤F (x , y ) ≤1,
对于任意固定的y ， 对于任意固定的x ，
F (-∞, y ) =lim F (x , y ) =0,
x →-∞
F (x , -∞) =lim F (x , y ) =0,
y →-∞
F (-∞, -∞) =x lim F (x , y ) =0, →-∞
y →-∞
F (+∞, +∞) =x lim F (x , y ) =1. →+∞
y →+∞
3
o
F (x , y ) =F (x +0, y ) , F (x , y ) =F (x , y +0) ,
对于任意(x 1, y 1), (x 2, y 2), x 1
即F (x , y ) 关于x 右连续, 关于y 也右连续.
4o
有 F (x 2, y 2) -F (x 2, y 1) +F (x 1, y 1) -F (x 1, y 2) ≥0.
设二维离散型随机变量(X , Y ) 所有可能取的P {X =x i , Y =y j }=p ij , i , j =1, 2, ,
离散型随机变量的分布、
值为(x i , y j ), i , j =1, 2, , 记
称此为二维离散型随机变量 (X , Y ) 的分布律,
或随机变量 X 和 Y 的联合分布律. 其中p ij ≥0, 连续型随机变量及其概率密度 性质
p ij =1. ∑∑i =1j =1
∞∞
(1) f (x , y ≥⎰0. ⎰f (x , y ) d x d y =F (∞, ∞) =1. () 2)
-∞-∞
+∞+∞
(3)设G 是xOy 平面上的一个区域, 点(X , Y ) 落在G 内的概率为P {(X , Y ) ∈G }=⎰⎰f (x , y ) d x d y .
∂2F (x , y )
(4) 若f (x , y ) 在(x , y ) 连续, 则有=f (x , y ) .
∂x ∂y
G
边缘分布 1离散型随机变量的边缘分布律
设二维离散型随机变量(X , Y ) 的联合分布
律为P {X =x i , Y =y j }=p ij , i , j =1, 2, .
∞
记p i ∙=∑p ij =P {X =x i },i =1, 2, ,
j =1∞
p ∙j =∑p ij =P {Y =y j },
i =1
j =1, 2, ,
连续型随机变量的边缘分布
对于连续型随机变量(X , Y ) , 设它的概率密度为 f (x , y ) , 由于
F x
∞
X (x ) =F (x , ∞) =⎰-∞
[⎰-∞f (u , v ) d v ]d u ,
记
∞
f X (x ) =⎰-∞
f (x , v ) d v ,
称其为随机变量
(X , Y ) 关于X 的边缘概率密度.
随机变量的独立性：
设F (x , y ) 及F X (x ) , F Y (y ) 分别是二维随机变 量 (X , Y ) 的分布函数及边缘分布函数. 若对于所有 x , y
有P {X ≤x , Y ≤y }=P {X ≤x }P {Y ≤y }, 即
F (x , y ) =F X (x ) F Y (y ) ,
则称随机变量X 和Y 是相互独立的.
(3) 设连续型随机变量 (X , Y ) 的概率密度为f (x , y ) , 边缘概率密度分别为f X (x ) , f Y (y ) , 则有
X 和 Y 相互独立
⇔
f (x , y ) =f X (x ) f Y (y ).
两个随机变量函数的分布
一、 离散型随机变量函数的分布 若二维离散型随机变量 的分布律为
P {X =x i , Y =y j }=p ij ,
则随机变量函数Z =g (X , Y ) 的分布律为
P {Z =z k }=P {g (X , Y ) =z k }
i , j =1, 2, ,
二、 连续型随机变量函数的分布
一般, 设
22
X , Y 相互独立且X ~N (μ1, σ) , Y ~
21
22
21
N (μ2, σ) . 则Z =X +Y 仍然服从正态分布, 且有Z ~N (μ1+μ2, σ+σ) .
第四章. 、随机变量的数字特征 随机变量的数学期望
若X 1, X 2, , X n 相互独立, 且X i 服从参数为αi , β(i =1, 2, , n ) 的Γ分布, 则
X 1+X 2+ +X n 服从参数为∑αi , β的Γ分布.
i =1n
E (X ) 是一个实数, 而非变量, 它是一种加权平均, 与一般的平均值不同 ,
它从本质上体现了随机变量 X 取可能值的真正的平均值, 也称均值. 2. 连续型随机变量数学期望的定义
设离散型随机变量X 的分布律为
设连续型随机变量的概率密度为f (x ) , 若P {X =x k }=p X , k =1, 2, . k
积分∞∞
+∞ 若级数∑x k p k 绝对收敛, 则称级数∑x k p k 为随机⎰x f (x ) d x k =1k =1
-∞
+∞E (X ) . 即变量X 的数学期望, 记为绝对收敛, 则称积分⎰x f (x ) d x 的值为随机变量
E (X ) , =p X 的数学期望记为E X ) . 即∑x k (k .
E (X ) =⎰x f (x ) d x .
-∞
∞
-∞
k =1
+∞
数学期望的本质 —— 定积分 它是一个数不再是随机变量 3. 数学期望的性质
E (C ) = C
E (CX ) = CE (X )
E (X + Y ) = E (X ) + E (Y )
n n ⎛⎫
E ∑a i X i +C ⎪=∑a i E (X i ) +C ⎝i =1⎭i =1
当X ,Y 独立时，E (X Y ) = E (X ) E (Y ) 若存在数 a 使 P(X ≥ a) = 1, 则E (X ) ≥ a； 若存在数 b 使 P(X ≤ b) = 1, 则E (X ) ≤ b. 第二节：随机变量的方差 方差的定义
设X 是一个随机变量, 若E {[X -E (X ) ]2}存在, 则称E {[X -E (X ) ]2}为X 的方差,
记为D (X ) 或Var(X ) , 即
D (X ) =Var(X ) =E {[X -E (X ) ]2}.
D (X ) —— 描述 r.v. X 的取值偏离平均值
的平均偏离程度
5. 随机变量方差的计算 利用公式计算
D (X ) =E (X 2) -[E (X )]2.
方差的性质 1.D (C ) = 02.D (CX ) = C 2D (X )
D (aX+b ) = a 2D (X )
D (X ±Y ) =D (X ) +D (Y )
±2E ((X -E (X ))(Y -E (Y )) )
特别地，若X ,Y 相互独立，则
D (X ±Y ) =D (X ) +D (Y )
若X i ，X j 均相互独立，a 1, a 2, , a n , b 均为常数，则
⎛n ⎫D ∑a i X i +b ⎪=⎝i =1⎭
∑a i 2D (
X i )
i =1
n
2若X ,Y 相互独立可得 逆命题不成立；
D (X ±Y ) =D (X ) +D (Y )
3若X ,Y 相互独立可得 (XY ) =E 逆命题不成立。
E (X ) E (Y )
4. 对任意常数C, D (X ) ≤E (X – C) 2 , 当且仅当C = E(X ) 时等号成立
5. D (X ) = 0等价于P (X = E(X ))=1 称为X 依概率 1 等于常数
E (X ) 。
切比雪夫不等式
设随机变量X 有期望E (X ) 和方差 ，则对于 任给 ε>0,
σ2
P {|X -E (X ) |≥ε}≤2
ε
σ2
P {|X -E (X ) |
ε
第三节、协方差与相关系数
量E {[X -E (X ) ][Y -E (Y ) ]}称为随机变量X
与Y 的协方差. 记为Cov(X , Y ) , 即
C ov(X , Y ) =E {[X -E (X )][Y -E (Y )]}.
Cov(X , Y ) =0, 则称
ρ=
XY
若ρXY
注：（1）X 和Y 为随机变量X 与Y 的相关系数. 量。
2、若随机变量X 和Y 相互独立 ⇒
D (X ) ⋅D (Y )
Cov(X , Y ) =E {[X -E (X )][Y -E (Y )]}
=E [X -E (X )]E [Y -E (Y )]
=0.
⇒D (X +Y ) =D (X ) +D (Y )
+2E {[X -E (X )][Y -E (Y )]}
=D (X ) +D (Y ) +2Cov (X , Y )
D (X ) +D (Y ). =
协方差的计算公式
1、 Cov(X,Y)=E(XY)-E(X)E(Y) 2、 D(X+_Y)=D(X)+D(Y)+2Cov(X,Y) 协方差的性质： (1) Cov(X , Y ) =
Cov(Y , X );
(2) Cov(aX , bY ) (3) Cov(X 相关系数：
1
=ab Cov(X , Y ) , a , b 为常数;
+X 2, Y ) =
Cov(X 1, Y ) +Cov(X 2, Y ).
1、 二维正态分布密度函数中，参数p 代表了与Y 的相关系数。 2、 二维正态随机变量X 和Y 相关系数为零等价于X 和Y 相互独
立。
即 XY相互独立 等价于 XY不相关 不相关的充要条件
1o
2
o
X , Y 不相关⇔ρXY =0;
X , Y 不相关⇔Cov(X , Y ) =0;
X , Y 不相关⇔E (XY ) =E (X ) E (Y ).
3o
相关系数的性质： (1)
ρXY ≤1.
P {Y =a +bX }=1.
(2) ρXY =1的充要条件是:存在常数a , b 使
第五章：极限定理
大数定理：设{Xn}为一随机变量序列,E(Xn)存在，记
1n
Y n =∑[X i -E (X i )]n =1, 2,
n i =1
n
⎧⎫1 若lim P Y
n →∞n →∞n i =1⎩⎭
则称{Xn}服从（弱）大数定律。
切比雪夫大数定律：设 X 1, X 2, …是相互独立的随机变量序列，它们都有有限的方差，并且方差有共同的上界，即 D (X i ) ≤K ，i =1,2, …，则对任意的ε>0
马尔科夫条件：在切比雪夫大数定理的证明过程中可以看出
1n
2∑D (X i ) =0△) ， 则大数定理就能成立。 只要n →∞n i =1
1n 1n
lim P {|∑X i -∑E (X i ) |
切比雪夫大数定律的特殊情况：设X 1, X 2, …是独立随机变量
2σ序列，且E (X i )= μ，D (X i )= ， i =1,2,…,则对任给ε>0,
1n
lim P {|∑X i -μ|
辛钦大数定律：设随机变量序列X 1, X 2, …独立同分布，具有有限
1n
lim 的数学期E (X i )=μ, i=1,2,…， 则对任给ε>0 ， ∞P {|n ∑X i -μ|
i =1
辛钦大数不要求随机变量的方差存在. 它为寻找随机变量的期望值提供了一条实际可行的途径. 中心极限定理：
独立同分布下的中心极限定理：
设X 1, X 2, …是独立同分布的随机变量序列，且E (X i )=
μ
，
D (X i )= σ
2
，i =1,2,…，则
=⎰
x
-∞
1-t 2e dt 2注：参考资料
《概率论 数理统计 随机过程》 作者：胡细宝 孙洪祥 王丽霞 郭永江老师的教学课件