概率论与数理统计知识点总结(详细).docx

1、 概率论与数理统计第一章 概率论的基本概念2样本空间、随机事件 B1事件间的关系 A则称事件 B 包含事件 A，指事件 A 发生必然导致事件 B 发生A B = x x A或x B 称为事件 A 与事件 B 的和事件，指当且仅当 BA，B 中至少有一个发生时，事件 A发生A B = x x A且x B 称为事件 A 与事件 B 的积事件，指当 A，B B同时发生时，事件 A发生A B = x x A且x B称为事件 A 与事件 B 的差事件，指当且仅当 BA 发生、B 不发生时，事件 A发生A B = f ，则称事件 A 与 B 是互不相容的，或互斥的，指事件 A 与事件 B 不能同时发生，基

2、本事件是两两互不相容的A B = S且 A B =f ，则称事件 A 与事件 B 互为逆事件，又称事件A 与事件 B 互为对立事件 B = B A A B = B A2运算规则 交换律 A结合律(A B) C = A (B C) (A B)C = A(B C)（B C）= (A B) (A C)分配律 AA (B C) = (A B)(A C) B = A B A B = A B徳摩根律 A3频率与概率定义 在相同的条件下，进行了 n 次试验，在这 n 次试验中，事件 A 发生的次数n 称为事A件 A 发生的频数，比值n n称为事件 A 发生的频率A概率：设 E 是随机试验，S 是它的样本空间

3、，对于 E 的每一事件 A 赋予一个实数，记为 P（A），称为事件的概率1概率 P(A)满足下列条件：（1）非负性：对于每一个事件 A（2）规范性：对于必然事件 S P(S) = 10 P(A) 11 Unn, A ,L, A 是两两互不相容的事件，有 P(A) =( )P A （n 可（3）可列可加性：设 A12nkkk=1k=1以取 ）2概率的一些重要性质：( ) = 0（i） P fUnn, A ,L, A 是两两互不相容的事件，则有 P() =( )P A （ n 可以取 ）（ii）若 AA12nkkk=1k=1 BP(B - A) = P(B) - P(A) P(B) P(A)，（i

4、ii）设 A，B 是两个事件若 A（iv）对于任意事件 A， P(A) 1（v） P(A) = 1- P(A)，则（逆事件的概率）（vi）对于任意事件 A，B 有 P(A B) = P(A) + P(B) - P(AB)4 等可能概型（古典概型）等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同= e Ue ULUe 若 事 件 A 包 含 k 个 基 本 事 件 ， 即 A， 里ii2i1ki ，i L，i 是1, 2，Ln中某k个不同的数，则有12,k( )k A包含的基本事件数P ekP(A) = = =n S中基本事件的总数i jj=15条件概率P(AB)P(A

5、)（1） 定义：设A,B 是两个事件，且P(A) 0( | ) =，称P B A为事件 A 发生的条件下事件 B 发生的条件概率（2） 条件概率符合概率定义中的三个条件(B | A) 01 非负性：对于某一事件 B，有 P。(S | A) = 12 规范性：对于必然事件 S， P。, B ,L3 可 列 可 加 性 ： 设 B是 两 两 互 不 相 容 的 事 件 ， 则 有12UP( B A ) =P(B A )iii=1i=1设 P(A) 0，则有P(AB) = P(B)P(A | B)称为乘法公式（3） 乘法定理2 n(A) = P(B )P(A | B )（4） 全概率公式： Piii

6、=1P(B )P(A | B )贝叶斯公式： P(B | A) =kkkn ( ) ( | )P B P A Biii=16独立性定义设 A，B 是两事件，如果满足等式P(AB) = P(A)P(B)，则称事件A,B 相互独立( )设 A，B 是两事件，且 P(A) 0，若 A，B 相互独立，则 P B A P B( | ) =定理一B，A与B，A与B定理二 若事件 A 和 B 相互独立，则下列各对事件也相互独立：A 与第二章 随机变量及其分布1 随机变量定义设随机试验的样本空间为S = e. X = X(e)X = X(e)为随机变量是定义在样本空间 S 上的实值单值函数，称2 离散性随机变

7、量及其分布律1 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散型随机变量P(X = x ) = p 满足如下两个条件（1） p 0 ，（2） P =1kkkkk=12 三种重要的离散型随机变量（1）(0 1)分布设 随 机 变 量 X 只 能 取 0 与 1 两 个 值 ， 它 的 分 布 律 是P(X = k) = p（k 1- p）1-k，k = 0 ,1 （0 p 1) ，则称 X 服从以 p 为参数的(0 1)分布或两点分布。（2）伯努利实验、二项分布P(A) = p （0 p 0其中l 是常数，则称X 服从参数为l 的泊松分布记为k!X p

8、（l）3 随机变量的分布函数定义 设 X 是一个随机变量，x 是任意实数，函数F(x) = PX x, - x 称为 X 的分布函数分 布 函 数 F(x) = P(X x)， 具 有 以 下 性 质 (1)F(x)是 一 个 不 减 函 数（ 2 ）0 F(x) 1，且F(-) = 0, F() = 14 连续性随机变量及其概率密度F(x + 0) = F(x),即F(x)是右连续的（3）(x)连续随机变量：如果对于随机变量 X 的分布函数 F（x），存在非负可积函数 f，使F(x) =xf（t）dt,对于任意函数 x 有则称 x 为连续性随机变量，其中函数 f(x)称为 X-的概率密度函数

9、，简称概率密度(x)( ) 0, (2) + ( ) = 1具有以下性质，满足（1） f x；1 概率密度 ff x dx-(x X x ) = f (x)dxF ( ) = ( ) x( )（3） P；（4）若 f x 在点 x 处连续，则有 ， xf x212x12,三种重要的连续型随机变量(1)均匀分布1x b，a 0-xx(x) = 0为常数，则称 X若连续性随机变量 X 的概率密度为 f其中qq0，其他服从参数为q 的指数分布。（3）正态分布4 1(x-m）2，- x 0)为常数，则称 X服从参数为 m，sX N（m，s 2）的正态分布或高斯分布，记为m 0，s 1=时称随机变量 X

10、 服从标准正态分布特别，当5 随机变量的函数的分布(x)，- x 0g x( )， 则 Y= g X 是 连 续 型 随 机 变 量 ， 其 概 率 密 度 为 ab y 0,定义设（X，Y）是二维离散型随机变量，对于固定的j，若 PjPX = x ,Y = y p则称 PX = x Y = y =,i =1,2,L为在Y = y条件下ijijPY = y pijjj jPX = x ,Y = y pY = y X = X =, j =1,2,L随机变量X 的条件分布律，同样 PijijPX = x pjiii= x为在 X条件下随机变量 X 的条件分布律。i(x, y)设二维离散型随机变量（

11、X，Y）的概率密度为 f，（X，Y）关于 Y 的边缘概为在 Y=y 的条件下 X 的条件f (x, y)(y)f (y)Y率密度为 f，若对于固定的 y，0，则称f (y)YYf (x, y)(x y)概率密度，记为 f=f (y)X YY4 相互独立的随机变量F（x，y） F ( ) F ( )x ， y 分别是二维离散型随机变量（X，Y）的分布函定义 设及XY数及边缘分布函数.若对于所有 x,y 有 PX = x,Y = y = PX xPY y，即Fx, y = F (x)F (y)，则称随机变量 X 和 Y 是相互独立的。XY= 0r对于二维正态随机变量（X，Y），X 和 Y 相互独立

12、的充要条件是参数5 两个随机变量的函数的分布1，Z=X+Y 的分布(x, y)设(X,Y)是二维连续型随机变量，它具有概率密度 f.则 Z=X+Y 仍为连续性f (z) =X +Y ( - , ）f z y y dy f( ) = ( , - ）zf x z x dx随机变量，其概率密度为或X +Y-6 (x), f (y)又若 X 和 Y 相互独立，设（X，Y）关于 X，Y 的边缘密度分别为 f则XYf (x）f (z - x)dxf (z) =X +Yf (z - y）f（y)dyf (z) =X +Y和这两个公式称为XYXY-f , f 的卷积公式XY有限个相互独立的正态随机变量的线性组

13、合仍然服从正态分布YZ = 的分布、Z = X Y的分布2，XY(x, y)= ，Z = XY设(X,Y)是二维连续型随机变量，它具有概率密度 f，则ZXf (z) =Y Xx f (x, xz)dx仍为连续性随机变量其概率密度分别为-1zf x dxf (z) =XY( , )又若 X 和 Y 相互独立，设（X，Y）关于 X，Y 的边缘密度分别xx-(x), f (y)( ) = ( ) ( )f x f xz dx为 f则可化为fzXYY XXY-1zf (z) =XYf x fX( ) ( )dxxxY-= max X，Y及N = minX ,Y的分布3 M(x),F (y)设 X，Y

14、是两个相互独立的随机变量，它们的分布函数分别为F由于XYM = maxX，Y不大于 z 等价于 X 和 Y 都不大于 z 故有PM z = PX z,Y z又由于 X 和 Y 相互独立，得到M= maxX，Y的分布函数为F z F z F zmax( ) = ( ) ( )XYN = minX,YF z F z( ) = 1- 1- ( ) 1- ( )的分布函数为 F zminXY第四章 随机变量的数字特征1数学期望X = x = p定义 设离散型随机变量 X 的分布律为 P，k=1,2，若级数 x p 绝对kkkkk=1(X )( ) = ，即 E X收敛，则称级数 x p 的和为随机变量

15、 X 的数学期望，记为 Ex pkkkkk=1i(x) ( )设连续型随机变量 X 的概率密度为 f，若积分 xf x dx 绝对收敛，则称积分-7 +-( )( )xf x dx 的值为随机变量 X 的数学期望，记为 E X ，即 E X( ) =xf x dx( )-定理设 Y 是随机变量 X 的函数 Y= g(X )(g 是连续函数)X = x = p( ）（i）如果X 是离散型随机变量，它的分布律为P，k=1,2，若 g x pkkkkk=1绝对收敛则有 E(Y) = E(g(X ) =( ）g x pkkk=1(x)( ) ( )，若 g x f x dx 绝对收敛则（ii）如果 X

16、 是连续型随机变量，它的分概率密度为 f-有 E(Y) = E(g(X ) =( ) ( )g x f x dx-数学期望的几个重要性质1 设 C 是常数，则有 E(C) = C2 设 X 是随机变量，C 是常数，则有 E(CX ) = CE(X )3 设 X,Y 是两个随机变量，则有E(X + Y) = E(X ) + E(Y )；4 设 X，Y 是相互独立的随机变量，则有E(XY ) = E(X )E(Y )2 方差 X - E(X ) E X - E(X ) 2 为 X 的方定义 设 X 是一个随机变量，若E2 存在，则称2 ，在应用上还引入量 D(x) X - E(X ) ( )，记为

17、s x ，差，记为 D（x）即 D（x）= E称为标准差或均方差。D(X ) = E(X - E(X )2 = E(X 2 ) - (EX )2方差的几个重要性质1 设 C 是常数，则有 D(C) = 0,(CX ) = C D(X )( + ) = D(X)， D X C2 设 X 是随机变量，C 是常数，则有 D23 设 X,Y 是两个随机变量，则有D(X + Y ) = D(X) + D(Y) + 2E(X - E(X)(Y - E(Y)别，若 X,Y 相互独立，则有 D(X + Y ) = D(X ) + D(Y)特4 D(X ) = 0E(X)PX = E(X ) = 1，即的充要条

18、件是 X 以概率 1 取常数切比雪夫不等式：设随机变量 X 具有数学期望 E(X ) =s 2 ，则对于任意正数 ，不等式e8 se2P X - m e 成立23 协方差及相关系数定义量 EX - E(X )Y - E(Y )称为随机变量 X 与 Y 的协方差为Cov(X ,Y )，即Cov(X ,Y ) = E(X - E(X )(Y - E(Y ) = E(XY ) - E(X )E(Y )Cov(X，Y）=而 r称为随机变量 X 和 Y 的相关系数XYD(X) D(Y)+(X Y ) = D(X ) + D(Y ) 2Cov(X ,Y )对于任意两个随机变量 X 和 Y， D_-协方差具

19、有下述性质1Cov(X ,Y ) = Cov(Y, X ), Cov(aX ,bY ) = abCov(X ,Y )(X + X ,Y) = Cov(X ,Y) + Cov(X ,Y)2Cov1212rr1定理1XY=1的充要条件是，存在常数 a,b 使 P Y= a + bx = 12XY=r0XY当时，称 和 不相关附：几种常用的概率分布表分布律或概率密度XY分布参数P X = k = p (1- p 1 k =) ,pp(1- p)kn 1np(1- p)pkkkn-knk- 01P X = k) = (1- p 1 p k = 1,2,L(),k-p2p1a + bb a( - )2，

20、a212 0 ，其他9 1e-xxq,其他m1正态分布(x-m)2mf (x) =e-2s 2 0s2ps第五章 大数定律与中心极限定理1 大数定律弱大数定理（辛欣大数定理） 设 X X 是相互独立，服从统一分布的随机变量序列，并，121n(X ) = (k = 1,2,L)具有数学期望 Em.作前 n 个变量的算术平均X ，则对于任意knkk=11n 0lim X- m e = 1eP，有nknk=1,Y ,LY L是一个随机变量序列， a 是一个常数，若对于任意正数 ，有设Ye定义12nlim PY - a =1, ,L LY YeYaa依概率收敛于 ，记为Yp，则称序列n12nnn伯努利大数定理 设 是 n 次独立重复试验中事件 A 发生的次数，p 是事件 A 在每次试fAflim P - p 0,k = 1,2L= 和方差 E2记 B 2ne 2kkkkkk=110 定理三（棣莫弗-拉普拉斯定理）设随机变量h(n = 1,2, )服从参数为n, p(0 p 1）的nh1- nplim P x =e 2 dt =F(x)-t 2二项分布，则对任意 x ，有xnnp(1- p)2pn-11