最新概率论与数理统计知识点总结(超详细版).docx

1、 概率论与数理统计第一章 概率论的基本概念2 样本空间、随机事件A B1 事件间的关系 则称事件 B 包含事件 A，指事件 A 发生必然导致事件 B发生A B =x x A 或 XE B称为事件 A 与事件 B 的和事件，指当且仅当 A , B中A B至少有一个发生时，事件 发生Ac B =x X W A 且 XE B称为事件 A 与事件 B 的积事件，指当 A , B 同时发生时，事件 发生ABA B =x x A 且x B乏 世 称为事件 A 与事件 B 的差事件，指当且仅当 A发A B生、B 不发生时，事件 发生A B =:，则称事件 A 与 B 是互不相容的，或互斥的，指事件 A与事

2、件B 不能同时发生，基本事件是两两互不相容的A B = S 且 AB 二，则称事件 A 与事件 B 互为逆事件，又称事件A 与事件 B 互为对立事件2 运算规则 交换律A B = B A A - B = B * A(结合律 一 一 一(A B) C = A B C) (A - B)C = A(B - C)(A B C A B A C)分配律 _( )二 一 厂 一(A B C) =(A B)(A C)一一 一A = A - B A - B = A B徳摩根律3 .频率与概率n定义 在相同的条件下，进行了 n 次试验，在这 n 次试验中，事件 A 发生的次数 称为事A：An n件 A 发生的频数

3、，比值称为事件 A 发生的频率概率：设 E 是随机试验，S 是它的样本空间，对于 E 的每一事件 A 赋予一个实数，记为 P( A), 称为事件的概率P(A)1 概率 满足下列条件：0 P(A) 1(1) 非负性：对于每一个事件 A 乞 乞 (2) 规范性：对于必然事件 S =1P(S) nn， AA ,A2,nP( A ) P(A )是两两互不相容的事件， 有 八 ( 可(3)可列可加性：设以取：)Inkk 二kk2.概率的一些重要性质:P( ) =0(i)nn，A , An二二 ( 可以取：)P( A ) P(A )(ii )若 A,是两两互不相容的事件，则有kk?nk 4k 4A B U

4、 P(B _ A) =P(B) _ P(A) P(B) _ P(A)(iii )设 A, B 是两个事件若 ，贝,P(A) 1(iv) 对于任意事件 A,P(Aj=1P(A)(v)(逆事件的概率)P(A B) P(A) P(B) - P(AB)(vi) 对于任意事件 A, B 有 一 二4 等可能概型(古典概型)等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同kAhgjUgziU-Ugk,里若事件 A 包含 个基本事件，即i, i ,i 是1,2,n 中某k 个不同的数，则有i2,k/ f k A 包含的基本事件数$中基本事件的总数(P =A) 卫二5.条件概率P(A

5、) 0 P(B|A)(1) 定义：设 A,B 是两个事件，且 ，称 二为事件 A 发生的条P(A)件下事件 B 发生的条件概率(2) 条件概率符合概率定义中的三个条件P(B | A) 0一1 非负性：对于某一事件 B，有。2 规范性：对于必然事件 S,P(S|A) =1。B ,B3 可列可加性：设 ,是两两互不相容的事件，则有120O0P(U BA )=迟 P(B A )ii =1i T P(A) 0(3) 乘法定理 设 ，则有P(AB) =P(B)P(A| B)称为乘法公式n(4) 全概率公式：P(A)=v P(B )P(A|B )jj1P(B )P(A|B )kk贝叶斯公式：P(B | A

6、)kkE P(B )P(A|B )iii 46 .独立性定义 设A , B 是两事件，如果满足等式P(AB) =P(A)P(B)，则称事件 A,B 相互独立P(B|A) = PBP(A) . 0,若 A，B 相互独立，则定理一 设 A，B 是两事件，且定理二 若事件 A 和 B 相互独立，则下列各对事件也相互独立：A与B ,A 与B ,A 与 B第二章 随机变量及其分布1 随机变量定义 设随机试验的样本空间为 二S e.X=X(e)是定义在样本空间 S 上的实值单值函数，称X =X(e)为随机变量2 离散性随机变量及其分布律1. 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限

7、多个，这种随 机变量称为离散型随机变量0二 满足如下两个条件(1) , ( 2) V P =1P(X =X ) PP - 0kkkkkT2. 三种重要的离散型随机变量(1)分布设随机变量 X 只能取 0 与 1 两个值，它的分布律是 二( ) ,P(X k) =p 1-p k =0,1k1-k( ：0p 1)，则称 X 服从以 P 为参数的分布或两点分布。(2) 伯努利实验、二项分布( ：A设实验 E 只有两个可能结果：A 与 ，则称 E 为伯努利实验 设 二P(A) p 0 p 1),此时P(A) =1-p.将E 独立重复的进行 n 次，则称这一串重复的独立实验为 n 重伯努利实验。n k

8、n.k. . , !p q k =0,1,2, nP(X =k) =P满足条件(1) p 0 , (2)送 =1 注意kIk.丿心 p的展开式中出现 的那一项，我们称随机变量 X 服从参数n-k (是二项式p - q)nk到为 n，p 的二项分布。(3 )泊松分布设随机变量 X 所有可能取的值为 0,1,2，而取各个值的概率为(，P X k) k=0,1,2-,.0其中， 是常数，则称 X 服从参数为的泊松分布记为k!二: ( )X 3 随机变量的分布函数F(x) = PX x,込: x:：:定义 设 X 是一个随机变量，x 是任意实数，函数F(x) P(X x)F(x)称为 X 的分布函数

9、分布函数 二 乞 ,具有以下性质(1) 是一个不减函数 (2 )： ：0 EF(x)，且 F(- ) =0,F( ) -1F(x 0) = F(x),即F(x)是右连续的(3)4 连续性随机变量及其概率密度f (x)连续随机变量：如果对于随机变量 X 的分布函数 F (x),存在非负可积函数 ，使xF(x) f (t) dt,对于任意函数 x有 二则称 x 为连续性随机变量，其中函数f(x)称为 XoO4的概率密度函数，简称概率密度f(x) 0, (2)f(x)dx=1f (x)1 概率密度 具有以下性质，满足(1) 一；-OQP(X1 X X2 f (x)dx) = Jf (x); (4)若

10、 在点 x 处连续，则有F(x)=f(x)x1(3) 兰 兰2,三种重要的连续型随机变量(1)均匀分布丄a 丈 x b若连续性随机变量 X 具有概率密度f(x)二 b-a ，则成 X 在区间(a,b)上服从I 0，其他均匀分布 记为X U (a，b)(2)指数分布，x. 0( )0其中二 为常数，则称 Xf X 7若连续性随机变量X 的概率密度为 二 e，其他0k服从参数为 V 的指数分布。(3 )正态分布 1(x_W若连续型随机变量 X 的概率密度为f (x) =e 2 坊，-比 x ,其中丄，二(二 0)为常数，则称X 服从参数为丄，二的正态分布或高斯分布，记为2X N )-0, -1特别

11、，当 ； 时称随机变量 X 服从标准正态分布5 随机变量的函数的分布：f (x),-: Xg(x):：,又设函数 处处可导且恒有定理 设随机变量 X 具有概率密度xg(X)则 Y= 是连续型随机变量，其概率密度为g(x) o，Ph(y)h (y) a yr fX=f ( y) 0 ，其他Y多维随机变量第三章1 二维随机变量S e. X =X(e) Y =Y(e)是定义在 S 上定义 设 E 是一个随机试验，它的样本空间是 二和的随机变量，称X =X(e)为随机变量，由它们构成的一个向量( X，Y)叫做二维随机变量F(x，y) = P(X x)设(X， Y)是二维随机变量，对于任意实数 x， y

12、，二元函数(Yy)记成PX x，Y y乞称为二维随机变量(X，Y)的 分布函数如果二维随机变量 (X，Y)全部可能取到的值是有限对或可列无限多对，Y )是离散型的随机变量。则称(X，P(X X, Y y) p，i，j =1,2,我们称 二 二 二为二维离散型随机变量(X，Y)的jjj分布律。F (x，y),如果存在非负可积函数 f(x ,y),，丫对于二维随机变量(X )的分布函数y xf ， ) = jff ( ， )F x yu v dudv,f使对于任意 x, y有则称(X , Y)是连续性的随机变量， 函数ffx，y)称为随机变量 X，Y)的概率密度，或称为随机变量X 和 Y 的联合概

13、率密度。2 边缘分布f ， )F x yf二维随机变量 X，Y )作为一个整体，具有分布函数而X和Y都是随机 变量，( ( )F x), F y各自也有分布函数，将他们分别记为，依次称为二维随机变量f X，Y)XY 关于 X 和关于 Y 的边缘分布函数。, = ,1,2 j ,二 二PP PX X, i= ,4p =PPYy1 2八 二 二iijjji分别称 P P d 为(X , Y )关于 X 和关于 Y 的边缘分布律。if (x)f (x, y) dyf (y) .f (x, y) dx二f (x)分别称 ,二xYxl*0f (y)为X, Y 关于 X 和关于 Y 的边缘概率密度。Y3

14、条件分布PY y 0,j，若 二定义 设(X，Y)是二维离散型随机变量，对于固定的jPX =X ,Y = y ：j=,i =1,2,Y y为在 二 条件下PX则称 二人丫二比j-jPY = yP 0，则称 为在 Y=y 的条件下 X 的条件YYf(x, y)f (y)y| (x y)概率密度，记为fY =Xf (x, y)J(y)14 相互独立的随机变量F x y F (x) F (y)定义设 ( , )及 , 分别是二维离散型随机变量(X, Y)的分布函XYPX x, y PX xPY y数及边缘分布函数 若对于所有 x,y 有 二 丫二 二 乞，即Fx,y =F (x)F (y), 则称随

15、机变量 X 和 Y 是相互独立的。xY对于二维正态随机变量(X , Y ), X 和 Y 相互独立的充要条件是参数卜=05 两个随机变量的函数的分布1 , Z=X+Y 的分布设(X,Y)是二维连续型随机变量，它具有概率密度f(X, y).则 Z=X+Y 仍为连续性 (z) _f(z-y, y dy ffX Y_._f(x,z-x dx)随机变量，其概率密度为二) 或 丫二X (x), f (y)f又若 X 和 Y 相互独立，设(X , Y )关于 X , Y 的边缘密度分别为则XYQQf (z-y) fY(y)dy f 丫 f (x) f (z-x)dx这两个公式称为QQf (z)二和 二x

16、YxxxYf , f的卷积公式xY有限个相互独立的正态随机变量的线性组合仍然服从正态分布YZ 的分布、Z 二XY 的分布2,XZ =XYf (x, y),设(X,Y)是二维连续型随机变量，它具有概率密度仍为连续性随机变量其概率密度分别为OQ 1 z(fxY z)，)dx= x xf(x又若X和 相互独立，设(X， )关于 X, 的边缘密度分别YYY；(z) ( ) (xz)dxf (x), f (y)fx f为则可化为xY XUxY-7 Jfx(x)fY( )dxf (Z)二xY3M = maxX , Y及N = minX,Y的分布(x), F (y)Fx设X, Y 是两个相互独立的随机变量，

17、它们的分布函数分别为由于YM = maxX , Y不大于z等价于X和Y都不大于z故有PM z PX Y z二 乙 又 由于XM = maxX , YF (z) F (z)F (z)和 Y 相互独立，得到的分布函数为 二maxxN min X ,YF =1 - 1 - F - F 丨二的分布函数为minx第四章 随机变量的数字特征1 数学期望Q0PX X Px P定义 设离散型随机变量 X 的分布律为 二 二 , k=1,2，若级数 7 绝对kkkk心Q0X PE(X) E(X) X P收敛，则称级数 的和为随机变量 X 的数学期望，记为 ,即 二為V k kk kk 1iQQxf(x)dx设连

18、续型随机变量 X 的概率密度为 ，若积分. 绝对收敛，则称积分f (x) xf(x)dxE(X) xf(x)dxE(X)的值为随机变量 X 的数学期望，记为 ，即 二二甘二Jg(X)定理 设 Y 是随机变量 X 的函数 Y= (g 是连续函数)Q0a g(xk)pPX =x p(i) 如果 X 是离散型随机变量，它的分布律为工 ，k=1,2，若kkkoO)pv g(xkE(Y) E(g(X) =绝对收敛则有 二kkAg(x) f (x)dx 绝对收敛则f (x)(ii) 如果 X 是连续型随机变量，它的分概率密度为 ，若-=Og(x)f(x)dxE(Y) E(g(X) =有 二：数学期望的几个

19、重要性质E(C) C1 设 C 是常数，则有 二E(CX) CE(X)2 设 X 是随机变量，C 是常数，则有 二3 设 X,Y 是两个随机变量，则有E(X YE(X) E(Y);E(XY) E(X)E(Y)二4设X, Y 是相互独立的随机变量，则有2 方差E k - E(X) E X-E(X)为X的方 差，记为 D定义 设 X 是一个随机变量，若存在，则称 I2f,D(x)，在应用上还引入量 ，记为匚 , 称为标准差或均方差。E X -E(X)F(x)即 D (x) = (x)2 2 2D(X) =E(X -E(X) =E(X ) -(EX)222方差的几个重要性质1 设 C 是常数，则有D

20、(C) =0,2D(CX) CD(X) D(X CH D(X)2 设 X 是随机变量，C 是常数，则有 二 ,D(X Y) D(X) D(Y) 2E(X - E(X)(Y - E(Y)3 设 X,Y 是两个随机变量，则有 二特D(X Y D(X) D(Y)别，若 X,Y 相互独立，则有4D(X) =0E(X) PX E(X) =1的充要条件是 X 以概率 1 取常数 ，即 二E(X)切比雪夫不等式：设随机变量 X 具有数学期望 -； ，则对于任意正数 ；，不等式2_ 2 PX-4 兰靳兰与成立名3 协方差及相关系数定义 量E X _E(X) Y _E(Y)称为随机变量 X 与Y的协方差为Cov

21、(X,Y)，即Cov(X,Y) =E(X - E(X)(Y - E(Y) = E(XY) - E (X )E(Y)Cov(X，Y)而 r称为随机变量 X 和 Y 的相关系数XYJ ) TWD( X+ +D(X Y) = D(X)+D(Y) 2Cov(X,Y)对于任意两个随机变量 X和Y,协方差具有下述性质lCov(X,Y)二 Cov(Y,X), Cov(aX,bY)二 abCov(X,Y),Y) CovgY)Cov(XX ,YCov(X122* 0P(X =k)=,k =0,1,2，泊松分 布k! 丄1 - p p20 C p V1P(X =k)=(1 p) p,k=1,2,几何分 布k-*p

22、 f 1.a + b (b-a)2、 -，a c x cbf(x) = 0均匀分 布212，, e ,x09f(x) = 0第五章 大数定律与中心极限定理1.大数定律弱大数定理（辛欣大数定理） 设X X 是相互独立，服从统一分布的随机变量序列，并i, 21nE（Xk）:具有数学期望， ）k =1,2 X.作前 n 个变量的算术平均 一 ，则对于任意=（kn0 lim P-：Z X名 ，有k 卩 c 号=1y n 心定义 设,丫是一个随机变量序列，a 是一个常数，若对于任意正数 ；，有2,Y n|坠卩 - 号aa c =1Y,Y YY ，则称序列 依概率收敛于 a，记为PT2n|f设 是 n 次

23、独立重复试验中事件伯努利大数定理A 发生的次数，p 是事件 A 在每次试A验中发生的 概率，则对于任意正数；f - Pnnlim Pn 2 中心极限定理X ,X ,X定理一（独立同分布的中心极限定理 ） 设随机变量相互独立，服从同一i2 /nE（X） , D（X ）J2-（k=1,2，），则随机变量之和分布，且具有数学期望和方差二iknn、X - EC X )kknk k =i标准化变量，YX、kn.D( X )Iki 、k ，X ,X ,X定理二（李雅普诺夫定理） 设随机变量n相互独立，它们具有数学期望i2n22仝2E(XQD(XQ0,k=1,2记 八B和方差knk丄k： ：（n =1,2 -）服从参数为n, p（0 : p :定理三（棣莫弗-拉普拉斯定理）设随机变量1）的nx lim P = Mxe dt -G(x)n np 二 X 12项分布，则对任意 ，有nYp(1 p)N 2、 兀