1、应用数学与统计,乔德礼,信息科学技术学院,dlqiaoce.ecnu.edu,基本信息,办公室: 信息楼245Email: 办公电话:021-54345492答疑时间:周二、周四 12:3013:30,相关教材,Probability and Random Processes,G. R. Grimmett and D. R. Stirzaker,Oxford University Press,出版时间:2004。 Stochastic Processes: Theory for Applications ,R. G. Gallager,Cambridge University Press,出版
2、时间: 2013。 An Exploration of Random Processes for Engineers, B. Hajek, 在线:http:/www.ifp.illinois.edu/hajek/Papers/randomprocJan14.pdf。An Introduction to Probability and Its Applications - Vols. I (and II), W. Feller, Wiley, 1968。,相关教材,周荫清,随机过程导论,1987。 林元烈,应用随机过程,2002。 陆大絟,随机过程及其应用,2006。,成绩统计,平时成绩 (40
3、%)随堂测试 (510次,20%)课后作业 (24次,20%)期末考试 (60%)课堂提问(Bonus),基本要求,上课时请关闭手机!课后及时复习、练习!必要时补充大学的高数、线代等知识!,声呐、语音、图像分析、生物医学、自动控制。,信源,传输机,信道,接收机,输出信号,不确定性,噪声,干扰,统计处理,热噪声电压,课程目标,巩固本课程相关的线性代数与分析的理论基础(特别是向量、矩阵及极限方面的背景),以及概率与随机变量的基础; 全面了解随机变量与随机过程的关系,掌握一些生活中常见的简单且重要的随机过程的特性,并为其他随机过程的分析提供方法; 熟悉马尔可夫链相关的理论以及特性; 了解随机游走及大
4、偏差理论,以及在现实生活中的应用,大纲,概率与随机变量概率模型与理论随机变量与分布随机变量的收敛特性随机过程随机过程性质泊松随机过程高斯随机过程马尔可夫链有限状态区分马尔可夫链矩阵表示随机矩阵特性随机游走和大偏差理论简单随机游走大偏差特性,检测与估计 检测:MAP, MiniMax, Neyman Pearson 估计:MSE, LLSE,概率与随机变量,事件 : , 性质:,概率空间 ,,样本空间(试验的所有可能结果),不为空; 为 所有子集的集合,为事件的组合, ;概率测度 ,不相交 ,,概率与随机变量,事件 : 条件概率 相互独立 不相交事件序列 ,概率与随机变量,贝叶斯公式:不相交事件
5、序列 , , 任意事件 ,概率与随机变量,随机变量:从样本空间 到实值的映射 一般缩写为 可以为离散或连续,概率与随机变量,累计分布函数(CDF)为 非减函数,概率与随机变量,概率分布函数(pdf)为 因此,,离散型随机变量用概率质量函数(pmf)表示,概率与随机变量,随机变量 的概率分布函数? 可通过如下方式求出 计算 的累计分布函数 若 可导,求导可得,概率与随机变量,统计平均 假设 ,则,离散:,连续:,概率与随机变量,均值: n阶矩(n-th moment): n阶中心矩(n-th central moment): n=2,方差 特征函数:,概率与随机变量,特征函数:类似于连续时间傅里
6、叶变换有益于处理随机变量之和,因为其概率分布为单独pdf的卷积,概率与随机变量,矩生成函数: 类似于连续时间拉普拉斯变换 泰勒展开可得 若已知所有n阶矩,那么通过拉普拉斯逆变换可得到pdf 若矩生成函数已知,,概率与随机变量,伯努利分布 pmf: 均值 方差 矩生成函数,例. 传输31 bit的序列,假设接收端可以最多纠正3 bit的错误,每bit误差概率为 ,那么接收序列出现误差的概率?,概率与随机变量,泊松分布 pmf: 均值 方差 矩生成函数,例. 银行到达的客户时间间隔的建模为泊松分布。,概率与随机变量,几何分布 pmf: 均值 方差 矩生成函数,例. 头一次出现硬币正面所需的次数。,
7、概率与随机变量,均匀分布 pdf: 均值 方差 矩生成函数,例. 正弦信号的相位一般建模为 的均匀分布。,概率与随机变量,高斯分布 pdf: 均值 方差 矩生成函数,例. 噪声信号一般建模为均值为0,方差为1的高斯分布。,概率与随机变量,瑞利分布 pdf: 均值 方差,例. 为相互独立的均值为0,方差为 的高斯分布,则 为瑞利分布,概率分布为 。,概率与随机变量,指数分布 pdf: 均值 方差 矩生成函数,例. 两个高斯信号之和的模的平方。,概率与随机变量,伽马分布 pdf: 均值 方差 矩生成函数,例. 多径信道的衰落Nakagami-m分布, 。,概率与随机变量,考虑两个随机变量 和 ,其联合分布函数为 联合pdf为,概率与随机变量,边缘分布函数为 边缘概率分布函数为 和 相互独立,概率与随机变量,条件概率分布函数为 给定 下 的条件均值 因此,概率与随机变量,两个随机变量的相关为 Schwarz不等式协方差为 如果 ,则不相关 相关系数为 相互独立 不相关(注意:相关与相互独立的区别!),