企业官网建设流程全解析

一、基本概念

1. 随机试验 E：试验结果无法提前预测。
2. 样本空间：随机试验所有可能结果组成的集合，集合里每一个单独结果称为样本点。
3. 随机事件：样本空间的子集。当试验结果落在这个子集内，就代表该事件发生。

二、概率的三条公理

1. 非负性：任意事件的概率，取值在 0 到 1 之间。
2. 归一性：整个样本空间发生的概率等于 1。
3. 可列可加性：多个互不相交的事件，它们并集的概率等于各个事件概率相加。

三、条件概率、联合概率

1. 条件概率含义：在事件 A 已经发生的前提下，事件 B 发生的概率。 公式文字描述：B 在 A 发生下的条件概率 = A、B 同时发生的联合概率 ÷ 事件 A 发生的概率。 事件独立：A 和 B 相互独立时，A 是否发生，不会改变 B 发生的概率。

2. 联合概率含义：事件 A 与事件 B 同时发生的概率。 公式文字描述：A、B 同时发生的概率 = A 发生的概率 × B 在 A 下的条件概率，也等于 B 发生的概率 × A 在 B 下的条件概率。

四、完备事件组、全概率公式、贝叶斯公式

区分要点：先验是事件发生前的固有概率；后验是已经观测到结果之后，反向计算得到的概率。

六、离散随机变量

三、离散随机变量的统计特性

✨速记

信息论选用对数函数来刻画信息量大小。通信系统里信源发出的消息具备随机性，如果接收端提前完全知道消息，通信就没有意义。

1. 完备事件组一组事件，满足两个条件：事件之间两两互斥；所有事件合起来覆盖全部样本空间，也就是对样本空间完成划分。

2. 全概率公式（由因求果）含义：一件事件 B 发生，可能由多种不同原因引起。把每种原因发生的概率，乘以在该原因下 B 发生的条件概率，全部相加，就得到事件 B 总的发生概率。

3. 贝叶斯公式（由果溯因）含义：已知事件 B 已经发生，反过来推算该结果是由某一个原因造成的概率。 公式文字描述：在 B 发生的条件下，某原因 ai 发生的概率 = ai 发生的概率 × ai 条件下 B 发生的概率 ÷ B 发生的总概率，分母的 B 总概率一般通过全概率公式算出。

   五、先验概率和后验概率

4. 后验概率事件 B 发生之后，反推引发 B 发生的某个原因出现的条件概率，贝叶斯公式计算出来的结果就是后验概率。常用于通信场景：收到接收符号后，反推信源发送的是什么符号。

5. 先验概率不依赖其他事件，事件本身自带的发生概率，是事件固有的随机性统计量。比如二元信源等概率发送 0 和 1，发送 0 的概率 0.5 就是先验概率。

6. 随机变量从随机试验的样本空间映射到实数集的单值函数，样本点作为输入，输出一个实数。可以把试验结果数字化，方便数学分析。

7. 离散随机变量取值为有限个，或者无限但可数的随机变量。无限可数代表取值集合可以和正整数一一对应。

8. 累积分布函数定义：随机变量 X 取值小于等于 x 的概率。 性质：

9. 是关于 x 的非递减函数
10. x 趋向正无穷时，函数值等于 1
11. x 趋向负无穷时，函数值等于 0 该定义适用于所有随机变量，不只局限离散型

12. 数学期望（均值）含义：随机变量所有可能取值的加权平均值，权重是每个取值对应的发生概率。 计算方式：每一个取值乘以它对应的概率，全部相加。

13. 两个离散随机变量联合的数学期望已知两个变量的联合概率分布，两个变量乘积的期望：两个变量对应取值相乘，再乘以该组合发生的联合概率，全部累加求和。

14. 区分：样本空间、样本点、随机事件；事件是样本空间的子集。
15. 概率三大公理（非负、归一、可列可加），选择题常考。
16. 全概率：由因求果；贝叶斯：由果溯因，两个公式配套使用，计算题高频。
17. 独立事件的判定条件，区分独立和互斥。
18. 全概率：由因求果；贝叶斯：由果溯因，计算题经常配套一起使用。
19. 独立事件：一个事件发生，不会影响另一个事件发生的概率。
20. 先验概率：观测前；后验概率：观测结果之后，贝叶斯求解。
21. 随机变量本质是样本点到数字的映射，离散随机变量取值可数或者有限。
22. 累积分布函数描述变量取值小于等于某个数的概率，单调不减。
23. 数学期望就是取值以概率为权重的加权平均。
24. x 趋向正无穷时，函数值等于 1
25. x 趋向负无穷时，函数值等于 0 该定义适用于所有随机变量，不只局限离散型。

27. 离散随机变量函数的数学期望

    对于离散随机变量 X，如果有对应的函数关系，函数的数学期望，不是变量 X 本身的期望，而是函数取值的加权平均。 计算方式：把每一个 X 的取值带入函数得到结果，再乘以该取值对应的概率，全部相加。

    信息度量方法的引入

    直观理解

    发生概率越小的消息，带来的信息量越多；确定必然发生的消息，信息量为 0。比如每年夏天比冬天热，属于常识，几乎没有信息；冬天比夏天热属于小概率事件，包含大量信息。

    信息量需要满足的 3 条公理条件

28. 信息量是事件发生概率的递减函数，概率越小，不确定性越大，信息量越多。
29. 极限情况：事件发生概率等于 1，信息量为 0；事件概率等于 0，信息量无穷大。
30. 可加性：两个相互独立事件，总信息量等于两个事件各自信息量相加。