Basic Concept

$x$: random variable. 其中 $x \in \mathbb{R} \quad or \quad x \in \mathbb{Z}$

$P(x=k)=a$: 对于$x=k$这个事件，他的概率为$a$。需要注意，任何事件的概率均大于等于0且小于等于一。

举个例子，x: outcome of coin tossing. tail:0, head:1. $$P(x=0)=\frac{1}{2}, \quad P(x=1)=\frac{1}{2}$$

需要注意的是，对于一个离散的概率分布，所有事件的概率之和一定为1，即: $$\sum_{i=-\infty}^{\infty} P(x=i) = 1$$ 这个通常会作为检验一个概率分布是否有效的方式。

Expectation: $\mathbb{E}[X]=\sum\limits_{i}i\times P(x=i)$

Variance: $Var(X) = \mathbb{E}[x^2]-\mathbb{E}[x]^2$. 需注意， $$\mathbb{E}[f(x)]=\sum\limits_{i}f(i)P(x=i)$$ 也就是说，$\mathbb{E}[x^2] = \sum\limits_{i}x^2P(x=i)$

Mode/Modal Value: $P(X=x)$ is the greatest.

Algebra of expectation and vatiance (a, b, and c are constants): $$\mathbb{E}[aX+bY+c]=a\mathbb{E}[X]+b\mathbb{E}[Y]+c$$ $$Var(aX+b)=a^2Var(x)$$

when X, Y are independent (a, b, and c are constants): $$\mathbb{E}[XY]=\mathbb{E}[X] \times \mathbb{e}[Y]$$ $$Var(aX+bY+c)=a^2Var(X)+b^2Var(Y)$$

Binomial Distribution

Symbol: $x \sim B(n,p)$, 其中$n \in \mathbb{N}$, $P \in (0,1)$. $\sim$ 的意思是“distribution”

Definition： $P(x=r)= {n\choose r} p^r (1-p)^{n-r}$

Expectation: $\mathbb{E}[x]=np$

Varience: $Var(x)=np(1-p)$

Geomatric Distribution

Symbol: $x \sim Geo(p)$, 其中p代表着成功的可能性

Definition: $P(x=k)=(1-p)^{k-1} p$