常见分布

XX 表示随机变量/向量,其余小写黑体表示向量,大写黑体表示矩阵。

1. 离散分布

记 q=1−pq = 1 - p。

概率分布 记法 累积分布函数 均值 方差
0-1 分布(伯努利分布) X∼B(1,p)X \sim B(1, p) $$P(X = 1) = p \P(X = 0) = q$$ pp pqpq
二项分布(nn 重伯努利分布) X∼B(n,p)X \sim B(n, p) P(X=k)=Cnkpkqn−kP(X = k) = C_n^k p^k q^{n-k} npnp npqnpq
多项式分布 X∼PN(p1,⋯ ,pn)X \sim PN(p_1, \cdots, p_n) $$P(X = \boldsymbol{x}) = \frac{n!}{x_1! \cdots x_k!}p_1^{x_1} \cdots p_k^{x_k}, \sum_{i=1}^k x_i = n \\boldsymbol{x} = [x_1,\cdots,x_k]^\top, x_i \in {0, \cdots, n}, \sum_{i=1}^k p_i = 1$$ npn\boldsymbol{p} np⊙qn\boldsymbol{p} \odot \boldsymbol{q}
泊松分布 X∼π(λ)X \sim \pi(\lambda) P(X=k)=λkk!eλ, λ>0P(X = k) = {\lambda^k \over k!}e^\lambda, \ \lambda > 0 λ\lambda λ\lambda
超几何分布 X∼H(n,N,M)X \sim H(n,N,M) P(X=k)=CMk⋅CN−Mn−kCNnP(X = k) = {C_M^k \cdot C_{N-M}^{n-k} \over C_N^n} nKNn\frac{K}{N} nKNN−KNN−nN−1n\frac{K}{N}\frac{N-K}{N}\frac{N-n}{N-1}
几何分布 X∼G(p)X \sim G(p) P(X=k)=qk−1pP(X = k) = q^{k-1}p 1p\frac{1}{p} 1−pp2\frac{1-p}{p^2}

2. 连续分布

Γ(x)\Gamma(x) 表示伽玛函数,B(x,y)B(x, y) 表示贝塔函数。

概率分布 记法 概率密度函数 均值 方差
均匀分布 X∼U(a,b)X \sim U(a,b) f(x)=1b−a,a≤x≤bf(x) = \frac{1}{b-a}, a \leq x \leq b a+b2\frac{a+b}{2} 112(b−a)2\frac{1}{12}(b-a)^2
指数分布 X∼Exp(λ)X \sim \mathrm{Exp}(\lambda) f(x)=λe−λx,x≥0f(x) = \lambda e^{-\lambda x}, x \geq 0 1λ\frac{1}{\lambda} 1λ2\frac{1}{\lambda^2}
拉普拉斯分布 X∼Laplace(μ,λ)X \sim \mathrm{Laplace}(\mu, \lambda) f(x)=12λe−∣x−μ∣λf(x) = \frac{1}{2 \lambda}e^{-\frac{\lvert x-\mu \rvert}{\lambda}} μ\mu 2λ22\lambda^2
正态分布 X∼N(μ,σ2)X \sim N(\mu, \sigma^2) f(x)=12πσe−(x−μ)22σ2f(x) = {1 \over \sqrt{2\pi}\sigma}e^{-{(x-\mu)^2 \over 2\sigma^2}} μ\mu σ2\sigma^2
多元正态分布 X∼N(μ,Σ)X \sim \mathcal{N}(\boldsymbol{\mu}, \boldsymbol{\Sigma}) f(x)=1∣2πΣ∣e−12(x−μ)⊤Σ−1(x−μ)f(\boldsymbol{x}) = \frac{1}{\sqrt{\lvert 2\pi \boldsymbol{\Sigma} \rvert}} e^{-\frac{1}{2}(\boldsymbol{x} - \boldsymbol{\mu})^\top \boldsymbol{\Sigma}^{-1} (\boldsymbol{x} - \boldsymbol{\mu})} μ\boldsymbol{\mu} Σ\boldsymbol{\Sigma}
伽玛分布 X∼Γ(α,β)X \sim \Gamma(\alpha, \beta) f(x)=βαxα−1Γ(α)e−βxf(x) = \frac{\beta^\alpha x^{\alpha - 1}}{\Gamma(\alpha)} e^{-\beta x} αβ\frac{\alpha}{\beta} αβ2\frac{\alpha}{\beta^2}
威尔沙特分布 X∼W(V,v)X \sim W(\boldsymbol{V}, v) f(x)=1(2v∣V∣)M2ΓM(v2)det⁡(X)v−M−12e−tr(V−1X)2X∈S++M,V∈S++M,v>M−1f(x) = \frac{1}{(2^v \lvert \boldsymbol{V} \rvert)^{\frac{M}{2}} \Gamma_M(\frac{v}{2})} \det(X)^{\frac{v-M-1}{2}} e^{-\frac{\mathrm{tr}(\boldsymbol{V}^{-1} X)}{2}}\\X \in \mathbb{S}_{++}^M, \boldsymbol{V} \in \mathbb{S}_{++}^M, v > M - 1 nVn\boldsymbol{V} n(V⊙V+diag(V)diag(V)⊤)n(\boldsymbol{V} \odot \boldsymbol{V} + \mathrm{diag}(\boldsymbol{V})\mathrm{diag}(\boldsymbol{V})^\top)
贝塔分布 X∼Be(α,β)X \sim \mathrm{Be}(\alpha, \beta) f(x)=xα−1(1−x)β−1B(α,β)f(x) = \frac{x^{\alpha-1}(1-x)^{\beta - 1}}{B(\alpha, \beta)} αα+β\frac{\alpha}{\alpha + \beta} αβ(α+β)2(α+β+1)\frac{\alpha \beta}{(\alpha + \beta)^2 (\alpha + \beta + 1)}
狄利克雷分布 X∼Dir(α)X \sim \mathrm{Dir}(\boldsymbol{\alpha}) f(x)=1B(α)∏i=1Kxiαi−1f(x) = \frac{1}{B(\boldsymbol{\alpha})} \prod_{i=1}^K x_i^{\alpha_i - 1} α1⊤α\frac{\boldsymbol{\alpha}}{\boldsymbol{1}^\top\boldsymbol{\alpha}} α⊙(1⊤α−α)(1⊤α)2(1⊤α+1)\frac{\boldsymbol{\alpha} \odot (\boldsymbol{1}^\top\boldsymbol{\alpha} - \boldsymbol{\alpha})}{(\boldsymbol{1}^\top \boldsymbol{\alpha})^2(\boldsymbol{1}^\top \boldsymbol{\alpha} + 1)}

本博客所有文章除特别声明外,均采用 CC BY-SA 4.0 协议 ,转载请注明出处!