常见分布

XX 表示随机变量/向量,其余小写黑体表示向量,大写黑体表示矩阵。

1. 离散分布

q=1pq = 1 - p

概率分布 记法 累积分布函数 均值 方差
0-1 分布(伯努利分布) XB(1,p)X \sim B(1, p) $$P(X = 1) = p \P(X = 0) = q$$ pp pqpq
二项分布nn 重伯努利分布) XB(n,p)X \sim B(n, p) P(X=k)=CnkpkqnkP(X = k) = C_n^k p^k q^{n-k} npnp npqnpq
多项式分布 XPN(p1,,pn)X \sim PN(p_1, \cdots, p_n) $$P(X = \boldsymbol{x}) = \frac{n!}{x_1! \cdots x_k!}p_1^{x_1} \cdots p_k^{x_k}, \sum_{i=1}^k x_i = n \\boldsymbol{x} = [x_1,\cdots,x_k]^\top, x_i \in {0, \cdots, n}, \sum_{i=1}^k p_i = 1$$ npn\boldsymbol{p} npqn\boldsymbol{p} \odot \boldsymbol{q}
泊松分布 Xπ(λ)X \sim \pi(\lambda) P(X=k)=λkk!eλ, λ>0P(X = k) = {\lambda^k \over k!}e^\lambda, \ \lambda > 0 λ\lambda λ\lambda
超几何分布 XH(n,N,M)X \sim H(n,N,M) P(X=k)=CMkCNMnkCNnP(X = k) = {C_M^k \cdot C_{N-M}^{n-k} \over C_N^n} nKNn\frac{K}{N} nKNNKNNnN1n\frac{K}{N}\frac{N-K}{N}\frac{N-n}{N-1}
几何分布 XG(p)X \sim G(p) P(X=k)=qk1pP(X = k) = q^{k-1}p 1p\frac{1}{p} 1pp2\frac{1-p}{p^2}

2. 连续分布

Γ(x)\Gamma(x) 表示伽玛函数B(x,y)B(x, y) 表示贝塔函数

概率分布 记法 概率密度函数 均值 方差
均匀分布 XU(a,b)X \sim U(a,b) f(x)=1ba,axbf(x) = \frac{1}{b-a}, a \leq x \leq b a+b2\frac{a+b}{2} 112(ba)2\frac{1}{12}(b-a)^2
指数分布 XExp(λ)X \sim \mathrm{Exp}(\lambda) f(x)=λeλx,x0f(x) = \lambda e^{-\lambda x}, x \geq 0 1λ\frac{1}{\lambda} 1λ2\frac{1}{\lambda^2}
拉普拉斯分布 XLaplace(μ,λ)X \sim \mathrm{Laplace}(\mu, \lambda) f(x)=12λexμλf(x) = \frac{1}{2 \lambda}e^{-\frac{\lvert x-\mu \rvert}{\lambda}} μ\mu 2λ22\lambda^2
正态分布 XN(μ,σ2)X \sim N(\mu, \sigma^2) f(x)=12πσe(xμ)22σ2f(x) = {1 \over \sqrt{2\pi}\sigma}e^{-{(x-\mu)^2 \over 2\sigma^2}} μ\mu σ2\sigma^2
多元正态分布 XN(μ,Σ)X \sim \mathcal{N}(\boldsymbol{\mu}, \boldsymbol{\Sigma}) f(x)=12πΣe12(xμ)Σ1(xμ)f(\boldsymbol{x}) = \frac{1}{\sqrt{\lvert 2\pi \boldsymbol{\Sigma} \rvert}} e^{-\frac{1}{2}(\boldsymbol{x} - \boldsymbol{\mu})^\top \boldsymbol{\Sigma}^{-1} (\boldsymbol{x} - \boldsymbol{\mu})} μ\boldsymbol{\mu} Σ\boldsymbol{\Sigma}
伽玛分布 XΓ(α,β)X \sim \Gamma(\alpha, \beta) f(x)=βαxα1Γ(α)eβxf(x) = \frac{\beta^\alpha x^{\alpha - 1}}{\Gamma(\alpha)} e^{-\beta x} αβ\frac{\alpha}{\beta} αβ2\frac{\alpha}{\beta^2}
威尔沙特分布 XW(V,v)X \sim W(\boldsymbol{V}, v) f(x)=1(2vV)M2ΓM(v2)det(X)vM12etr(V1X)2XS++M,VS++M,v>M1f(x) = \frac{1}{(2^v \lvert \boldsymbol{V} \rvert)^{\frac{M}{2}} \Gamma_M(\frac{v}{2})} \det(X)^{\frac{v-M-1}{2}} e^{-\frac{\mathrm{tr}(\boldsymbol{V}^{-1} X)}{2}}\\X \in \mathbb{S}_{++}^M, \boldsymbol{V} \in \mathbb{S}_{++}^M, v > M - 1 nVn\boldsymbol{V} n(VV+diag(V)diag(V))n(\boldsymbol{V} \odot \boldsymbol{V} + \mathrm{diag}(\boldsymbol{V})\mathrm{diag}(\boldsymbol{V})^\top)
贝塔分布 XBe(α,β)X \sim \mathrm{Be}(\alpha, \beta) f(x)=xα1(1x)β1B(α,β)f(x) = \frac{x^{\alpha-1}(1-x)^{\beta - 1}}{B(\alpha, \beta)} αα+β\frac{\alpha}{\alpha + \beta} αβ(α+β)2(α+β+1)\frac{\alpha \beta}{(\alpha + \beta)^2 (\alpha + \beta + 1)}
狄利克雷分布 XDir(α)X \sim \mathrm{Dir}(\boldsymbol{\alpha}) f(x)=1B(α)i=1Kxiαi1f(x) = \frac{1}{B(\boldsymbol{\alpha})} \prod_{i=1}^K x_i^{\alpha_i - 1} α1α\frac{\boldsymbol{\alpha}}{\boldsymbol{1}^\top\boldsymbol{\alpha}} α(1αα)(1α)2(1α+1)\frac{\boldsymbol{\alpha} \odot (\boldsymbol{1}^\top\boldsymbol{\alpha} - \boldsymbol{\alpha})}{(\boldsymbol{1}^\top \boldsymbol{\alpha})^2(\boldsymbol{1}^\top \boldsymbol{\alpha} + 1)}

本博客所有文章除特别声明外,均采用 CC BY-SA 4.0 协议 ,转载请注明出处!