最大似然函数怎么写

1. 怎么写似然函数

怎么写似然函数

1.数理统计中似然函数怎么求啊

假设样本x1~xn独立同分布，具有概率密度函数p(xi；α) （1<=i<=n），其中α为要估计的参数。

则似然函数即为这n个样本的联合密度函数，由独立性有似然函数为：

L（α）=Πp(xi：α) Π表示从下标i=1到i=n的连乘，由于样本值x1~xn已确定，而α是未知的有待估计的参数，所以我们将这个联合密度函数看作α的函数。

极大似然估计方法是求α使得L（α）最大，因此常常将L（α）关于α求偏导再令其等于0，然后解出这个方程中的α。

由于很多种随机变量分布的概率密度函数p(xi；α)都是指数族形式，这时我们转而利用对数似然函数求极大似然估计会比较方便，故定义对数似然函数为：

l（α）=ln L（α）=Σln p(xi；α) 由于l（α）与L（α）的单调性相同，故它们取极大值时对应的α也相同。

扩展资料：

假定一个关于参数θ、具有连续概率密度函数f的随机变量X，则在给定X的输出x时，参数θ的似然函数可表示为

上式常常写为

同样需要注意的是，此处并非条件概率密度函数。

似然函数的主要用法在于比较它相对取值，虽然这个数值本身不具备任何含义。例如，考虑一组样本，当其输出固定时，这组样本的某个未知参数往往会倾向于等于某个特定值，而不是随便的其他数，此时，似然函数是最大化的。

似然函数乘以一个正的常数之后仍然是似然函数，其取值并不需要满足归一化条件

似然函数的这种特性还允许我们叠加计算一组具备相同含义的参数的独立同分布样本的似然函数。

似然比检验是一种寻求检验方法的一般法则。其基本思想如下：设由n个观察值X1,X2，…，Xn组成的随机样本来自密度函数为f(X； θ)的总体，其中θ为未知参数。要检验的无效假设是H0： θ=θ0，备择假设是H1：θ≠θ0，检验水准为α。为此，求似然函数在θ=θ0处的值与在θ=θ（极大点）处的值（即极大值）之比，记作λ，可以知道：

(1) 两似然函数值之比值λ只是样本观察值的函数，不包含任何未知参数。

(2) 0≤λ≤1，因为似然函数值不会为负，且λ的分母为似然函数的极大值，不会小于分子。

(3)越接近θ0时，λ越大；反之，与θ0相差愈大，λ愈小。

参考资料来源：百度百科——似然函数

2.数理统计中似然函数怎么求啊

假设样本x1~xn独立同分布，具有概率密度函62616964757a686964616fe4b893e5b19e31333431336137数p(xi；α) （1<=i<=n），其中α为要估计的参数。

则似然函数即为这n个样本的联合密度函数，由独立性有似然函数为：L（α）=Πp(xi：α) Π表示从下标i=1到i=n的连乘，由于样本值x1~xn已确定，而α是未知的有待估计的参数，所以我们将这个联合密度函数看作α的函数。极大似然估计方法是求α使得L（α）最大，因此常常将L（α）关于α求偏导再令其等于0，然后解出这个方程中的α。

由于很多种随机变量分布的概率密度函数p(xi；α)都是指数族形式，这时我们转而利用对数似然函数求极大似然估计会比较方便，故定义对数似然函数为：l（α）=ln L（α）=Σln p(xi；α) 由于l（α）与L（α）的单调性相同，故它们取极大值时对应的α也相同。扩展资料：假定一个关于参数θ、具有连续概率密度函数f的随机变量X，则在给定X的输出x时，参数θ的似然函数可表示为上式常常写为，同样需要注意的是，此处并非条件概率密度函数。

似然函数乘以一个正的常数之后仍然是似然函数，其取值并不需要满足归一化条件。似然函数的这种特性还允许我们叠加计算一组具备相同含义的参数的独立同分布样本的似然函数。

似然比检验是一种寻求检验方法的一般法则。其基本思想如下：设由n个观察值X1,X2，…，Xn组成的随机样本来自密度函数为f(X； θ)的总体，其中θ为未知参数。

要检验的无效假设是H0： θ=θ0，备择假设是H1：θ≠θ0，检验水准为α。为此，求似然函数在θ=θ0处的值与在θ=θ（极大点）处的值（即极大值）之比，记作λ，可以知道：（1）两似然函数值之比值λ只是样本观察值的函数，不包含任何未知参数。

（2） 0≤λ≤1，因为似然函数值不会为负，且λ的分母为似然函数的极大值，不会小于分子。（3）越接近θ0时，λ越大；反之，与θ0相差愈大，λ愈小。

参考资料来源：百度百科——似然函数。

3.离散型随机变量怎么求似然函数

这是一个三项分布。

样本值是0,1,2,0,2,1，对应的概率分别是theta,(1-2theta),theta,theta,theta,(1-2theta)。

似然函数就是得到这个样本的概率，由于每次抽样独立，所以把这几个概率乘起来就是得到这个样本的概率了，也就是似然函数。

给定输出x时，关于参数θ的似然函数L（θ|x）（在数值上）等于给定参数θ后变量X的概率：L（θ|x）=P(X=x|θ)。

扩展资料：

要检验的无效假设是H0： θ=θ0，备择假设是H1：θ≠θ0，检验水准为α。为此，求似然函数在θ=θ0处的值与在θ=θ（极大点）处的值（即极大值）之比，记作λ，可以知道：

(1) 两似然函数值之比值λ只是样本观察值的函数，不包含任何未知参数。

(2) 0≤λ≤1，因为似然函数值不会为负，且λ的分母为似然函数的极大值，不会小于分子。

(3)越接近θ0时，λ越大；反之，与θ0相差愈大，λ愈小。因此，若能由给定的α求得显著性界值λ0，则可按以下规则进行统计推断：

当λ≤λ0，拒绝H0，接受H1；当λ>λ0，不拒绝H0,

这里 P（λ≤λ0）=α。（2）对于离散型的随机变量，只需把密度函数置换成概率函数p(X；θ)，即

这一检验方法还可以推广到有k个参数的情形。

参考资料：搜狗百科——似然函数

4.如何理解似然函数

统计学中，似然函数是一种关于统计模型参数的函数。给定输出x时，关于参数θ的似然函数L（θ|x）（在数值上）等于给定参数θ后变量X的概率：

L（θ|x）=P(X=x|θ).

似然函数在推断统计学（Statistical inference）中扮演重要角色，尤其是在参数估计方法中。在教科书中，似然常常被用作“概率”的同义词。但是在统计学中，二者有截然不同的用法。概率描述了已知参数时的随机变量的输出结果；似然则用来描述已知随机变量输出结果时，未知参数的可能取值。例如，对于“一枚正反对称的硬币上抛十次”这种事件，我们可以问硬币落地时十次都是正面向上的“概率”是多少；而对于“一枚硬币上抛十次，落地都是正面向上”这种事件，我们则可以问，这枚硬币正反面对称的“似然”程度是多少。

5.数理统计中,连续分布的最大似然函数怎么写

连续分布，连续参数空间最常见的连续概率分布是正态分布，其概率密度函数如下： f(x\mid \mu,\sigma^2) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} 现在有n个正态随机变量的采样点，要求的是一个这样的正态分布，这些采样点分布到这个正态分布可能性最大（也就是概率密度积最大，每个点更靠近中心点），其n个正态随机变量的采样的对应密度函数（假设其独立并服从同一分布）为： f(x_1,\ldots,x_n \mid \mu,\sigma^2) = \left( \frac{1}{2\pi\sigma^2} \right)^\frac{n}{2} e^{-\frac{ \sum_{i=1}^{n}(x_i-\mu)^2}{2\sigma^2}} 或： f(x_1,\ldots,x_n \mid \mu,\sigma^2) = \left( \frac{1}{2\pi\sigma^2} \right)^{n/2} \exp\left(-\frac{ \sum_{i=1}^{n}(x_i-\bar{x})^2+n(\bar{x}-\mu)^2}{2\sigma^2}\right），这个分布有两个参数：μ，σ2.有人可能会担心两个参数与上边的讨论的例子不同，上边的例子都只是在一个参数上对可能性进行最大化。

实际上，在两个参数上的求最大值的方法也差不多：只需要分别把可能性\mbox{lik}(\mu,\sigma) = f(x_1,,\ldots,x_n \mid \mu, \sigma^2)在两个参数上最大化即可。当然这比一个参数麻烦一些，但是一点也不复杂。

使用上边例子同样的符号，我们有θ = （μ，σ2）.最大化一个似然函数同最大化它的自然对数是等价的。因为自然对数log是一个连续且在似然函数的值域内严格递增的上凸函数。

[注意：可能性函数（似然函数）的自然对数跟信息熵以及Fisher信息联系紧密。]求对数通常能够一定程度上简化运算，比如在这个例子中可以看到： \begin{matrix} 0 & = & \frac{\partial}{\partial \mu} \log \left( \left( \frac{1}{2\pi\sigma^2} \right)^\frac{n}{2} e^{-\frac{ \sum_{i=1}^{n}(x_i-\bar{x})^2+n(\bar{x}-\mu)^2}{2\sigma^2}} \right) \\ & = & \frac{\partial}{\partial \mu} \left( \log\left( \frac{1}{2\pi\sigma^2} \right)^\frac{n}{2} - \frac{ \sum_{i=1}^{n}(x_i-\bar{x})^2+n(\bar{x}-\mu)^2}{2\sigma^2} \right) \\ & = & 0 - \frac{-2n(\bar{x}-\mu)}{2\sigma^2} \\ \end{matrix} 这个方程的解是\widehat{\mu} = \bar{x} = \sum^{n}_{i=1}x_i/n .这的确是这个函数的最大值，因为它是μ里头惟一的一阶导数等于零的点并且二阶导数严格小于零。

同理，我们对σ求导，并使其为零。 \begin{matrix} 0 & = & \frac{\partial}{\partial \sigma} \log \left( \left( \frac{1}{2\pi\sigma^2} \right)^\frac{n}{2} e^{-\frac{ \sum_{i=1}^{n}(x_i-\bar{x})^2+n(\bar{x}-\mu)^2}{2\sigma^2}} \right) \\ & = & \frac{\partial}{\partial \sigma} \left( \frac{n}{2}\log\left( \frac{1}{2\pi\sigma^2} \right) - \frac{ \sum_{i=1}^{n}(x_i-\bar{x})^2+n(\bar{x}-\mu)^2}{2\sigma^2} \right) \\ & = & -\frac{n}{\sigma} + \frac{ \sum_{i=1}^{n}(x_i-\bar{x})^2+n(\bar{x}-\mu)^2}{\sigma^3} \\ \end{matrix} 这个方程的解是\widehat{\sigma}^2 = \sum_{i=1}^n(x_i-\widehat{\mu})^2/n.因此，其关于θ = （μ，σ2）的最大似然估计为： \widehat{\theta}=(\widehat{\mu},\widehat{\sigma}^2) = (\bar{x},\sum_{i=1}^n(x_i-\bar{x})^2/n).。