极大似然估计

一个简单的故事介绍极大似然估计

极大似然估计（MaximumLikelihoodEstimation,MLE）是一种在统计中用于估计参数的方法，其核心思想是找到使观测数据出现的概率最大的参数值。
·2025-07-04 14:03

机器学习3——参数估计之极大似然估计

参数估计问题背景：P(ωi∣x)=p(x∣ωi)P(ωi)p(x)p(x)=∑j=1cp(x∣ωj)P(ωj)\begin{aligned}&P\left(\omega_i\mid\mathbf{x}\right)=\frac{p\left(\mathbf{x}\mid\omega_i\right)P\left(\omega_i\right)}{p(\mathbf{x})}\\&p(\mathbf
平和男人杨争争·2025-06-28 18:17

EM求解的高斯混合模型——Q函数的极大似然估计（九）

先导：EM求解的混合密度模型——Q函数p(x∣θk)→N(x∣μk,Σk)p(\boldsymbol{x}\mid\boldsymbol{\theta}_k)\rightarrow{N}(\boldsymbol{x}\mid\boldsymbol{\mu_k},\boldsymbol{\Sigma}_k)p(x∣θk)→N(x∣μk,Σk)由上述推导即可获得高斯混合模型的EM算法：在每步迭代中，先
phoenix@Capricornus·2025-06-23 09:30

Task 01 第一章习题

1.1说明伯努利模型的极大似然估计以及贝叶斯估计中的统计学习方法三要素。伯努利模型是定义在取值为0与1的随机变量上的概率分布。
·2025-06-20 21:24

第1章： 伯努利模型的极大似然估计与贝叶斯估计

伯努利模型的极大似然估计与贝叶斯估计importnumpyasnpimportmatplotlib.pyplotaspltfromscipy.statsimportbeta,bernoullifromscipy.optimizeimportminimize_scalar
Dawn³·2025-06-20 21:52

逻辑回归中的损失函数：交叉熵损失详解与推导

逻辑回归中的损失函数：交叉熵损失详解与推导关键词：逻辑回归、交叉熵损失、损失函数、二分类、多分类、极大似然估计、梯度下降摘要：本文深入解析逻辑回归中核心的交叉熵损失函数，从信息论基础出发，逐步推导二分类与多分类场景下的损失函数形式
AI天才研究院·2025-06-16 00:34

极大似然估计例题——均匀分布的极大似然估计

设总体XXX服从均匀分布U(a,b)U(a,b)U(a,b)，其中aaa和bbb是未知参数，取样本观测值为x1,x2,⋯ ,xnx_1,x_2,\cdots,x_nx1,x2,⋯,xn。求参数aaa和bbb的最大似然估计。解总体XXX的概率密度函数为f(x;a,b)={1b−a,a≤x≤b,0,其他.f(x;a,b)=\begin{cases}\frac{1}{b-a},&a\leqx\leqb,
phoenix@Capricornus·2025-06-01 11:08

【课堂笔记】EM算法

文章目录背景极大似然估计隐变量高斯混合模型EM算法合理性分析相关好文章背景  EM算法（期望最大化算法，Expectation-MaximizationAlgorithm）是一种迭代优化算法，用于在含有隐变量的概率模型中估计最大似然参数
zyq~·2025-05-31 06:15

极大似然估计

最大似然估计法最大似然估计又称极大似然估计，是一种利用给定样本观测值来评估模型参数的方法，其基本原理为：利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果出现的模型参数值。
phoenix@Capricornus·2025-05-28 11:38

极大似然估计与机器学习

复习概统的时候突然发现好像极大似然估计MLE与机器学习的数据驱动非常相似，都是采样样本然后估计模型参数。
xsddys·2025-05-22 09:46

Level3 — PART 4 机器学习算法 — 朴素贝叶斯

目录贝叶斯定理朴素贝叶斯模型（NaiveBayesModel）估计离散估计极大似然估计案例朴素贝叶斯扩展高斯贝叶斯分类器原理应用源码分析伯努利贝叶斯分类器原理源码分析多项朴素贝叶斯分类器半朴素贝叶斯分类器模拟题
ErbaoLiu·2025-04-29 05:09

VAE的学习及先验知识

笔记1、先验、后验、似然、证据2、极大似然估计3、最大后验估计4、贝叶斯均值估计5、KL散度6、VAE1、先验、后验、似然、证据对于给定的数据，我们假设其是服从某个数据分布的。
butterfly won＇t love flowers·2025-04-23 14:12

机器学习（2）——逻辑回归

**损失函数：**4.2.极大似然估计（MLE）4.3.优化方法5.决策边界6.模型评估指标7.假设与适用条件8.逻辑回归的优缺点：9.逻辑回归的常用应用：10.示例代码1.什么是逻辑回归?
追逐☞·2025-04-13 21:20

最小二乘法多元线性回归_数学基础2：线性回归&最小二乘法

最小二乘法的矩阵表达形式概率视角看线性回归加入高斯噪声进行极大似然估计，可以发现，当噪声服从高斯分布的时候，最小二乘法与线性回归的极大似然估计的结论是等价的。
喂书长大的孩子·2025-04-06 00:55

【面经&八股】搜广推方向：面试记录（十三）

一定要熟~3.八股之类的问题极大似然估计和贝叶斯估计，区别与联系建议参考这个链接transformer为什么要使用多头关键点在于集成，使语义更加完善圆上随机去三个点，三个
秋冬无暖阳°·2025-03-22 08:44

似然函数与极大似然估计

前言本文隶属于专栏《机器学习数学通关指南》，该专栏为笔者原创，引用请注明来源，不足和错误之处请在评论区帮忙指出，谢谢！本专栏目录结构和参考文献请见《机器学习数学通关指南》正文1.似然函数：直观理解与数学定义核心概念似然函数是机器学习中参数估计的基石，它从数据与模型之间的关系出发，提供了一种优化参数的数学框架。直观理解：假设你正在调整相机参数以拍摄最清晰的照片。似然函数就像是一个"清晰度指标"，告诉
Shockang·2025-03-05 05:31

AI学习专题（一）LLM技术路线

阶段1：AI及大模型基础（1-2个月）数学基础线性代数（矩阵、特征值分解、SVD）概率论与统计（贝叶斯定理、极大似然估计）最优化方法（梯度下降、拉格朗日乘子法）编程&框架Python（NumPy、Pandas
王钧石的技术博客·2025-02-10 01:39

【概率图与随机过程】01 一维高斯分布：极大似然与无偏性

因此我们首先在这一讲当中，结合一元高斯分布，来讨论一下极大似然估计，估计的有偏性、无偏性等基本建模问题。1.极大似然估计问题背
石 溪·2024-08-31 04:51

统计机器学习第十三章极大似然估计的性质——图解MLE的渐进正态性

n=10;t=10000;s=1/12/n;x=linspace(-0.4,0.4,100);y=1/sqrt(2*pi*s)*exp(-x.^2/(2*s));z=mean(rand(t,n)-0.5,2);figure(1);clf;holdonb=20;hist(z,b);h=plot(x,y*t/b*(max(z)-min(z)),'r-');这段代码的功能是生成随机数并进行直方图和曲线的
cui_hao_nan·2024-08-30 13:17

Logistic 回归

文章目录1.引言2.Logistic回归概述2.1定义与应用场景2.2与线性回归的区别3.原理与数学基础3.1Sigmoid函数3.2概率解释3.3极大似然估计4.模型建立4.1假设函数4.2成本函数4.3
零 度°·2024-08-23 21:56

2019-10-04 学习极大似然估计与优化理论

主要推导了一个公式推导MLE与LSE.jpeg即用极大似然估计（MLE）的角度去解多元线性回归其结果与最小二乘(LSE)解的结果是一样的，这一点我觉得很神奇。
小郑的学习笔记·2024-02-13 19:11

【北邮鲁鹏老师计算机视觉课程笔记】04 fitting 拟合

存在问题①噪声②外点、离群点③缺失数据2最小二乘存在的问题3全最小二乘度量的是点到直线的距离而不是点在y方向到直线的距离提示：点到直线的距离公式归一化后保留分子4极大似然估计5鲁棒的最小二乘不直接用点到直线的距离
量子-Alex·2024-02-12 06:47

机器学习---学习与推断，近似推断、话题模型

对概率图模型，还需确定具体分布的参数，称为参数估计或学习问题，通常使用极大似然估计或后验概率估计求解。单若将参数视为待推测的变量，则参数估计过程和推断十分相似，可以“吸收”到推断问题中。
三月七꧁ ꧂·2024-02-11 12:56

如何通过极大似然估计 MLE Maximum Likelihood Estimation 获得 交叉熵 Cross Entropy 以及 均方损失函数 Mean Square Loss ？

似然函数定义以及极大似然估计MLE(完成)--------------------------------------------------------------------------------
shimly123456·2024-02-10 13:43

最大期望算法（EM算法）

#include//最大期望算法（EM算法）//EM算法是一种启发式的迭代算法，用于实现用样本对含有隐变量的模型的参数做极大似然估计。
陇院第一Sweet Baby·2024-02-09 22:46

2018-07-03

[TOC]极大似然估计的一般思想极大似然估计（MaximumLikelihood），顾名思义，就是根据似然度（也就是可能性，likelihood）对感兴趣的参数（如正态分布的\mu与\sigma，指数分布的
lanjly·2024-02-08 19:12

十分钟学习极大自然似估计

EndlessLethe原创文章，转载请注明：转载自小楼吹彻玉笙寒原文链接地址:十分钟学习极大似然估计前言参数估计是机器学习里面的一个重要主题，而极大似然估计是最传统、使用最广泛的估计方法之一。
培根炒蛋·2024-02-07 18:33

极大似然概率

MachineLearninginMarketingEM算法极大似然函数极大似然估计是机器学习中比较重要的概念，一些专业教程往往容易忽略对其解释。
zidea·2024-02-07 08:28

4 朴素贝叶斯

1定义朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法2.算法及实例极大似然估计：在这里插入图片描述在这里插入图片描述在这里插入图片描述贝叶斯估计：在这里插入图片描述在这里插入图片描述总结：朴素贝叶斯法是典型的生成学习方法
奋斗的喵儿·2024-02-06 21:59

机器学习算法之EM算法

1.1预备知识：1.1.1.极大似然估计：根据已观察到的数据去最大化该数据出现概率，得到的参数即为所求。（已观察到的数据理应出现的概率比较大，比较合理）1.1.2.Jensen不
浅白Coder·2024-02-06 17:54

极大似然估计(转自知乎)

转自知乎：https://www.zhihu.com/question/24124998/answer/41420549我们假设硬币有两面，一面是“花”，一面是“字”。一般来说，我们都觉得硬币是公平的，也就是“花”和“字”出现的概率是差不多的。如果我扔了100次硬币，100次出现的都是“花”。在这样的事实下，我觉得似乎硬币的参数不是公平的。你硬要说是公平的，那就是侮辱我的智商。这种通过事实，反过来
暧昧旳黑夜·2024-02-06 10:40

机器学习 --- 指数族分布

一、背景二、高斯分布的指数族形式三、对数配分函数与充分统计量的关系三、极大似然估计与充分统计量四、最大熵角度总结最后数学建模精选资料共享，研究生学长数模指导，建模比赛思路分享，关注我不迷路！
建模君Assistance·2024-02-05 16:42

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第6章 逻辑斯谛回归与最大熵模型（2）6.2 最大熵模型

文章目录6.2最大熵模型6.2.1最大熵原理6.2.3最大熵模型的学习6.2.4极大似然估计《统计学习方法：李航》笔记从原理到实现（基于python）--第3章k邻近邻法《统计学习方法：李航》笔记从原理到实现
北方骑马的萝卜·2024-02-05 11:51

《统计学习方法：李航》笔记 从原理到实现（基于python）-- 第4章 朴素贝叶斯法

文章目录第4章朴素贝叶斯法4.1朴素贝叶斯法的学习与分类4.1.1基本方法4.1.2后验概率最大化的含义4.2朴素贝叶斯法的参数估计4.2.1极大似然估计4.2.2学习与算法4.2.3贝叶斯估计代码实践
北方骑马的萝卜·2024-01-30 14:25

大数据期望最大化（EM）算法：从理论到实战全解析

文章目录大数据期望最大化（EM）算法：从理论到实战全解析一、引言概率模型与隐变量极大似然估计（MLE）Jensen不等式二、基础数学原理条件概率与联合概率似然函数Kullback-Leibler散度贝叶斯推断三
星川皆无恙·2024-01-28 23:22

贝叶斯分类器（公式推导+举例应用）

文章目录引言贝叶斯决策论先验概率和后验概率极大似然估计朴素贝叶斯分类器朴素贝叶斯分类器的优点与缺点优点缺点总结实验分析引言在机器学习的世界中，有一类强大而受欢迎的算法——贝叶斯分类器，它倚仗着贝叶斯定理和朴素的独立性假设
Nie同学·2024-01-17 03:12

快速了解——逻辑回归及模型评估方法

.导函数公式：f′(x)=f(x)(1–f(x))2、相关概念概率：事件发生的可能性联合概率：两个或多个随机变量同时发生的概率条件概率：表示事件A在另外一个事件B已经发生条件下的发生概率，P(A|B)极大似然估计
小林打怪中·2024-01-14 06:35

最小二乘法，极大似然估计，交叉熵

极大似然估计似然值是真实的情况已经发生，我们假设他有很多模型，在某个概率模型下发生这种情
你若盛开，清风自来！·2024-01-12 21:38

逻辑回归、深度学习简介、反向传播

Logistic回归的本质是：假设数据服从这个分布，然后使用极大似然估计做参数的估计。Logistic分布是一种连续型的概率分布，其分布函数和密度函数分别为：Logistic分布
梦码城·2024-01-12 17:57

概率论与数理统计 Chapter4. 参数估计

概率论与数理统计Chapter4.参数估计1.基础概念1.总体2.样品3.统计量1.样本方差2.k阶原点矩3.k阶中心矩2.参数的点估计1.矩估计1.正态分布2.指数分布3.均匀分布4.二项分布5.泊松分布2.极大似然估计
Espresso Macchiato·2024-01-12 05:18

神经网络中的损失函数（上）——回归任务

神经网络中的损失函数前言损失函数的含义回归任务中的损失函数平均绝对误差（MAE）L1范数曼哈顿距离优点缺点均方误差（MSE）均方误差家族L2范数欧氏距离极大似然估计优点缺点smoothL1LossHuber
liuzibujian·2024-01-11 07:53

基于贝叶斯决策理论的分类器

基于贝叶斯决策理论的分类器基于贝叶斯决策理论的分类器贝叶斯决策理论1如何衡量分类好坏参数估计1极大似然估计2最大后验概率估计3最大熵估计4非参数估计贝叶斯分类器在现实中的应用1垃圾邮件分类2贝叶斯网络参考文献首先
CHENG-HQ·2024-01-08 09:39

EM 算法（Expectation Maximization）

EM算法是一种重要的解决含有隐变量问题的参数估计方法算法释义EM算法是用来解决含有隐变量的概率模型参数的极大似然估计，或者叫极大后验概率估计。
大雄的学习人生·2024-01-07 13:02

EM算法原理解释及公式推导

(注意：极大似然估计的前提一定是要假设数据总体的分布，如果不知道数据分布，是无法使用极大似然估计的)，这个分布的均值和方差未知，如果我们估计出这两个参数，那
烟雨人长安·2024-01-04 21:02

EM算法-细节讲解公式推导

EM算法：EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两步组成：E步，求期望；M步，求极大。
闯闯爱打鼓·2024-01-04 20:32

EM算法公式详细推导

EM算法是一种迭代算法，用于含隐变量概率模型参数的极大似然估计，或极大后验概率估计。EM算法由两步组成：E步，求期望；M步：求极大。EM算法的优点是简单性和普适性。
一碗姜汤·2024-01-04 20:31

工智能基础知识总结--什么是EM算法

什么是EM算法EM算法用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法详细过程：输入：观测变量数据Y，隐变量数据Z，联合分布P(Y,Z∣θ)P(Y,Z|\theta)P(Y,
北航程序员小C·2024-01-03 18:57

R语言机器学习与临床预测模型56--Logistic回归（逻辑回归）

这里的系数是通过极大似然估计得到的，而不是通过OLS。极大似然的直观意义就是，我们要找到一对B0和B1的估计值，使它们产生的对观测的预测概率尽可能接近Y的实际
科研私家菜·2024-01-03 16:45

常见推断方法一览：极大似然估计、最大后验估计、期望最大化、贝叶斯推断、马尔科夫链蒙特卡洛方法、变分推断

常见推断方法一览推断方法区别频率派极大似然估计MLE最大后验估计MAP期望最大化EM贝叶斯推断Bayesian马尔科夫链蒙特卡洛方法MCMC变分推断VI推断方法区别极大似然估计(MaximumLikelihoodEstimation
Debroon·2024-01-03 10:57

极大似然估计定义及例题

一、极大似然估计定义实际上就是说，我们在总体中抽取样本，我们希望在样本中发生的情况最大化，用在样本中发生的情况去估计总体中发生情况。
脑子不好真君·2023-12-31 19:13
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他