交叉熵损失函数

交叉熵损失函数目录一、交叉熵损失函数含义二、交叉熵损失函数定义为:​三、交叉熵损失函数计算案例一、交叉熵损失函数含义交叉熵是一个信息论中的概念,它原来是用来估算平均编码长度的。给定两个概率分布p和q,通过q来表示p的交叉熵为交叉熵刻画的是两个概率分布之间的距离,p代表正确答案,q代表的是预测值,交叉熵越小,两个概率的分布约接近二、交叉熵损失函数定义为:其中:????????为标签值,????????′为预值测三、交叉熵损失函数计算案例假设

目录

一、交叉熵损失函数含义

二、交叉熵损失函数定义为:​

三、交叉熵损失函数计算案例


 

一、交叉熵损失函数含义

交叉熵是一个信息论中的概念,它原来是用来估算平均编码长度的。给定两个
概率分布p和q,通过q来表示p的交叉熵为
交叉熵损失函数

 交叉熵刻画的是两个概率分布之间的距离, p代表正确答案, q代表的是预测值,
交叉熵越小,两个概率的分布约接近

二、交叉熵损失函数定义为:
交叉熵损失函数

 其中: 𝒚𝒊为标签值, 𝑦𝑖′为预值测

三、交叉熵损失函数计算案例

假设有一个3分类问题,某个样例的正确答案是(1, 0, 0)
甲模型经过softmax回归之后的预测答案是(0.5, 0.2, 0.3)
乙模型经过softmax回归之后的预测答案是(0.7, 0.1, 0.2)
 

交叉熵损失函数

 

今天的文章交叉熵损失函数分享到此就结束了,感谢您的阅读。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/6766.html

(0)
编程小号编程小号

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注