|
深度学习的loss一般收敛到多少？ - 知乎
计算机视觉的图像L2损失函数，一般收敛到多少时，效果就不错了呢？
深度学习中LOSS的设计思路是什么? - 知乎
8本电子书免费送给大家，见文末。 常见的 Loss 有很多，比如平方差损失，交叉熵损失等等，而如果想有更好的效果，常常需要进行loss function的设计和改造，而这个过程也是机器学习中的精髓，好的损失函数既可以反映模型的训练误差，也可以反映模型的泛化误差，可参考以下几种思路： 首先就是 ...
深度学习的loss一般收敛到多少？ - 知乎
看题主的意思，应该是想问，如果用训练过程当中的loss值作为衡量深度学习模型性能的指标的话，当这个指标下降到多少时才能说明模型达到了一个较好的性能，也就是将loss作为一个evaluation metrics。 但是就像知乎er们经常说的黑话一样，先问是不是，再问是什么。所以这个问题有一个前提，就是 ...
有哪些「魔改」loss函数，曾经拯救了你的深度学习模型？
类似的Loss函数还有IoU Loss。 如果说DiceLoss是一种 区域面积匹配度 去监督网络学习目标的话，那么我们也可以使用 边界匹配度去监督网络的Boundary Loss。 我们只对边界上的像素进行评估，和GT的边界吻合则为0，不吻合的点，根据其距离边界的距离评估它的Loss。
如何分析kaiming新提出的dispersive loss，对扩散模型和aigc会带来什么影响?
Dispersive Loss：为生成模型引入表示学习 何恺明团队的这篇文章提出了一种名为「Dispersive Loss」的 即插即用 正则化方法，用来弥合 扩散模型 与 表示学习 之间长期存在的鸿沟。 当前扩散模型主要依赖回归目标进行训练，普遍缺乏对内部表示的显式正则化。 Dispersive Loss 鼓励模型内部的特征表示在 ...
究竟什么是损失函数 loss function? - 知乎
Focal Loss focal loss出于论文Focal Loss for Dense Object Detection，主要是为了解决one-stage目标检测算法中正负样本比例严重失衡的问题，降低了大量简单负样本在训练中所占的比重，可理解为是一种困难样本挖掘。 focal loss是在交叉熵损失函数上修改的。 具体改进：
大模型优化利器：RLHF之PPO、DPO
最终，我们可以得出 DPO 的 loss 如下所示： 这就是 DPO 的 loss。 DPO 通过以上的公式转换把 RLHF 巧妙地转化为了 SFT，在训练的时候不再需要同时跑 4 个模型（Actor Model 、Reward Mode、Critic Model 和 Reference Model），而是只用跑 Actor 和 Reference 2 个模型。
损失函数｜交叉熵损失函数
1.3 Cross Entropy Loss Function（交叉熵损失函数） 1.3.1 表达式 (1) 二分类 在二分的情况下，模型最后需要预测的结果只有两种情况，对于每个类别我们的预测得到的概率为 和 ，此时表达式为（ 的底数是 ）： 其中： - —— 表示样本 的label，正类为 ，负类为
深度学习中loss和accuracy的关系? - 知乎
深度学习中loss和accuracy的关系? 以分类问题为例，最初的理解是相对于准确率（accuracy），损失函数（loss function）的数值能更精确的反应出预测值和真值的差距，但二者反… 显示全部 关注者 216 被浏览
深度学习网络收敛之后的loss数值代表什么？ - 知乎
深度学习网络收敛之后的loss数值代表什么？ 网络收敛之后，loss还是有数值的，此时还存在梯度，网络参数还会更新，但是loss却几乎不再改变了，这是为什么呢？ 可否理解成，此时正负样本对特征的更改… 显示全部 关注者 80 被浏览
|
