札记

BCEWithLogloss公式推导

1. 引言 直接使用这个函数,解决了rank模型中,部分稀疏目标无法正常训练的问题,学习一下其推导过程。 2. 二分类问题 一般我们在模型训练中,会使用sigmoid函数作为激活函数,将模型的输出映射到(0,1)之间,作为二分类问题的预测概率。 但是,sigmoid函数有一些问题,比如: 当输入非常大或非常小时,sigmoid函数的输出接近0或1,而梯度接近0,这会导致梯度消失问题...

Trending Tags