打印 上一主题 下一主题

Keras中自定义目标函数

[复制链接]
跳转到指定楼层
楼主
-_- 发表于 2019-5-17 06:10:48 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
来源:https://www.jianshu.com/p/cf84a5f5b51c
若内容不全,可点击上述链接查看来源网页,在网页中点击红色双层向下的箭头阅读全文


Keras作为一个深度学习库,非常适合新手。在做神经网络时,它自带了许多常用的目标函数,优化方法等等,基本能满足新手学习时的一些需求。具体包含目标函数优化方法。但它也支持用户自定义目标函数,下边介绍一种最简单的自定义目标函数的方法。

要实现自定义目标函数,自然想到先看下Keras中的目标函数是怎么定义的。查下源码发现在Keras/objectives.py中,Keras定义了一系列的目标函数。

defmean_squared_error(y_true,y_pred):returnK.mean(K.square(y_pred-y_true),axis=-1)defmean_absolute_error(y_true,y_pred):returnK.mean(K.abs(y_pred-y_true),axis=-1)defmean_absolute_percentage_error(y_true,y_pred):diff=K.abs((y_true-y_pred)/K.clip(K.abs(y_true),K.epsilon(),np.inf))return100.*K.mean(diff,axis=-1)defmean_squared_logarithmic_error(y_true,y_pred):first_log=K.log(K.clip(y_pred,K.epsilon(),np.inf)+1.)second_log=K.log(K.clip(y_true,K.epsilon(),np.inf)+1.)returnK.mean(K.square(first_log-second_log),axis=-1)defsquared_hinge(y_true,y_pred):returnK.mean(K.square(K.maximum(1.-y_true*y_pred,0.)),axis=-1)defhinge(y_true,y_pred):returnK.mean(K.maximum(1.-y_true*y_pred,0.),axis=-1)defcategorical_crossentropy(y_true,y_pred):'''Expectsabinaryclassmatrixinsteadofavectorofscalarclasses.'''returnK.categorical_crossentropy(y_pred,y_true)defsparse_categorical_crossentropy(y_true,y_pred):'''expectsanarrayofintegerclasses.Note:labelsshapemusthavethesamenumberofdimensionsasoutputshape.Ifyougetashapeerror,addalength-1dimensiontolabels.'''returnK.sparse_categorical_crossentropy(y_pred,y_true)defbinary_crossentropy(y_true,y_pred):returnK.mean(K.binary_crossentropy(y_pred,y_true),axis=-1)defkullback_leibler_divergence(y_true,y_pred):y_true=K.clip(y_true,K.epsilon(),1)y_pred=K.clip(y_pred,K.epsilon(),1)returnK.sum(y_true*K.log(y_true/y_pred),axis=-1)defpoisson(y_true,y_pred):returnK.mean(y_pred-y_true*K.log(y_pred+K.epsilon()),axis=-1)defcosine_proximity(y_true,y_pred):y_true=K.l2_normalize(y_true,axis=-1)y_pred=K.l2_normalize(y_pred,axis=-1)return-K.mean(y_true*y_pred,axis=-1)

看到源码后,事情就简单多了,我们只要仿照这源码的定义形式,来定义自己的loss就可以了。例如举个最简单的例子,我们定义一个loss为预测值与真实值的差,则可写为:

defmy_koss(y_true,y_pred):returnK.mean((y_pred-y_true),axis=-1)

然后,将这段代码放到你的模型中编译,例如

defmy_loss(y_true,y_pred):returnK.mean((y_pred-y_true),axis=-1)model.compile(loss=my_loss,optimizer='SGD',metrics=['accuracy'])

有一点需要注意,Keras作为一个高级封装库,它的底层可以支持theano或者tensorflow,在使用上边代码时,首先要导入这一句

fromkerasimportbackendasK

这样你自定义的loss函数就可以起作用了。

微信公众号
返回顶部 返回列表