jrae源码解析（二）

最新推荐文章于 2021-03-02 01:53:43 发布

ib26nqt202

最新推荐文章于 2021-03-02 01:53:43 发布

阅读量1.5k

点赞数

本文链接：https://blog.csdn.net/ib26nqt202/article/details/41316341

版权

本文详细介绍了RAECost和SoftmaxCost两个类的原理及实现。SoftmaxCost用于衡量2层神经网络的误差，通过softmax函数进行归一化，并计算权重梯度。而RAECost由featureCost和classificationCost构成，通过RAEPropagation生成递归树，并计算成本和梯度。RAEFeatureCost类负责生成树并计算梯度。

摘要由CSDN通过智能技术生成

本文细述上文引出的RAECost和SoftmaxCost两个类。

SoftmaxCost

我们已经知道，SoftmaxCost类在给定features和label的情况下（超参数给定），衡量给定权重（ hidden×catSize ）的误差值 cost ,并指出当前的权重梯度。看代码。

 
         @Override 
        
         public  
         double  
         valueAt( 
         double 
         [] x)  
        
         {
           
         if 
         ( !requiresEvaluation(x) ) 
        
         return  
         value; 
        
         int  
         numDataItems = Features.columns; 
        
         int 
         [] requiredRows = ArraysHelper.makeArray( 
         0 
         , CatSize- 
         2 
         ); 
        
         ClassifierTheta Theta =  
         new