伪残差是什么

问题描述

精选答案

残差学习在回归问题中可以很好的使用，但是为了一般性（分类，排序问题），实际中往往是基于loss Function 在函数空间的的负梯度学习，对于回归问题1/2(y-F(x))^{2}残差和负梯度也是相同的。L(y,f)中的f，不要理解为传统意义上的函数，而是一个函数向量f(x_{1}),f(x_{x}),f(x_3),...f(x_n)，向量中元素的个数与训练样本的个数相同，因此基于Loss Function函数空间的负梯度的学习也称为“伪残差”。