-
WEBSITE
怎么样理解SVM中的hinge-loss？ - 知乎
换用其他的Loss函数的话，SVM就不再是SVM了。 正是因为HingeLoss的零区域对应的正是非支持向量的普通样本，从而所有的普通样本都不参与最终超平面的决定，这才是支持向量机最大的优势所在，对训练样本数目的依赖大大减少，而且提高了训练效率。
Do more...
Share, comment, bookmark or report
-
WEBSITE
GAN生成对抗网络D_loss和G_loss到底应该怎样变化？ - 知乎
总的来说，GAN生成对抗 [3] 网络中的损失函数是相互影响的。. 当判别器能够识别出生成器生成的假数据时，D_loss会减少。. 此时，生成器需要改进自己的性能，使得难以被判别器区分，进而提高G_loss。. 当判别器无法准确识别出生成器的假数据时，D_loss会增加 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
lose，loss 和lost的区别 - 百度知道
lose，loss 和lost的区别It's surprising: they lost!这句话是对的，lost在这里是动词lose的过去式，并不是形容词。 they lost!他们失败这个动作已经发生了，并且已成事实，因此要用动词的过去式。
Do more...
Share, comment, bookmark or report
-
WEBSITE
分别'Major Head-Loss' and Minor Head-Loss'? - 知乎
1 个回答. In any real moving fluid, energy is dissipated due to friction; turbulence dissipates even more energy for high Reynolds number flows. This dissipation, called head loss, is divided into two main categories,"major losses" associated with energy loss per length of pipe, and"minor losses" associated with bends, fittings, valves ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
深度网络loss除以10和学习率除以10是不是等价的？ - 知乎
此时，将loss乘以尺度 s ，等价于将学习率乘以尺度 s 。 3. Momentum SGD：等价. 沿用上述Adam算法中的符号，Momentum SGD的梯度更新为 \theta_t = \theta_{t-1} - \alpha m_t \\ 当loss乘以尺度 s 时，loss的梯度 g_t 被扩大了 s 倍，由于 m_t 是 g_t 的累加，那么， m_t 会被扩大 s 倍 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
求通俗易懂解释下nce loss？ - 知乎
选择哪种Loss? NCE Loss和Sampled Softmax Loss在召回中都有广泛运用. 从word2vec派生出来的算法，如Airbnb和阿里的EGES召回，都使用的是NCE Loss。准确一点说，是NCE的简化版，NEG Loss。尽管NEG Loss在理论上无法等价原始的超大规模softmax，但是不妨碍学习出高质量的embedding。
Do more...
Share, comment, bookmark or report
-
WEBSITE
深度学习当中train loss和valid loss之间的关系？ - 知乎
train loss是训练数据上的损失，衡量模型在训练集上的拟合能力。. val loss 是在验证集上的损失，衡量的是在未见过数据上的拟合能力，也可以说是 泛化能力。. 模型的真正效果应该用val loss来衡量。. 你说到的train loss下降到一个点以后不再下降，是因为在你目前 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
深度学习的loss一般收敛到多少？ - 知乎
14 个回答. 你需要在过拟合和泛化上做平衡. 看题主的意思，应该是想问，如果用训练过程当中的loss值作为衡量深度学习模型性能的指标的话，当这个指标下降到多少时才能说明模型达到了一个较好的性能，也就是将loss作为一个evaluation metrics。. 但是就像知乎er们 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
Pytorch内部中optim和loss是如何交互的？ - 知乎
loss = loss_func(prediction, y) loss.backward() 而梯度由这2句产生，第一句对prediction和y之间进行比对（熵或者其他loss function），产生最初的梯度，然后经由第二句反向传播到整个网络的所有链路和节点。节点与节点之间有联系，因此可以反向链式传播梯度。 optimizer.step()
Do more...
Share, comment, bookmark or report
-
WEBSITE
在目前超分辨率的论文中不使用MSE，而使用L1或者Perceptual loss的原因是什么？ - 知乎
Perceptual loss，是特征空间的 类别/纹理 “相似”。. 毕竟有学者认为深度卷积网络用于图像分类，利用的是 物体的纹理差异。. 多尺度 (MS)-SSIM，那就是图像空间的 结构 “相似”。. 在文献 [1]中，就找到了MS-SSIM+L1的混合损失适合于图像复原。. 图像SR问题有两个 ...
Do more...
Share, comment, bookmark or report
Comments