百度问答请讨论为什么对于现实问题的反问题考虑数据和模型的不确定性很重要_百度问一问

发布网友发布时间：2022-07-26 22:06

共1个回答

热心网友时间：2023-10-22 21:13

咨询记录 · 回答于2021-07-23百度问答请讨论为什么对于现实问题的反问题考虑数据和模型的不确定性很重要您好，关于不确定性来调试模型，当深度神经网络(DNN)变得越来越强大的时候，它们的复杂性也在一并与日俱增，而这种复杂性也给研究员带来了一系列新的挑战，其中就包括模型的可解释性。可解释性对于构建更加强大且具有抵抗对抗性攻击能力的模型而言至关重要。此外，当我们需要为一个全新的、还未得到深入研究的领域设计模型时，如果我们能够解释模型的运行机制，这将有助于我们更好地去设计和分析模型。在过去几年里，因为意识到了模型可解释性的重要作用，研究员们已经研究出了好几种方法，并且在去年的 NIPS 会议中也有一个专门的研究展示会（workshop）负责讨论相关主题。提供模型可解释性的方法包括：LIME：这是一种通过局部线性*近（Local linear approximation）来解释模型预测的方法。激活值最大化（Activation Maximization）：该方法可用于理解哪些输入模式（Input patterns）会产生最大的模型响应（Model response）。特征可视化。将一个深度神经网络层嵌入低维度可解释空间。借用认知心理学的方法进行解释。不确定性评估方法——这正是本篇文章的重点。