什么是贝叶斯神经网络? 背景、基本思想和功能
已发表: 2020-12-23目录
介绍
本文涉及贝叶斯神经网络的基本概念。 当看不见的数据被输入神经网络时,贝叶斯神经网络的这种特殊概念就会发挥作用,从而产生不确定性。
预测中这种不确定性的度量是神经网络架构中缺少的,这就是贝叶斯神经网络所解释的。 它解决了过度拟合问题,但也有助于其他功能,例如估计不确定性和概率分布。 神经网络的概念也已经解释过了。
阅读:监督学习的类型
贝叶斯神经网络的背景
比较过去十年中表现最好的人工智能系统之一,所有这些机器都有一个共同点——它们结合了一种称为深度学习的复杂技术。
切开深度学习的概念,可以观察到它是一个允许一种相对较新的人工智能方法的名称,称为神经网络,这种方法在大约 70 多年的时间里一直处于不一致的趋势。 例如,据观察,神经网络的概念模糊地基于人脑,人脑由数百万个处理节点组成,这些节点以密集的网格形式连接起来,就像交织在一起的电线一样。
因此,贝叶斯神经网络可以方便地处理如此输入的训练数据中的不确定性问题。

贝叶斯神经网络的基本思想
神经网络,通常称为神经网络,是机器学习的一种有效方式,其中计算机通过分析训练示例来学习、分析和执行任务。 使用的示例大多是预先手工标记的。 例如,以对象识别系统为例。
提供或馈送有关汽车、汽车、房屋或任何物体的标记图像的信息。 然后,它在作为数据插入的视觉模式中制定逻辑推理,该数据应与其他特定标签始终相关。
使用神经网络的架构师在分解和从数据中学习非常复杂的输入和输出映射方面取得了胜利。 然而,相同输入和输出映射系统的基本知识通常最终不能满足大多数情况,特别是在需要整合特定模型的信念或数据有限的情况下。
贝叶斯神经网络是在大多数情况下表示为分布的那些标准或参数,与确定性值相比,通常通过贝叶斯推理的概念来学习。 他们有一种内在的能力,可以从数据中消化复杂的非线性函数,然后同时表达不确定性。 因此,这也使他们在追求和建立更可靠和更有能力的人工智能方面发挥了更高的作用。
必读:机器学习中的回归模型类型
什么是贝叶斯神经网络?
因此,贝叶斯神经网络指的是标准网络对先前推理的扩展。 事实证明,当不确定性很高且绝对不确定时,贝叶斯神经网络在特定环境中非常有效。 这些情况是决策系统,或具有相对较低的数据设置,或任何类型的基于模型的学习。

深度神经网络 (DNN) 倾向于用给定的数据制定逻辑推理,而无需对数据集有任何先验经验。 因此,它们在处理本质上非线性的数据时表现得非常好,因此需要大量数据用于唯一的训练目的。 由于加载了更多信息,过度拟合曲面的问题。
在当前情况下出现的困境是,如前所述,神经网络在处理仅用于训练目的的数据时工作得非常好,但当新的和外来数据被输入系统时往往表现不佳。 这导致网络对训练数据本身的某些不确定性视而不见,导致他们对自己的预测过于自信,这可能会产生误导。 为了消除诸如此类的错误,因此使用了贝叶斯神经网络。
贝叶斯神经网络 (BNN) 如何工作?
贝叶斯神经网络背后的主要目标和思想是每个单元都与概率分布相关联,其中包括权重和偏差。
它们被称为随机变量,每次访问时都会提供完全不同的值。
举个例子,如果X是一个变量,并且是一个完全随机的变量,则表示正态分布。 每次访问 X 时,都会给出一个不同的 X 值。 每次检索 X 的值时,获取发散值的过程称为采样。 从每个样本中得出的值取决于概率分布。

随着概率分布范围的增加,不确定性成正比; 结果,它也上升了。 通常在神经网络中,每一层都应具有固定的权重,并带有通常说明输出的偏差。 另一方面,贝叶斯网络将具有附加到层本身的概率分布。
每次执行多次前向传递,具有一组新的权重和偏差。 因此,它用于处理分类问题。 为以正向方式进行的每一次传递都提供输出。 作为输入图像上传的数据会导致不确定性增加。 在这种情况下,对于输出类,它是网络之前没有遇到过的图像。
结论
可以肯定地得出结论,贝叶斯神经网络在整合和处理不确定性方面是一种福音。 它们还表现出提高预测性能。
贝叶斯神经网络或任何基于概率的模型的开发中出现的主要基础问题是对先前分布及其各自期望的难以计算的计算。 此外,贝叶斯网络非常有效地处理了过度拟合的问题,这一点非常清楚。
如果您有兴趣了解有关机器学习的更多信息,请查看 IIIT-B 和 upGrad 的机器学习和人工智能 PG 文凭,该文凭专为工作专业人士设计,提供 450 多个小时的严格培训、30 多个案例研究和作业、IIIT- B 校友身份、5 个以上实用的实践顶点项目和顶级公司的工作协助。
如何从贝叶斯网络中制作图形模型?
通过链接每个组件中涉及的所有节点,贝叶斯网络可以变成无向图模型。 这需要加入每个节点的父节点。 道德图是对应于特定贝叶斯网络的无向图。 计算道德图是许多贝叶斯网络计算技术的第一步。
贝叶斯网络和概率之间有什么关系?
贝叶斯网络是使用无环有向图创建的。 贝叶斯神经网络是一种概率模型,它通过对给定模型的每个变量应用单个条件概率分布来分解。 分布基于图中的父级。 图中被分离的变量仍然是独立的,但是无向图的基本图分离被更困难的 d-separation 代替,该分离考虑了对观测值的竞争解释的影响。
提到贝叶斯网络所做的任何一个假设?
当我们得到目标分类时,朴素贝叶斯分类器的一个关键假设是所有变量值都是条件独立的。 这个假设极大地有助于简化后验概率方面的目标函数计算。 但是,对于某些应用,例如文本文档和语音信号,这种假设可能不正确。 在这种情况下,贝叶斯信念网络可能是一个有用的选择。 他们采用一组条件独立的概率,而不是将所有可能的值强加于所有变量。