2

神经网络是一种懒惰或渴望的学习方法吗?不同的网页说不同的东西,所以我想用优秀的文献来回答它。最显而易见的书是Mitchell着名的机器学习书,但是浏览整个事情我看不到答案。谢谢 :)。神经网络是一种懒惰还是渴望学习的方法?

+0

我很确定它是EAGER。 – ale 2011-04-21 21:19:40

回答

7

综观而言lazyeager学习的定义,并且知道神经网络是如何工作的,我认为,很显然,这是渴望。训练网络泛化函数,用于达到分类的所有权重和路径完全由训练数据确定,但训练数据本身并不保留用于决策目的。

一个重要的区别是懒惰系统存储其训练数据并直接使用它来确定解决方案。急切的系统从培训数据确定功能,此后不再需要培训数据。也就是说,你无法确定培训数据来自于渴望系统的功能。神经网络当然适合这种描述。一个渴望的系统因此可以非常有效地存储,但相反地是非确定性的,因为不可能确定它是如何或为什么到达一个特定的解决方案,因此可能难以处理差或不适当的训练数据的问题。

上面链接的热心文章甚至给出了人工神经网络的例子。当然,您可能更喜欢维基百科引用的文本,但自2007年以来该页面已存在于此断言中,没有相互矛盾的编辑,所以我会说这非常稳健。

+0

我不确定这总是如此。看看这个维基百科文章[1],它看起来像神经网络是一个非常普遍的术语。可能确实,大多数神经网络都很渴望(如你所提及的那样,有很好的节省空间的原因)。你是从神经网络的特定定义开始工作的吗? (1. https://en.wikipedia.org/wiki/Artificial_neural_network) – olleicua 2016-02-25 18:22:19

+0

@olleicua:我不确定链接如何支持你的论点。鉴于你承认*大多数*神经网络渴望,也许你应该指定你所指的定义,而不是要求我这样做(事件发生后5年)。预测者给出了一个低于暗示网络的答案,但这个断言是伊戈尔颇有争议的。 – Clifford 2016-02-26 06:24:44

+0

我的定义(直到我找到一个不使用它的理由)是维基百科上的一个。该定义没有要求它急切。也许你误解了我的论点。我并没有声称神经网络通常并不渴望。我声称他们不一定非常渴望。我现在提出这个问题是因为我现在发现了它,它仍然是人们可能会发现并相信它的公共论坛中公认的答案。我指出,你缺乏支持你的主张的证据,并建议你使用较弱的说法:“大多数人造神经网络渴望”。 – olleicua 2016-02-27 20:15:11

1

一些神经网络是渴望学习者,有些是懒惰的。前向神经网络(通常由反向传播的某种变体训练)渴望:它们试图在训练时得出数据中潜在关系的表示。另一方面,径向基函数网络(例如概率神经网络或广义回归神经网络)是懒惰的学习者(非常像k-最近的邻居,经典的懒惰学习者)。

+0

我认为RBF网络也是渴望学习者。基准中心的位置和权重在***召回前计算。 – 2012-05-24 12:49:50