神经网络如同青蛙的智力

神经网络模型

我理解的神经网络模型类似人的记忆，即人从出生到长大，接触、吸收外部信息并且将外部事物量化、统一化、概念化的过程，以此去指导一生的行为。

实际上，神经网络模型ANN是由大量的简单基本元件组成，每个元件的结构和功能都比较简单，但是众多的神经元组合所产生的系统却非常复杂。神经网络模型属于一种较为智能的判别过程，对于变量类型并没有过多要求，可以有效地识别事物的不同特征以及模式，例如不完全的信息、复杂的非线性特征等等。

通常，工作中使用的神经网络模型为弱能的神经网络，其智能程度犹如青蛙、老鼠的智力。目前，较为深层的神经网络模型已经开发了出来，例如谷歌的阿尔法狗便是深层的神经网络，其背后的算法支撑即为贝叶斯算法。

其实，并不需要过多的了解、关注神经网络模型背后的底层结构，工作中只需要会使用就可以了。

神经网络是黑箱

项目过程中，很多人会问到使用的建模方法是什么，通常，这个问题我真的很难回答。如果模型的中间层为神经网络，那么该层即为黑箱。

我将作为黑箱的隐含层理解为模型的分析过程，每一个隐节点看做一个感知器，即可以产生多个超平面用于预测或者分类，也就是说，这样的黑箱如同人的思考、判断过程，当然了，优缺点并存，神经网络模型在解决预测类问题时具有非常多的有点，但是，神经网络模型也极大的额限制了我们对于变量间具体关系的描述。

数据挖掘的速度

数据挖掘领域中，速度非常重要，其重要程度甚至超过了模型的精度，很多业务场景的数据挖掘项目中，往往不惜牺牲商业价值，也要追求速度。

神经网络模型也好、决策树模型也好、聚类也好，甚至市场细分模型组合也好，很多都是速度问题，一般我会从几个角度去解决数据挖掘模型的速度问题：

通常，构建模型后预测新样本的方法为，将新样本接在原始样本后，重新跑次模型，从而得到预测数值，即需要跑两次模型去得到预测数据，如果样本大些，显然会影响速度。一般，我会只保存训练集的模型，预测新样本时仅仅利用模型进行预测，这样做仅需跑一次模型即可，降低耗时；

模型并不是一成不变的，在模型更新维护的过程中，通常的做法是将新数据纳入原数据样本中进行模型的更新迭代，这样便会导致样本更加的庞大，增加了时间成本。一般我仅仅使用新增的数据对模型进行更新，可以理解为人的思维方式，人在学习新鲜事物的时候，并不是回到1岁的状态重新开始学习，不是么？

ANN建模过程

神经网络模型的建模过程：

构建数据源设定X、Y与残差，其中X涉及测量级别的确定与标准化的过程，Y涉及误差分布抽取样本对于隐含层的层数进行测试通过评分集评估模型好坏保存训练的模型网络结构，利用该网络对新样本进行预测

建模中的坑

构建神经网络模型的过程中需要注意的大坑很多，例如：

SAS EM中有两种神经网络，这两种神经网络与SPSS中的两种神经网络不同；建模前需要进行数据预处理，例如缺失值处理、数据标准化处理等等，数据标准化是数据挖掘中常用的数据处理手段，其优点之一是可以降低建模耗时，并不会影响数据样本原有的性质；确定模型隐含层数时，通常我会抽样一小部分样本，1-5层分别都会测试下模型效果，当然，隐含层数越多模型的效果并不一定会好；我习惯使用R方与残差图去衡量神经网络模型的效果；如果建模后发现模型准确率很低，可能是缺失值的填充方式出了问题导致模型精度下降，可以从这个角度进行核查；如果缺失值填补的方法并没有问题，然而模型精度仍然不高，则可能是入模变量的选取出了问题，通常我习惯使用dmine过程步进行入模变量的筛选，从而将大量无用、混杂的变量去掉，从而提升模型的精度。其实这点与传统的模型不同，传统模型中塞入不重要的变量模型并不不会出现什么大的问题，但是神经网络模型必须处理掉无用的垃圾变量，否则模型非常容易出现过拟合，因此神经网络模型在选择最终的入模变量时，需要非常谨慎小心。