人类社会发展进到移动互联网至今，各个领域所产生的电子数据正在以极高速运行提高。依照美国国家安全局提供的信息汇报，互联网技术每天都会一键生成1825PB的信息总产量。

2011年，全世界电子数据的总数量对比2016年增加了贴近九倍，到2020年，全球数据预估能达到35万亿元千兆字节。

随着电子数据体量的提升，社会发展对于数据收集整理与处理要求还在日益提高。这种非常高的解决要求推动了深度神经网络（DL）等数据密集型机器学习算法广泛应用。

现阶段DL在网游、图像和语音识别技术、自然语言理解及其高端自动辅助驾驶等广泛运用中获得了巨大成就。可以这么说，深度神经网络已经在潜移默化中危害大众的日常日常生活。

在2018年Gartner杂志期刊评选出的十大技术趋势中，人工智能应用以其人工智能算法的高速发展，得到排到排行榜第一名。在过去十年里，高温超导体和平行面生成等新兴实验技术飞速发展，促进化学物质活力数据与生物医学工程数据信息出现大幅增加。

在药物研发方面，最重要的一个关键是如何有效剖析大规模有机化学数据信息。

因为信息量愈来愈巨大，自动化控制也在不断地发展趋势，现阶段将机器学习技术性用以药理学的前提条件日趋成熟。决策树（RF）、空间向量机及神经元网络（NN）等方法早已一直被用以开发设计QSAR模型，DL和矩阵分解也逐渐获得广泛应用。

DL优化算法能够充分利用不断增加的数据与算率，它和大部分别的机器学习方法中间区别在于DL神经系统网络结构具有高度协调能力。一般DL架构设计包含全连接层前馈网络、神经网络(CNN)和递归神经网络(RNN)。单面NN早就在QSAR模型中采用了很长一段时间。

伴随着信息量和计算水平增长，运用双层前馈网络在生理活性预测之中获得营销推广可用。一项引人注意成长是RNN在从头开始定制的原创设计领域里得到广泛应用，这样的事情在多年前是绝对难以想象的。

伴随着高通量测序成像设备的使用慢慢普及化，CNN模型在图像处理方面也取得了一定进度，并发展为微生物数字图像处理行业的重要方式。

深度学习的原理

DL作为一种机器学习优化算法，采用了具备双层离散系统控制部件的神经网络算法（ANN）来建立模型。最早ANN运用可追溯到1943年，那时候Warren McCulloch和Walter Pitts利用一种基于数学和称之为阀值逻辑算法研发出了NN测算模型。

最近流行所使用的ANN模型的结构特点如下图1所显示，其灵感来自于人类的大脑构造。

图1

ANN含有三个基本层：输入层、输出层和隐藏层。因为ANN有着不同的种类，邻近层中间节点（又被称为神经细胞）可以实现彻底联接或者部分联接。

输入变量能从输入节点端获得，数据信息自变量也可通过隐藏节点开展转换，最终在导出连接点端测算获得导出值。掩藏模块内导出值与输入值之间相互关联，如下图1b图示。

深度神经网络采用了更多隐藏层，它与传统ANN中间区别在于NN的经营规模多元性。受初期计算机系统限制，神经网络算法一般只有给予一到2个隐藏层。伴随着更优秀CPU和GPU硬件发展趋势，DL得到在每一层中应用更多连接点。

此外，DL的诸多优化算法还在发展，比如梯度消失问题可以使用线形调整模块(ReLU)来预防，数据信息过度拟合难题可以使用dropout和Drop Connect优化算法处理，规模性输入变量能够引进卷积层和池化层做为网络结构来处理。

现阶段DL程序包大多数都是开源系统，数据信息社区里最流行深度神经网络包有Tensor Flow、Caffe、Py Torch、Keras和Theano等优化算法。近几年DL最流行的各种各样神经系统网络结构，如下图2所显示。

为大家介绍下彻底相连的神经网络算法(DNN)，一般DNN具备多个隐藏层，每一个隐藏层有着数以百计离散系统控制部件（如下图2a）。DNN能够载入比较大数量键入特点，与此同时DNN不一样等级里的神经细胞也会自动载入每层的数据特点。

图2

另一种神经元网络是当前比较流行的CNN模型。已经广泛运用于图像识别技术（图2b）。

一般CNN具备多个子采样层及卷积层。卷积层则是由过滤装置（或核心）跟小传感器域构成。在前向计算环节中，每一个过滤装置都是在输出量宽度与高度中进行卷积和，并算出过滤器内容对于在输出量里的传感器域间的点积，最后形成该过滤器2D特征映射。

子采样层的作用是减少特征映射容量。特征映射被彻底连接成一层，在其中邻近层里的神经细胞也会像在传统ANN中一样都相互连接，以算出最后输出值。归功于每一个过滤装置分享同样参数值，CNN能够大大降低学习培训的权利主要参数总数，从而降低运行内存消耗。

ANN的另一种组合（图2c）是RNN。它和前馈控制NN不一样，在同一隐藏层中，邻近层中间节点能够联接进而组成会向循环系统。而RNN和表达模型这种时间相关每日任务十分相似，都能够选用次序数据信息做为输入变量。

图2d所示第四种ANN架构设计称之为自动编码器（AE）。AE主要是用于无监督学习的NN架构设计。近期，大家展开了一项深入研究来建立多个任务DNN，并把它们性能与单任务DNN模型进行对比。研究成果确认，多个任务模型自始至终比单任务和RF模型主要表现更强。

专家又从ChEMBL中选了七个数据，并把DNN模型与一些常见的机器学习方法（比如SVM、RF等）展开了较为。

DNN模型一般含有一个神经元网络伺服电机，它的作用是接受从输入层输入信息内容，再将数据转换，产生多个掩藏模块，最终实现输出层（该输出层一定要和输入层拥有相同总数节点）与视频解码器神经元网络的藕合。

深度神经网络在化学物质特性和活力预测中的运用

包含神经网络算法等在内的机器学习方法，在化学物质活力预测中的运用古已有之。专家一般优先选择选用DL方法去解决化学活性的预测难题。

假如化学物质由同样数量分子构成，那样科研人员可以直接用彻底相连的DNN来建立模型。一些团体应用很多二维拓扑结构设备描述在数据库上运用DNN。在一共15个总体目标数据集中，DNN模型有13个数据表现出了比普通RF方法更出色的性能。

这种出色的性能包含：DNN不用数据预处理就可以解决数千个设备描述；dropout能够避免传统式ANN所遇到的过度拟合难题；超参（叠加层数、各层节点数、函数类型等）提升可以使DNN性能获得更大化利用；多个任务DNN模型比单任务模型主要表现更强。

有一些专家在她们实验中阐述了多个任务DNN模型，该模型在包括12000种化合物数据上获得了Tox21考验，并用以12项高通量测序毒副作用测量。

与Dahl的架构设计相近，DNN采用了dropout和ReLU激活函数。她们应用含有静态数据设备描述（3D、2D设备描述、形式参数有害物质）大型特点集及其动态生成的拓展联接指纹识别设备描述(ECFP)。这也使得DNN可以在练习期内进行适当的特点推论。

更有意思的是，仅应用ECFP就能够对DNN模型进行汇总相关性分析，而且可以检测每一个隐藏层内与已经知道有害物质显著相关的子结构。这种基准测试结论验证了多个任务DNN与单任务DNN与传统机器学习方法相提并论比较大优点。

近期，一些其他公布科研成果进一步适用了这一结果。科研人员打造了多个任务DNN，并把它们性能与单任务DNN模型进行对比。结果显示，多个任务模型自始至终比单任务和RF模型主要表现更强。

另一项标准科学研究，将DNN和传统机器学习方法RF、SVM、朴素贝叶斯和逻辑回归方法进行对比，而且运用了蛋白设备描述[即蛋白化学计量学(PCM)科学研究]。事实上，DNN模型是BEDROC（玻尔兹曼加强型信号接收器实际操作特点辨别）层面的绝佳模型。

DNN模型可用于预测药品的药理学特点，并利用LINCS工程项目的转录组数据及其方式数据进行药品再开发设计。研究发现，DNN模型利用通道和遗传基因水准的内容在预测药品适用范围层面完成了高性能的预测，因而他们适合于药品再开发与利用。

受麦考利环形指纹识别方法的启迪，专家明确提出，神经系统指纹识别法适合于搭建图卷积模型。该对策工作流程如下图3所显示。先载入2D分子式从而形成情况引流矩阵，包括每一个原子的键信息内容。随后情况引流矩阵根据单面神经元网络开展卷积操作，形成固定不动长度空间向量用以表现分子式。

图3

深层学习辅助化学分子的重新设计构思

DL在有机化学信息学中的另一个有意思运用是由神经元网络形成一个新的有机化学分子式，在其中自动编码器(VAE)是一种合理的全新方法（如下图4）。专家首先用VAE做无监督学习，去投射INC数据库系统里的化学结构式（SMILES字符串数组），并转换成潜在性室内空间。

进行VAE练习以后，潜在性场景中的潜在性空间向量将会成为分子式的持续表明，并可以根据练习后VAE以可逆性方法转换成SMILES字符串数组。

有科研人员将VAE做为分子结构设备描述制作器与生成对抗网络(GAN)（一种特殊的NN架构设计）紧密结合，设计方案具备特殊防癌特点的全新化学分子，此类化学物质据悉具有显著的发展前景。

图4

近期专家使用DL优化算法开展化学变化预测方面取得一些有机会的成效。

机器学习优化算法适合于处理两大类难题，一种是预测正向反应，在给出一组生成物的情形下预测结合物质，另一种形式是逆生成预测，即给出最后物质，DL能够预测生成该物质所需的反映流程。

国外一位专家依靠神经元网络阐述了国外专利库的15000个反映测试集，并且对一组化学变化的备选物质开展预测。这一组化学变化被归类到测算模版中，通过模型练习，随后测算化学变化和机械产品的配对率，最后获得了71.8%准确度数据信息。

现阶段根据测算模板的反映预测方法遭遇普及率差及效率不高难题，因此有研究小组提出了一种无模板计算方法。与根据反映模版方法对比，这类方法利用Weisfeiler Lehman差别互联网对产生的备选反映开展得分，获得了更出色的性能。

无模版方法还可以应用350万只反映做为DNN的测试集，将反映预测的准确度提升到97%，将逆生成讲解的准确度提升到95%。

在另一项实验中，人们把蒙特卡罗树检索与策略网络紧密结合，利用由来源于科学文献的1200万只反映所组成的测试集对结合物开展预测，数据显示这一系统建立模型效率对比根据模版方法提高了二倍。

人工智能算法未来展望

总而言之，自20世际90年代末至今，机器学习一直被用于药物发现科学研究，甚至成为药物发现行业中的合理专用工具。人工智能算法是当前机器学习技术发展趋势的最新成果。

与其它方法对比，DL具备更加高效计算架构设计，所以可以建立对特定难题量身打造的NN架构设计。DL的主要缺点往往需要十分庞大测试集以及对于算力的要求很高。

那样DL是不是好于别的机器学习方法？目前尚无法合理结论。

很多科研成果说明深度神经网络在一些每日任务（如图像检测与鉴别）层面发挥出色，而且对于从头开始设计方案化学分子和预测化学变化很有使用价值。在结构型键入设备描述任务层面，深度学习的主要表现好像最少与其它方法势均力敌。

最有关的事例是生理活性预测，DL根据多任务学习好像赢得了更强的总体性能。但是，别的机器学习方法还在改善与发展。

一个例子是XG Boost方法，该方法在引进后主导了结构型录入数据的Kaggle比赛，变成这一领域比较领先的技术方法。因而，在实践中选择什么样的生理活性预测方法很有可能在于模型者最了解哪一种技术性。

假如不同类型的机器学习方法做到基本相同的精密度，那样机器学习模型能够实现的极限值很有可能在于测算所使用的数据与数据，?并不是所使用的特殊优化算法。