快捷搜索:

您的位置:澳门新葡4473网站 > 澳门新葡4473网站 > Julia Computing 和 MIT 引入可微编程系统,连接人工

Julia Computing 和 MIT 引入可微编程系统,连接人工

发布时间:2020-04-21 07:29编辑:澳门新葡4473网站浏览(125)

    图片 1

    AlphaGo击败了围棋高手李世石后,令本来就热度不减的深度学习更是火了一把。随着深度学习需求的大大增加,IT人对深度学习库的需求也随之而增加起来。今天,就由大圣众包威客平台(www.dashengzb.cn)为你介绍包括Python、Java、Haskell等在内的一系列编程语言的深度学习库。

    科学计算,是使用计算模型来解决科学和工程问题,它近年来从人工智能机器学习技术的迅速发展中获益良多。现在,研究人员正在探索连接这两个世界的方法。

    一、Python

    Julia Computing & MIT 的一个研究小组提出,广泛的科学计算和机器学习领域都需要在其底层结构上支持线性代数。该团队引入了一种新的可微编程(∂P)形式的计算基础结构,它可以计算模型梯度,并将自动微分集成到语言中作为一种一流的特性。程序员可以直接用 Julia 编程语言和 microProgramming 编写模型。

    Blocks是一种帮助你在Theano之上建立神经网络模型的框架。

    该系统几乎支持所有的编程语言(Python,R,Julia 等),并能构造和编译高性能代码,而不需要任何用户干预或重构来进行计算。这使程序员能够使用现有的 Julia 科学计算包构建深度学习模型,并有效地实现梯度计算。

    Caffe是一种以表达清晰、高速和模块化为理念建立起来的深度学习框架。它是由伯克利视觉和学习中心(BVLC)和网上社区贡献者共同开发的。谷歌的DeepDream人工智能图像处理程序正是建立在Caffe框架之上。这个框架是一个BSD许可的带有Python接口的C++库。

    可微编程是一种编程范式,其中程序可以完全区分。基于提供的数据集,神经网络自动学习从输入数据 X 到最终操作结果 Y (都是整个程序)的映射;或者结合程序员提供的高级代码,神经网络作为中间函数来完成整个程序。

    Chainer连接深度学习中的算法与实现,它强劲、灵活而敏锐,是一种用于深度学习的灵活的框架。

    Facebook 首席人工智能科学家 Yann LeCun 对可微编程的使用发表了评论:

    CXXNET是一种快速、简明的分布式深度学习框架,它以MShadow为基础,是轻量级可扩展的C++/CUDA神经网络工具包,同时拥有友好的Python/Matlab界面,可供机器学习的训练和预测使用。

    人们现在正在通过组装参数化功能块网络,并通过使用某种形式的基于梯度的优化,从实例中训练它们,从而构建一种新的软件。

    DeepLearning是一个用C++和Python开发的深度学习库。

    作为机器学习和科学计算学科共同共享基础设施的基础,这种可微的编程系统通过使用相同的技术来区分两个领域中的程序,允许新的应用程序将各个领域结合起来。研究人员展示了与现有的 ML 框架相同的性能,用于深度学习模型(在 CPU、GPU 和 TPU 上)和增强学习。可微编程也可以扩展到其他科学计算领域,例如神经 SDE 和量子机器学习。

    Deepnet是一种基于GPU的深度学习算法的Python实现,比如:前馈神经网络、受限玻尔兹曼机、深度信念网络、自编码器、深度玻尔兹曼机和卷积神经网络。

    图片 2

    DeepPy是一种建立在Mumpy之上的Python化的深度学习框架。

    论文 ∂P:在 ARXV 上完成的桥梁机械学习与科学计算的可差异编程系统 

    Genism是一个部署在Python编程语言中的深度学习工具包,用于通过高效算法处理的大型文本集。

    Y Combinator 的研究员 Michael Nielsen 在推特上表示,他希望这篇新论文是探索这个方向的趋势的一部分。特斯拉人工智能(Tesla AI)董事 Andrej Karpathy 在推特对 Nielsen 的说:

    Hebel是一个在Python中用于带有神经网络的深度学习的库,它通过PyCUDA使用带有CUDA的GPU加速。它可实现大多数目前最重要的神经网络模型,提供了多种不同的激活函数和训练方式,如动量、Nesterov动量、退出(dropout)和前期停止(earlystopping)。

    我们将堆栈向上移动一点,而不是编写显式的、完全定义的程序,而是编写一个程序的粗略草图“管道”(由某个θ参数化的管道),如果您有一个可评估的度量,则通过优化来选择管中的最佳点。

    Keras是类似Torch的一个精简的、高度模块化的神经网络库。Theano在底层帮助其优化CPU和GPU运行中的张量操作。

    来源:medium

    Lasagne是一个轻量级的库,它可以在Theano中建立和训练神经网络。它简单、透明、模块化、实用、专一而克制。

    Neon是Nervana公司基于Python开发的深度学习框架。

    Nolearn包含大量其他神经网络库中的包装器和抽象(wrappersandabstractions),其中最值得注意的是Lasagne,其中也包含一些机器学习的实用模块。

    Pylearn2是一个引用大量如随机梯度(StochasticGradient)这样的模型和训练算法的库。它在深度学习中被广泛采用,这个库也是以Theano为基础的。

    Theano是一种用于使用数列来定义和评估数学表达的Python库。它可以让Python中深度学习算法的编写更为简单。很多其他的库是以Theano为基础开发的。

    二、C++

    Eblearn是一个机器学习的开源C++库,由纽约大学机器学习实验室的YannLeCun牵头研发。它是按照GUI、演示和教程来部署的带有基于能量的模型的卷积神经网络。

    Intel?DeepLearningFramework为英特尔的平台提供了统一的框架来加速深度卷积神经网络。

    NVIDIADIGITS是一个新的用于开发、训练和可视化的神经网络系统。它把深度学习放进了基于浏览器的界面中,让数据分析师和研究人员可以快速设计最好的深度学习神经网络(DNN)来获取实时的网络行为可视化数据。

    SINGA被设计用来进行已有系统中分布式训练算法的普通实现。它由ApacheSoftwareFoundation提供支持。

    三、Java

    Deeplearning4j是第一个为Java和Scala编写的消费级开元分布式深度学习库。它被设计成在商业环境中使用,而非研究工具。

    Encog是一种先进的机器学习框架,支持支持向量机(SupportVectorMachines)、人工神经网络(ArtificialNeuralNetworks)、基因编程(GeneticProgramming)、贝叶斯网络(BayesianNetworks)、隐马尔科夫模型(HiddenMarkovModels)和遗传算法(GeneticAlgorithms)。

    N-DimensionalArraysforJava(ND4J)是一种为JVM设计的科学计算库。它们被应用在生产环境中,这就意味着它的路径可以被设计成最小的RAM内存需求来快速运行。

    四、JavaScript

    Convent.js是一种Javascript中用于深度学习模型(主要是神经网络)的库。它能够完全在浏览器中使用而不需要开发工具、编译器、安装、GPU的支持,简单易用。

    五、Lua

    Torch是一种科学计算框架,可支持多种计算机学习算法。

    六、Julia

    Mocha是用于Julia的一种深度学习框架,其灵感来源于C++框架Caffe。在Mocha中通用的随机梯度求解器和公共层的有效实现,可以被用于训练深度/浅层(卷积)神经网络,其带有通过(堆叠的)自动解码器的(可选的)无监督的预训练。它最大的特点包括:带有模块化架构、高层面的接口、便携性与速度、兼容性,等等。

    七、Lisp

    Lush(LispUniversalShell)是一种为研究人员、试验者以及对大规模数值和图形应用感兴趣的工程师设计的,以他们为面向对象的编程语言。它带有丰富的作为机器学习库一部分的深度学习库。

    八、Haskell

    DNNGraph是一个用Haskell编写的深度神经网络生成DSL。

    九、.NET

    Accord.NET是一种.NET机器学习框架,包含声音和图像处理库,它完全由C#编写。它是一种为开发生产级的计算机视觉、计算机听觉、信号处理和统计应用而设计的完整框架。

    十、R

    Darch包可以用于建立多层神经网络(深层结构)。其中的训练方式包括使用对比发散法进行提前训练,或使用通常的训练方法(如反向传播和共轭梯度)进行一些微调。

    Deepnet实现了一些深度学习架构和神经网络算法,包括BP、RBM、DBN、深度自编码器等等。

    以上根据10个常用的编程语言整理的对应深度学习库,希望对广大想要在人工智能深耕的IT人有所帮助。

    (更多大数据与商业智能领域干货、或电子书,可添加个人微信号(dashenghuaer))

    本文由澳门新葡4473网站发布于澳门新葡4473网站,转载请注明出处:Julia Computing 和 MIT 引入可微编程系统,连接人工

    关键词: