---------------------考试---------------------------学资学习网---------------------押题------------------------------论文阅读报告TensorFlow1.基本信息Large-ScaleMachineLearningonHeterogeneousTensorFlow:题目：DistributedSystemsGoogleResearch：2015.9时间：Mart′?nAbadi,AshishAgarwal,PaulBarham……作者：摘要2.并且是执行算法的实现框架。TensorFlow是一个表达机器学习算法的接口，从移动设备使用TensorFlow表示的计算可以在众多异构的系统上方便地移植，可以被如手机或者平板电脑到成千的该系统灵活，GPU计算集群上都可以执行。也已经被用于科研包括深度神经网络的训练和推断算法。用来表示很多的算法，和应用机器学习系统在内的若干计算机科学领域或者其他领域中，例如语言识别、计算机视觉、机器人、信息检索、自然语言理解、地理信息抽取和计算药物发现。3.引言的经验，构建了DistBelief基于第一代可扩展分布式训练和推断系统TensorFlow——第二代大规模机器学习模型的实现和部署的系统。TensorFlow例如使用包含将这些计算映射到不同的硬件平台，使用类似数据流模型的计算，的单个机器，或运行在数百台和AndroidiOS显卡的装有一个或者多个GPU包含数千个GPU的大规模训练系统。拥有一个单一的系统可以扩展分布到众多-1-正如用分离的系统进行的平台上可以大大简化真实场景中机器学习系统的使用，大规模训练和小规模的部署，会产生巨大的维护代价和较差的抽象效果。的计算被表示为含状态的数据流图，在让这个系统足够灵活能够快TensorFlow并同时充分地提升产品级训练的性能和部署机器速地实验研究中产生的新模型，允许通学习模型健壮性。为扩展神经网络训练搞更大的部署环境，TensorFlow简单地表达不同类型的并使client过复制和并行执行一个核心模型数据流图，对计算描述行，依赖不同计算设备合作更新一个共享的参数或者其他的状态。的微妙变动可以使用较低的代价来达到和尝试很多不同的并行的法。对比的编程模型更加灵活，性能也更好，支持在大规模的TensorFlowDistBelief，异构硬件平台上训练和使用很多的模型。主要技术4.1、编程模型和基本概念该的计算由一个有向图描述，这个图中由一个节点集合组成。TensorFlow作出了一些类型的节点保持和更新持久状态和让分支及循图表达了数据流计算，TensorFlow的行为方式的扩展。客户一般都会使用环控制结构类似于NaiadPython）构建一个计算图。下图表示一段样例使用支持的前端语言（C++或者TensorFlow构建并执行了一个的计算图：Python下图表示结构计算图：-2-有一个或者多个输入和零个或）（nodeTensorFlow在一幅图中，每个节点）的实例化。流过图中正常的边（输出operation者多个输出，表示一种操作（），任意维度的数组其中基础元素类型是指定的到输入）的值都是张量（tensor或者在图的构造过程中自动推断出来的。特别的边，我们称之为控制依赖），同样也存在在图中：这类边上没有数据流过，但是controldependencies（由于我们的模他们表示源节点必须在目标节点的控制依赖开始执行前完成运行。我们的happens-before型包括可变状态，关系。控制依赖可以被直接用来确保比如说作为控制内存使用实现同样会插入控制依赖来确保独立操作之间的顺序，最高峰值的方式。kernel1）操作和核（）“矩阵相乘”或者一个操作有一个名字。它表示一个抽象的计算（比如说，），所有的属性必须提供或者在“相加”）。一个操作可以有属性（attribute属性通常的使用方式是让图构造的过程中推断出以实例化一个节点来执行操作。int32类型的张量和两个两个操作在不同的张量元素类型上多态（例如，float）是一种操作的特别实现，可以运行在一个特定类型类型的张量）。核（kernel定义了可以通过注册TensorFlowGPUCPU的设备上（如或者）。的binary-3-这个集合可以通过连接额外的）（机制实现的操作和核的集合上，registrationTensorFlow核心库的一些操作类型。核的定义/注册。下表表示内置于操作/）2）会话（session系统进行交互。为了创建一TensorFlowsession）和客户端通过创建会话（）方法来提升当前由包含额外节点和边external个计算图，会...