首页 体育 教育 财经 社会 娱乐 军事 国内 科技 互联网 房产 国际 女人 汽车 游戏

计算机图形也能自动可微:MIT学神的微分太极框架开源,论文已被ICLR

2020-01-10

上一年5月,机器之心报导了 MIT 华人学神胡渊鸣等开源的核算机图形库—— 太极 。近来,这位作者联合其他研讨者推出了主动微分版别的太极——微分太极。这一结构能够依据太极完结主动微分,在物理模仿优化方面有很高的功能和灵活性。这意味着太极从核算机图形学进入了机器学习的范畴。

现在,一作胡渊鸣已在 GitHub 上开源了依据这一结构完结的 10个 物理模仿器,项目登上了 GitHub 热榜。而微分太极论文也已被 ICLR2020 接纳。

项目地址:https://github.com/yuanming-hu/difftaichi

论文地址:https://arxiv.org/pdf/1910.00935.pdf

胡渊鸣也在 Youtube 上传了微分太极的论文解读视频。

微分太极结构极大了提高了可微物理模仿器的功能和生产力。例如,运用微分太极结构的可微弹性方针模仿器的速度比TensorFlow完结快了 188 倍;微分太极结构的运转速度与 CUDA 完结适当,但代码缩短了 4.2 倍。

大多数可微模仿器能够在 2 至 3 小时内完结。以下是其间一些模仿器的动态展现图:

左: 梯度下降迭代步数 0; 右: 梯度下降迭代步数 80。

梯度下降迭代步数 40。

梯度下降迭代步数 450。

梯度下降迭代步数 180。

这种烘托器包括三个组件:可微水模仿、可微水烘托和可微 卷积神经网络 。

可微水烘托器结构图。

试验成果表明,在经过水模仿和水烘托之后,VGG-16 网络结构将带有动态水纹的松鼠相片误识别为金鱼。

时刻步长 2048,梯度下降迭代步数 20。

时刻步长 682,梯度下降迭代步数 20。

微分太极还能模仿台球等其他包括多个物体的杂乱场景。

左: 梯度下降迭代步数 0; 右: 梯度下降迭代步数 100。

太极原本是用于核算机图形核算和模仿的,为什么要开发为微分结构呢?这是由于运用可微模仿器进行物理控制器优化,比较 model-free 的强化学习算法,能够提高 1 到 4 个量级的收敛速度。

微分太极是依据太极项目的,它能够运用源码转化的办法,对模仿进程生成梯度。模仿程序由一个轻量的 tape 进行记载,并以降序办法回来核的梯度,完结端到端反向传达。

图 1: 微分太极能够和神经网络控制器及物理模仿模块无缝结合,并向控制器或初始化转台参数更新梯度。 模仿进程一般有 512 到 2048 个时刻步,每个时刻步到达 1000 次并行运算。 10 个依据微分太极构建的微分模仿器。

微分太极的首要方针是进行主动微分,即主动生成模仿器的梯度,并且关于传统的前向模仿器的代码改动坚持最小。

为了确保功能和灵活性,研讨者开发了这样的主动微分体系:在核内运用源码转化的办法进行微分,并运用轻量 tape 记载函数指针和特点,用于模仿微分。大局张量是核算梯度的检查点。

图 2: 主动微分架构。 微分太极体系。 白色部分为来自太极言语的重用架构,蓝色为微分程序的扩展部分。 Tape 记载了核的运转,在反向传达时以降序办法重放梯度核。

典型的太极核由多层循环和一个程序体组成。为了使后续的主动微分变得简略,研讨者采用了两种代码搬迁办法,分别为平坦分支和消除可变变量,用于简化程序体:

图 3: 程序体从左到右逐步被简化。

在微分太极中,研讨者构建了一个轻量级的 tape,用于核的履行,使得梯度核能够以降序的办法重放。Tape 很轻量,它不保存中心成果,而是在前向模仿中记载核的称号和输入变量。

在一个微分太极的核发动的时分,核的函数指针和参数会被添加到 tape 中。当进行梯度核算的时分,体系会顺着降序的 tape,将记载的参数输入梯度核中取得梯度。需求留意的是,微分太极的主动微分会依据输入的大局张量而非输入参数进行梯度核算。

举个比如,假定咱们的方针是优化三个绷簧质点组成的几何图形,在模仿完毕的时分需求使它们组成的面积为 0.2。丢失函数可定义如下:

程序运用「ti.Tape」记载前向核的运转。它会主动回来这些核的梯度。刚开始的时分,三角形有着 [0.1, 0.1, 0.14] 的三边长,而优化后的长度是 [0.600, 0.600, 0.529]。这意味着三角形需求依据胡克定律从小到大进行形变。

上图中的代码表明了三角形的形变进程。左边的代码类似于 PyTorch 或 TF2.0 的练习进程:设定迭代次数,在前向核算后核算丢失,并更新梯度。经过梯度优化的办法,核算机图形的模仿会变得更快更准确。

胡渊鸣是 MIT人工智能试验室的博士生,师从 Fredo Durand 和 Bill Freeman 两位教授。

他从小就对核算机表现出极大的爱好,因其在 2012 年全国高中学科奥赛中的优异成绩而被保送至清华大学。

2017 年 7 月,胡同学作为优异结业生从清华大学姚班结业。他在微软亚洲研讨院跟从 Stephen Lin 博士实习时从事深度学习和核算机视觉相关作业。胡同学的本科论文首要研讨的是运用强化学习和对立学习的主动相片后期处理。2018 年 11 月,胡同学在 Wojciech Matusik 教授的指导下完结其硕士论文。

本科论文链接:https://arxiv.org/abs/1709.09602

硕士论文链接:http://taichi.graphics/wp-content/uploads/2018/11/thesis_ChainQueen.pdf

胡渊鸣开发的一系列 GitHub 项目都取得了极大的重视,其间最著名的当属 Taichi 项目,Star 量至今已达 7800。

2019 年的项目奉献值为 4651。

热门文章

随机推荐

推荐文章