深度学习

产品级深度学习开发指南

众所周知,深度学习模型仅仅只是构建 AI 产品的重要步骤,但并不是全部。一个互联网产品(如 APP)想要集成深度学习能力,往往还需要走完很多设计、开发和测试方面的工作。如何部署深度学习往往成为了系统设计中更关键的问题。近日,GitHub 上有这样一个项目,专门介绍了如何将深度学习算法和模型融入到互联网产品中。项目基本以流程、架构图为主,目前仍在完善中,适合产品经理和...

特斯拉AI:神经网络的训练秘籍

作者Andrej Karpathy是特斯拉的人工智能研究负责人。他博士毕业于斯坦福AI实验室,师从斯坦福“以人为本“人工智能研究院院长李飞飞。主要研究方向是卷积神经网络结构,自然语言处理,以及它们在计算机视觉上的应用。之前在谷歌大脑实习的工作内容是基于YouTube视频进行大规模特征提取。在DeepMind实习主要是做深度增强学习。 Andrej Karpathy曾连发推文细数六种神经网络研究中的常...

中国的计算机视觉,为什么成了美国的眼中钉?

文|脑极体 美国实体清单的大锤,终于落在了中国AI企业身上。 当地时间10月7日,美国商务部宣布,将8家中国企业在内的28个实体纳入出口管制实体清单,其中包括科大讯飞、旷视、商汤等等一系列我们所熟悉的AI企业。 相比华为被列入名单时吃瓜群众们的震怒,这时人们已经显得平静许多,不论是股市还是大众的关注度,都没有表现出太大的异常,或许是我们早已习惯了美国洽谈之...

告别炼丹,谷歌提出“权重无关”神经网络

神经网络训练中 “权重” 有多重要不言而喻。但谷歌前段时间发表的研究表明,即使抛弃神经网络权重训练,使用随机共享权重,也可以执行各种任务。 他们提出一种新的神经网络结构的搜索方法——权重无关神经网络(Weight Agnostic Neural Networks,WANN),其关键思想是通过不再强调权重来搜索网络结构。 今天,该研究的两位作者、谷歌大脑学生研究员 Adam Gaier和研究科学家David Ha...

图灵奖得主Hinton:深度学习如何继续革命?

深度学习从何而来?又该向哪去? 近日,图灵奖得主、深度学习巨头Geoffrey Hinton和Yann LeCun在ACM FCRC 2019上发表了精彩演讲。 官网地址:https://fcrc.acm.org/about/about-fcrc 二人分别在大会上做了题为《深度学习革命》和《深度学习革命:续集》的精彩演讲。目前视频已经公开: https://www.youtube.com/watch?v=VsnQf7exv5I 新智元对演讲内容进行了整理。 Geoffrey Hi...

大数据智能核心技术入门:从大数据到人工智能

自序 我们所生活的世界,就像一片数据混沌(Data Chaos),大数据爆炸式增长并以惊人的速度进行传播,社交网络的实时性打破了数据发布的时空限制,信息流动的速度、广度和深度让传统管理决策模式面临挑战,还有科技高速发展所带来的冲击都在加大未来的不确定性。如何从数据混沌中发现规律,成为预测未来的“先知”,是历代人类的梦想。不管是古人的占卜,前几年的专家系统、数据...

OpenAI训练“4.5万年”,打DOTA 2:0战胜世界冠军团队

今天凌晨,OpenAI Five在Dota 2中以2:0击败了世界冠军团队OG,再次显示出了AI的强大威力,也正式宣告人类在Dota这种高难度游戏中成为AI的手下败将。 这次比赛,OpenAI Five的表现出是迄今为止展示出的较高水平:人类对手去年赢得了世界上最令人垂涎的电子竞技赛事TI8的冠军;OpenAI Five在去年输掉比赛后进行了优化,训练时间相当于人类玩了4.5万年,赢得比赛也并不出乎意料。 ...

LSTM与GRU模型可视化解析

RNN 会受到短时记忆的影响。如果一条序列足够长,那它们将很难将信息从较早的时间步传送到后面的时间步。 因此,如果你正在尝试处理一段文本进行预测,RNN 可能从一开始就会遗漏重要信息。 在反向传播期间,RNN 会面临梯度消失的问题。 梯度是用于更新神经网络的权重值,消失的梯度问题是当梯度随着时间的推移传播时梯度下降,如果梯度值变得非常小,就不会继续学习。 ...

算法工程师的危机

不久前,讯飞AI同传语音造假的新闻刷爆科技圈,科大讯飞股价应声下跌3.89%(不是65.3%,标题党文章害死人)。 吃瓜群众纷纷感慨,有多少人工,就有多少智能。 AI概念在2015年起就红得发紫,不论是送外卖,搞团购,卖车,或是推荐莆田医院的,是个公司都会标榜自己是搞人工智能的。 在21世纪的第二个十年,计算机专业相关的学生不说自己是搞AI算法的,同学聚会都抬不起头,相亲都...

人工智能革命尚未发生

原文来源:medium 作者:Michael Jordan 「雷克世界」编译:嗯~是阿童木呀、KABUDA、EVA 人工智能(AI)是当前时代的颂歌。这句话是由技术人员、学者、记者和风险投资家一致提出且真诚赞扬的。就像其他许多从技术学术领域跨越到通用领域的短语一样,在使用该短语也同时存在着严重的误解。但这并不是大众不了解科学家的经典案例,在这里,科学家和大众一样感到困惑。...

真实到可怕!英伟达MIT造出马良的神笔

记得神笔马良的故事么? 拿到神笔的马良,可以画物品、画动物、画食物,而且,这些画作都可以一秒钟从画面上出来,变成真实世界中存在的东西。 虽然这只是一个童话故事,不过,英伟达和MIT联手的研究,基本上马良的“神笔”造了个八九不离十。 来自英伟达和MIT的研究团队,最近搞出了迄今最强的高清视频生成AI。这个团队,包括来自英伟达的Ting-Chun Wang、刘明宇(Ming-Yu L...

AI 框架使用排行:TensorFlow、Scikit Learn、IBM Watson

作者简介:Dan Olds是技术趋势和客户情绪方面的权威人士,他也是经常被知名行业和商业出版物频频引用的专家,比如《华尔街日报》、彭博新闻社、《Computerworld》、《eWeek》、《CIO》和《PCWorld》等。 AI软件界在迅速发展。新的应用几乎每天都在层出不穷,现在正好可以趁机了解人们到底在用机器学习和其他AI技术做什么、这些技术可能何去何从。 我们在之前的两篇文章中探讨了...

陈天奇等提出TVM:深度学习自动优化代码生成器

TVM 是由华盛顿大学在读博士陈天奇等人提出的深度学习自动代码生成方法,去年 8 月机器之心曾对其进行过简要介绍。该技术能自动为大多数计算硬件生成可部署优化代码,其性能可与当前最优的供应商提供的优化计算库相比,且可以适应新型专用加速器后端。近日,这项研究的论文《TVM: End-to-End Optimization Stack for Deep Learning》终于完成,内容包含新方法的介绍与讨论,以及 TVM ...

Hinton:人类就是机器,绝妙的机器

三十多年以来,Geoffrey Hinton一直徘徊在人工智能研究的边缘地带。他像一个局外人一样坚守着一个简单的观点:计算机可以像人类一样思考,依靠直觉而不是规则。 这个念头在Hinton的青少年时代已经萌芽。当时有个朋友向他描述了全息图的工作原理,物体表面无数的反射光线被记录下来,被存入一个巨大的数据库里。来自科学世家的Hinton,立刻想到大脑也是这样工作的—— 海量的细胞由...

胶囊神经网络

斯蒂文认为机器学习有时候像婴儿学习,特别是在物体识别上。比如婴儿首先学会识别边界和颜色,然后将这些信息用于识别形状和图形等更复杂的实体。比如在人脸识别上,他们学会从眼睛和嘴巴开始识别最终到整个面孔。当他们看一个人的形象时,他们大脑认出了两只眼睛,一只鼻子和一只嘴巴,当认出所有这些存在于脸上的实体,并且觉得“这看起来像一个人”。 斯蒂文首先给他的女儿悠悠看...

一文读懂TensorFlow基础

01 前言 深度学习算法的成功使人工智能的研究和应用取得了突破性进展,并极大地改变了我们的生活。越来越多的开发人员都在学习深度学习方面的开发技术。Google推出的TensorFlow是目前最为流行的开源深度学习框架,在图形分类、音频处理、推荐系统和自然语言处理等场景下都有丰富的应用。尽管功能强大,该框架学习门槛并不高,只要掌握Python安装和使用,并对机器学习和神经网络方面...

谷歌的新CNN特征可视化方法,构造出一个华丽繁复的新世界

深度神经网络解释性不好的问题一直是所有研究人员和商业应用方案上方悬着的一团乌云,现代CNN网络固然有强大的特征抽取能力,但没有完善的理论可以描述这个抽取过程的本质,人类也很难理解网络学到的表征。 当然了,研究人员们从来都不会放弃尝试。IMCL 2017的较佳论文奖就颁给了 Pang Wei Koh 和 Percy Liang的「Understanding Black-box Predictions via Influence Functions」,...

如何成为一名无人驾驶工程师

作者 | 刘少山 无人驾驶作为一项新兴技术,落地为产品需要大量算法、工程、产品贯通的AI全栈人才。笔者在最近一年招聘中发现,许多技术方向的同学对人工智能既爱又畏惧,一方面觉得这是未来,另一方面又觉得很难而不敢触碰。懂工程的同学做算法时有很大的畏惧感,而专注算法的同学又常常容易陷入某个算法而缺乏工程落地能力。 这次笔者以一个从业者角度来与大家聊一下如何入...