深度学习最近有哪些突破近期深度学习有很多发展,没法在这里一一描述。有些想法吸引了我的注意,我也参与了其中一些研究项目。在我看来,最重要的进展是对抗训练,也叫做生成式对抗网络。对抗训练最初由伊恩·古德费
深度学习最近有哪些突破
近期深度学习有很多发展,没法在这里一一描述。有些想法吸引了我的注意,我也参与了其中一些研究项目。
在我看来,最重要的进展是对抗训练,也叫做生成式对抗网络。对抗训练最初由伊恩·古德费洛提出,当时他在蒙特利尔大学,师从约舒亚·本希奥。从蒙特利尔大学毕业之后,古德费洛加入了谷歌大脑团队,最近又加入了OpenAI团队。
我认为对抗训练及其近期发展是过去十年来机器学习最有趣的想法。
对抗训练即同时训练两个神经网络。第一个是鉴别器,表示为D(Y)。举例来说,鉴别器输入图像,然后输出衡量该图像Y看起来是否“自然”的标量。进行对抗训练时,可以把D(Y)看作当Y是实际样本(例如来自数据库的图像)时取较低值(例如接近0)以及Y不是实际样本时取正值(例如如果它是嘈杂或奇怪的图像)的某种能量函数。第二网络是生成器,表示为G(Z),其中Z通常是指简单分布(例如高斯分布)中的随机抽样向量。生成器的作用是生成图像以便训练D(Y)函数生成正确的形状。真实图像实像的D(Y)值较低,其他任何图像的D(Y)比较高。在训练期间,D显示的是真实图像实像,并且可以调整参数使输出值更低。然后D会显示G生成的图像,并且调整参数使其输出的D(G(Z))值较大(遵循一些客观预定义函数的梯度)。但G(Z)会训练自己生成图像来愚弄D,让D以为那些图像是真实的。G(Z)通过使其生成的每个样本获得D相对于Y的梯度来实现的。换句话说,G(Z)试图最小化D的输出,而D却试图把它最大化。因此训练的名称是对抗训练。
最初的公式使用了一个相当复杂的概率框架,这是对抗训练的要点。
为什么对抗训练这么有趣呢?因为它允许我们将鉴别器作为无监督的“密度估计器”来训练,即对比度函数给出低值数据和高值输出。这种鉴别器必须开发出良好的内部数据表示才能解决好这个问题。例如可以把鉴别器用作分类器的特征提取器。
但也许更有趣的是,生成器可以被视为参数化实际数据的复杂表面:给它一个矢量Z,将它映射到数据歧管上的一个点。有记录证明确实有人实施了它,例如生成卧室的照片,在Z向量空间中的脸上做算术:[戴眼镜的男人]-[没眼镜的男人]+[没有眼镜的女人]=[戴眼镜的女人]。
《人工智能研究基础》上已经发表了一系列有趣的论文:
l马修等。深度卷积多尺度视频预测框架:...
最后一篇是利用对抗训练的视频预测。它解决了一个非常重要的问题,即当你训练神经网络或任何其他模型来预测未来时,如果会出现几个可能的未来,以传统方式(如最小二乘法)训练的网络将预测可以预测这几个可能的未来的平均值。在进行视频预测时,传统的训练方式会产生模糊的混乱。而对抗训练可以让系统生成任何它想要的结果,只要这种结果位于鉴别器喜欢的集合内。这就解决了在不确定条件下进行预测的“模糊性”问题。
人工智能需要什么样的技术突破
人工智能的圣杯——创造接近模仿人类智能的软件——仍然遥遥无期。但是2014年,机器学习软件取得了重大进步,可以从经验中获得能力。从生物技术到计算机等领域的公司转向这些新技术来解决棘手的问题或开发新产品。
人工智能领域最引人注目的研究成果来自深度学习领域,其中包括使用原始模拟神经元处理数据。
深入学习的工作通常集中在图像上,这对人类来说很容易理解,但对软件来说很难破译。脸谱网的研究人员用这种方法制造了一个可以告诉几乎和人类一样,两张不同的照片是否描绘了同一个人。谷歌炫耀可以用短句描述场景的系统。
这样的结果导致了领先的计算公司激烈竞争人工智能研究人员。谷歌为一家名为深度思维年初。当...的时候麻省理工学院技术评论今年晚些时候,他找到了公司创始人戴密斯·哈萨比斯,解释了DeepMind的工作有多深入由对人脑的突破性研究形成。
昵称为“中国谷歌”的搜索公司百度也在人工智能上投入巨资。它在硅谷建立一个实验室将现有研究扩展到深度学习,并与谷歌和其他公司竞争人才。斯坦福人工智能研究员和曾经的谷歌合作者吴恩达被雇佣来领导这项工作。在我们特征长度轮廓他解释了人工智能如何将从未上过网的人变成百度网络搜索和其他服务的用户。
机器学习也是今年来自计算巨头、小型初创企业和计算机行业以外公司的新产品的来源。
微软利用其对语音识别和语言理解的研究创建虚拟助手Cortana,它内置于移动版的视窗中。该应用程序试图与人们进行来回对话。这既是为了让它更可爱,也是为了帮助它了解出错时出错的地方。
初创公司推出了将机器学习用于各种任务的产品,如帮助你怀孕,让你控制家庭带声音的电器,以及通过短信制定计划。
人工智能最有趣的一些应用出现在医疗保健领域。国际商用机器公司现在接近看到它的一个版本危险!获奖的沃森软件帮助癌症医生使用基因组数据为患者选择个性化治疗计划。将机器学习应用于基因数据库使一家生物技术公司能够发明一种非侵入性测试,防止不必要的手术。
随着谷歌、亚马逊和其他大型计算公司开始涉足基因数据领域,在基因数据上使用人工智能技术可能会变得更加普遍存储数字化基因组。
然而,最先进的机器学习软件必须经过大型数据集的培训,这是非常耗能的,即使是对于拥有复杂基础设施的公司来说也是如此。这是一种新型的激励工作“神经形态”芯片松散地模仿神经科学的想法。这些芯片可以更有效地运行机器学习算法。
今年,国际商用机器公司开始生产一种原型大脑启发芯片据说可以大量使用来建造一种专门用于学习的超级计算机。通用汽车公司和波音公司拥有的HRL研究实验室开发的一种更紧凑的神经形态芯片,乘坐小型无人驾驶飞机飞行。
所有这些人工智能的快速进步让一些人思考这项技术可能带来的负面影响和长期影响。一名后来加入谷歌的软件工程师警告说既然机器可以破译图像,我们对隐私的本能必须改变。
展望未来,生物技术和卫星企业家马蒂娜·罗斯布拉特预测我们的个人数据可以用来创造智能数字二重身有自己的生活。西雅图艾伦脑科学研究所的首席科学官、神经学家克里斯托弗·科赫警告说,尽管智能软件永远不会有意识,如果设计不正确,它仍然会伤害我们。
为什么这两年人工智能突然火起来,是哪些技术方面得到巨大突破了吗
技术方面是深度学习和神经网络,但这不是根本原因,因为技术在大约10年前已经成熟。
真正的原因的AlphaGo战胜人类棋手所带来的传播效应!
人工智能在过去几十年中经历过几次沉浮,而AlphaGo的成功再次激发起人们对这项已经有60年的技术无限想象。事实上,人工智能并不神奇,其本质只是一种“基于大数据的统计学分类器”,它可以在特定的垂直领域和场景超过人类,但并不意味着比人类智能更高级。AlphaGO可能战胜人类是因为围棋是一种“封闭”的场景,计算机由于在计算速度和存储容量的优势,可以采用了类似于“穷举”的办法找到全局的最优解;而在其它需要常识和逻辑判断的“开放”的场景中,人类大大优于人工智能,并且只需要“小数据”就能做出判断与决策。
人类能否利用ai技术突破超光速
目前来说,人类不能利用AI技术突破光速。
首先,光速是自然界中的一个基本常数,是宇宙中信息传递速度的极限。根据现代物理学理论,没有任何物质可以超过光速。
其次,AI技术是一种模拟人类智能的技术,它可以帮助人类解决各种问题,提高工作效率和生活质量。但是,AI技术并不是万能的,它不能突破自然规律的限制。
因此,尽管AI技术在许多领域取得了显著的进展,但它不能帮助人类突破光速限制。
人工智能技术在算法上很难再取得重大突破,发展的瓶颈还能破解吗
更正一下,人工智能一直在算法上一直再进步,也一直在突破!
从语音识别,自然语言处理,到计算机视觉。如果你关注最新进展,你就会发现很多有意义的想法,以及可能引领下一次大突破的工作。所以也流谈不上瓶颈,瓶颈只是留给一般人的,牛逼的人都是没有困难创造困难也要前进的。
另外可以进小编主页看看最新的一些知识与视频,持续更新人工智能领域有趣的知识与视界。