云南龙网

  1. 首页 > 云知道 > >

Deeplab,deeplab( 四 )

云知道


图 1：左图是 L = 12 时的网络级搜索空间 。灰色节点表示固定的「stem」层，沿着蓝色节点形成的路径表示候选网络级架构 。右图展示了搜索过程中，每个单元是一个密集连接的结构 。5 实验结果图 3：使用本研究提出的分层神经架构搜索方法找到的最优网络架构和单元架构 。灰色虚线箭头表示每个节点处具备最大 β 值的连接 。
atr 指空洞卷积（atrous convolution），sep 指深度可分离卷积（depthwise-separable convolution） 。图 4：在 10 次随机试验中，40 个 epoch 中架构搜索优化的验证准确率 。表 2：不同 Auto-DeepLab 模型变体在 Cityscapes 验证集上的结果 。
F：控制模型容量的 filter multiplier 。所有 Auto-DeepLab 模型都是从头开始训练，且在推断过程中使用单尺度输入 。表 3：Cityscapes 验证集结果 。研究采用不同的训练迭代次数（50 万、100 万与 150 万次迭代）和 SDP（Scheduled Drop Path）方法进行实验 。
所有模型都是从头训练的 。表 4：模型在推断过程中使用多尺度输入时在 Cityscapes 测试集上的结果 。ImageNet：在 ImageNet 上预训练的模型 。Coarse：利用粗糙注释的模型 。表 5：PASCAL VOC 2012 验证集结果 。本研究采用多尺度推理（MS，multi-scale inference）和 COCO 预训练检查点（COCO）进行实验 。
在未经任何预训练的情况下，本研究提出的最佳模型（Auto-DeepLab-L）超越了 DropBlock 20.36% 。所有的模型都没有使用 ImageNet 图像做预训练 。表 6：PASCAL VOC 2012 测试集结果 。本研究提出的 AutoDeepLab-L 取得了可与众多在 ImageNet 和 COCO 数据集上预训练的顶级模型相媲美的结果 。
表 7：ADE20K 验证集结果 。在推断过程中使用多尺度输入 。? 表示结果分别是从他们最新的模型 zoo 网站获得的 。ImageNet：在 ImageNet 上预训练的模型 。Avg：mIOU 和像素准确率的均值 。图 5：在 Cityscapes 验证集上的可视化结果 。最后一行展示了本研究提出方法的故障模式，模型将一些较难的语义类别混淆了，如人和骑车的人 。
源于人脑的深度学习，到底是怎样学习的？
摘要： 深度学习可以完成需要高度抽象特征的人工智能任务，如语音识别、图像识别和检索、自然语言理解等 。深层模型是包含多个隐藏层的人工神经网络，多层非线性结构使其具备强大的特征表达能力和对复杂任务建模能力 。训练深层模型是长期以来的难题，近年来以层次化、逐层初始化为代表的一系列方法的提出给训练深层模型带来了希望，并在多个应用领域获得了成功 。
深层模型的并行化框架和训练加速方法是深度学习走向实用的重要基石，已有多个针对不同深度模型的开源实现，Google、Facebook、百度、腾讯等公司也实现了各自的并行化框架 。深度学习是目前最接近人脑的智能学习方法，深度学习引爆的这场革命，将人工智能带上了一个新的台阶，将对一大批产品和服务产生深远影响 。
1 深度学习的革命人工智能(ArTIficial Intelligence)，试图理解智能的实质，并制造出能以人类智能相似的方式做出反应的智能机器 。如果说机器是人类手的延伸、交通工具是人类腿的延伸，那么人工智能就是人类大脑的延伸，甚至可以帮助人类自我进化，超越自我 。人工智能也是计算机领域最前沿和最具神秘色彩的学科，科学家希望制造出代替人类思考的智能机器，艺术家将这一题材写进小说，搬上银幕，引发人们无限的遐想 。
然而，作为一门严肃的学科，人工智能在过去的半个多世纪中发展却不算顺利 。过去的很多努力还是基于某些预设规则的快速搜索和推理，离真正的智能还有相当的距离，或者说距离创造像人类一样具有抽象学习能力的机器还很遥远 。近年来，深度学习（Deep Learning）直接尝试解决抽象认知的难题，并取得了突破性的进展 。

推荐阅读


上一篇：长期佩戴耳机的危害,耳机戴久了有什么危害

下一篇：iPhone11支持5G吗,苹果11支持5g吗