经验啦

  1. 首页 > 科技 > >

软件|地平线AI芯片技术专场第2讲主讲回顾( 二 )

it芯片重器软件算法C++ai芯片


当到了软件2.0时代 ， 面临的是一个完全不同的开发模式 。 首先需要定义问题 ， 同时需要大量的数据 ， 数据用来表示几种不同的情况；然后再设计一个适当的模型 ， 模型能够对问题做分类或检测；之后在大量标注数据上做模型训练 ， 训练完成后再部署集成 ，在场景中看大概有多少结果是正确的 ， 多少结果是错误的；再持续的采集数据 ， 做标注、训练 ， 或者更改模型的设计 ， 来解决这些错误的badcase 。
在过程中 ， 没有一个程序员能把问题解法想得十分清楚 。 比如识别一只猫 ， 猫的毛发是弯的还是直的、猫的颜色是花的还是纯色 ， 猫的两只耳朵是竖着的还是弯着的 ， 程序员并不是通过这种方式解决问题 。 从每一个像素点定义的角度来看 ， 这些问题是一个数据驱动的问题 ， 即通过100万张或1000万张不同的图片给模型做训练 。 在这种模式下 ， 程序员不需要对问题应该怎么解有非常深刻的认识 ， 也不需要知道计算机每一步该怎么操作 ， 只需关注卷积神经网络的容量和里面的信息 ， 反向传播时梯度是怎样传播的 ， 激活函数应该怎么设置等问题 。

软件2.0时代的方法可以让机器像人一样看懂和听懂周围的世界 ， 所以它有广泛的应用场景 ， 而且随着摩尔定律的持续进步 ， 有非常大的成长空间 。 关于自动驾驶芯片的好用 ， 也应该围绕着软件2.0的开发范式展开 ， 因为1.0时代已经有四五十年的积累 ， 各种工具已经非常完善 ， 在此基础上更多的是一些微创新 ， 而2.0时代则是一种底层方法论层面的颠覆式创新 。
在这套开发范式下 ， 对于机器来说 ， 软件2.0的技术可以让它感知周围的世界 ， 知道自己在世界里处于什么位置 ， 当世界里有很多自主移动的目标时 ， 可以预测周围的目标的运动轨迹 ， 可以规划自身的动作是绕开目标 ， 还是直着前进或停下来 ， 进而控制自己完成动作 。
1.关注软硬结合前提下的软硬解耦
首先回顾下历史 ， 在看历史时会发现一个很重要的点是“应用对性能的追求没有止境” 。 在这种情况下 ， 很多芯片一代一代的往前走 。 从1970年开始 ， 各种各样的芯片、计算设备层出不穷 ， 也造就了很多PC时代 。

上图左边的蓝色统计表来自于2021年ACM通讯的一个统计结果 ， 该图表明在过去的20多年里 ， 微处理器性能的提升在逐渐放缓 。 同时站在供应商的角度 ， 从黄色统计表中可以看出 ， 单位研发投入下微处理器的性能提升也在逐渐变小 ， 所以未来在通用处理器上的研发投入产出比会越来越低 。 越来越多的公司会把更多精力投在多核和异构加速器上 ， 右图就是一个很好的证明 。
由于人们对性能的追求没有止境 ， 单个芯片上的晶体管数量会呈指数级增长 。 而单个线程的性能 ， 在2010年左右逐渐放缓 。 因为物理条件的限制 ， 频率也不再增长 ， 并随着工艺制成的变化 ， 整个芯片的功耗也处于一个停滞的状况 。 与此同时 ， 单个芯片里的逻辑处理器核心变得很多 ， 这会导致我们在追求非常高延迟增强时 ， 由于单线程的性能没有大的变化 ， 使得我们无法通过单线程的通用处理器达到很好的效果 ， 只能把代码做并行 ， 或引入异构加速器来实现性能优化 。

虽然单个线程的性能处于增长缓慢甚至停滞的状态 ， 但在软件和算法层面 ， 还有非常多的空间可以做优化 。 上图上半部分是对矩阵乘例子的优化 。 当我们用Python实现矩阵乘时 ， 假设它的速度为1 ， 把 Python代码改成Java或C时 ， 可以看到有11倍甚至47倍的提升 。 这是语言之间的变化 ， 只是用不同的编程语言改写 ， 与芯片架构无关 。 之后的循环并行利用到芯片上的多核；并行分置则是把矩阵分块 ， 然后放在缓存里；再用自动向量化 ， 自动化的利用芯片里已经提供的数据流并行CMD指令；当使用较宽的AVX向量时 ， 在代码里面直接写AVX函数调用 ， 最多可以得到6万多的加速比 。 所以 ， 当我们围绕软件和算法的特点挖掘更多硬件特性时 ， 就能通过这种软硬结合的方式获得非常大的性能提升和极具性价比的计算平台 。

相关经验推荐


上一篇：三星|换个角度看中国手机市场：单机平均售价谁为先

下一篇：Google|谷歌巨资十年磨一剑，突破性逆转衰老技术进入人体临床