【深度学习|AI越来越强，但我们快要养不起了】
一种策略是 ， 使用为深度学习专门设计的处理器 。 在过去10年中 ，CPU让位给了GPU、现场可编程门阵列和应用于特定程序的集成电路 。 这些方法提高了专业化的效率 ， 但牺牲了通用性 ， 面临收益递减 。 长远看来 ， 我们可能需要全新的硬件框架 。另一种减少计算负担的策略是 ， 使用更小的神经网络 。 这种策略降低了每次的使用成本 ， 但通常会增加训练成本 。 二者如何权衡取决于具体情况 。 比如广泛应用的模型应当优先考虑巨大的使用成本 ， 而需要不断训练的模型应当优先考虑训练成本 。 元学习有望降低深度学习训练成本 。 其理念是 ， 让一个系统的学习成果应用于多个领域 。 例如 ， 与其分别建立识别狗、猫和汽车的系统 ， 不如训练一个识别系统并多次使用 。 但是研究发现 ， 一旦原始数据与实际应用场景有微小的差异 ， 元学习系统的性能就会严重降低 。 因此 ， 全面的元学习系统可能需要巨大的数据量支撑 。
一些尚未发现或被低估的机器学习类型也可能降低计算量 。 比如基于专家见解的机器学习系统更为高效 ， 但如果专家不能辨别所有的影响因素 ， 这样的系统就无法与深度学习系统相媲美 。 仍在发展的神经符号等技术 ， 有望将人类专家的知识和神经网络的推理能力更好地结合 。 正如罗森布拉特在神经网络诞生之初所感受到的困境 ， 今天的深度学习研究者也开始面临计算工具的限制 。 在经济和环境的双重压力下 ， 如果我们不能改变深度学习的方式 ， 就必须面对这个领域进展缓慢的未来 。 我们期待一场算法或硬件的突破 ， 让灵活而强大的深度学习模型能继续发展 ， 并为我们所用 。
（据《环球科学》 编译：郑昱虹）
本文来自：科技日报数字报
相关经验推荐
- 电影|深度剖析：人类是如何沦为手机的奴隶
- iphone13|这次iPhone13真带了一个好头，国产机不得已，只能学习
- |为什么大家越来越不着急换手机？
- 中兴|中兴三大品牌深度整合并邀请吴京代言，新一代蓝牙耳机已经发布
- 机器学习|?机器学习和人工智能的应用，在心脏病学的许多领域实现了更快的诊断
- 台电|深度体验丨iQOO 9 Pro距离“全能旗舰”只有一步之遥？
- 三星电子|5G手机在华销量惨淡，三星试图重振中国市场，华为处境越来越危险
- VR|疫情当下，足不出户，家用VR多用机，健身减肥娱乐学习一机多用！
- |都希望小米越做越好，长远看小米在技术的竞争中，会越来越乏力
- 珠海|国内企业真该好好学习下，珠海佳能关厂补偿丰厚