什么是《Tiny AI》?
Tiny AI集成了低功耗、小体积NPU和MCU,可适应市场上各种主流3D传感器。并支持结构光、ToF、双目立体视觉等三种主流3D传感技术,满足语音、图像等识别需求。
发布日期:2022年9月21日
Tiny AI的开发:
虽然人工智能带来了巨大的技术创新,但问题是:为了构建更强大的算法,研究人员正在使用越来越多的数据和计算能力,并依赖于集中的云服务。它不仅会产生惊人的碳排放,还会限制人工智能应用的速度和隐私。
模型越复杂,参数越多,推理精度越高。因此,需要非常高性能的计算设备来辅助训练和推理的计算。因此,如果要将AI应用放在计算能力低、内存少的mcu上,只能选择更小的AI应用或更小的机器学习算法,甚至是超微型深度学习模型进行推理。在不失去其功能的情况下,缩小现有的深度学习模型。与此同时,新一代的专用人工智能芯片有望将更多的计算能力整合到更紧凑的物理空间中,并以更少的能源训练和运行人工智能。
什么是《Tiny AI》?
微型AI是指人工智能与机器学习相结合的一种新模型,它利用压缩算法来最大限度地减少大量数据和计算能力的使用。微型人工智能是机器学习的一个新领域,旨在缩小人工智能算法的规模,尤其是那些迎合语音或语音识别的算法。它还减少了碳排放。
微小AI或微小ML的组成部分是什么?
- 小资料:
研究人员在机器学习中通过蒸馏压缩转换的大数据被称为微小数据。微数据的使用是智能数据使用的代名词,通过网络修剪压缩大数据是数据转换(从大数据到微数据)的固有组成部分。- 通过代理建模等技术减少数据。
- 替代数据源。
- 无监督学习方法。
- 压缩策略,如网络修剪。
- 人工智能辅助数据处理。
- 小的硬件:
由于技术的进步,微型人工智能可以帮助开发人员生产微型硬件防火墙和路由器。即使在旅行时也要保证设备的安全。- 新架构。
- 新结构,如3D集成系统。
- 新材料。
- 新的包装解决方案。
- 微小的算法:
Tiny Algorithm或Tiny Encryption Algorithm是一种分组密码,其优点在于简单和易于实现。微小的算法通常只用几行代码就能提供所需的结果。- 新的边缘学习方法。
- ANN架构的替代方案。
- 传感器融合策略和GPU编程语言。
- 自适应推理技术。
- 迁移学习方法。
为什么你需要小型AI?
训练一个复杂的人工智能模型需要大量的努力,因为人工智能的采用跨越了多个领域。高效和绿色技术很重要。GPU(图形处理单元)是产生热量的贡献者。由于二氧化碳的排放,有助于翻译、写作、语音和语音识别的新人工智能模型产生了不利影响。
为了使人工智能模型达到最大的准确性,开发人员负责产生大约700-1400磅的二氧化碳。大规模的自然语言处理实验正在对环境造成严重破坏。BERT是一个基于transformer的机器学习模型,它可以帮助b谷歌处理产生大约1400磅二氧化碳的会话查询,这是迄今为止最大的碳排放人工智能模型。因此,迫切需要微型人工智能,以各种可能的方式减少稀释环境的碳排放。
微型AI有哪些应用?
- 财务:
许多投资银行正在利用人工智能进行数据收集和预测分析。微型人工智能可以帮助金融机构将大型数据集转换成较小的数据集,以简化预测分析的过程。 - 教学领域:
基于简单机器学习算法的设备有助于减少教师的工作量。VR头显也被广泛使用,为学生提供了丰富的体验。 - 制造:
随着技术的进步,机器人将与人类合作,减轻他们的工作量。Tiny ML可以通过分析传感器数据来帮助公司。 - 医疗保险:
在我们收集数据并将其转化为可操作见解的能力提高的推动下,医疗保健有望实现个性化医疗。在基因组学中,数据使用、算法和硬件的改进导致更快的结果。互联健康解决方案通过可穿戴、可植入、可摄入或非接触式技术轻松收集医疗级数据,用于临床研究或持续监测。利用人工智能为患者提供个性化治疗。 - 物流:
微型人工智能在自动驾驶和联网汽车中有更多的应用,例如:为了提高安全性,座椅上的电容传感器和仪表板上的雷达系统将持续检查驾驶员的健康状况。借助手势识别技术,只需轻轻一挥手腕就能控制车内娱乐系统。对于依赖多个传感器来获取周围环境完整图像的自动驾驶汽车来说,通过协作传感器融合来增强洞察力至关重要。
Tiny AI或Tiny ML的优势:
- 节能:
人工智能模型的二氧化碳排放量为284吨,是平均成本生命周期排放量的5倍。微型人工智能产生的碳排放量最小,因此不会导致全球变暖。Tiny BERT是BERT的节能模型,比原来的BERT小7.5倍。它甚至比b谷歌的主要BERT模型高出96%。 - 成本效益:
人工智能模型的成本非常高。这些模型花费了很多钱来确保最大的准确性。与大预算的语音助手相比,微型人工智能模型便宜。 - 快速:
与传统AI模型相比,Tiny AI不仅节能廉价,而且速度更快。与BERT的原始模型相比,Tiny BERT的整体速度快了9.4倍。微型人工智能是人工智能的未来。它节能、经济、快捷。ML在很多地方都有应用。每个应用程序都有机器学习。深度学习可以用简单的小算法实现高能效。所述语音接口具有唤醒词系统,用于激活所述语音助手的检测任务。过去,语音助理系统是在大数据集上开发的,而最近开发的全速识别系统可以在Pixel手机上本机运行,这对小型ML研究人员来说是一个很好的工具和突破。
2022年9月21日发布
来源:analyticssteps