什么是边缘计算?
边缘计算让需求更接近消费者,越理想。当我想吃东西的时候,我想花时间走到街角的甜甜圈店,我觉得我在赶时间;如果你在桌子旁边放一盒甜甜圈,你可以用手去拿,你马上就会感到满足。
边缘计算也是如此。在处理数据的过程中,将数据传输给运行在云环境中的人工智能应用程序,将不可避免地会较慢地得到答案;如果把它传递到相邻的服务器边缘,就像直接从粉色包装盒里拿起一个糖霜甜甜圈一样简单方便。
此时此刻,你很有可能会享受到边缘计算带来的便利,而这种体验来自你口袋里的智能手机。处于通信网络“边缘”的最新智能手机可以处理语音响应内容,并以更智能的方式拍摄更漂亮的照片。
几十年来,已经谈过了Edge Computing。该概念是以尽可能接近的源来获取和处理数据。Edge Computing需要在大量流动数据的地方进行处理,例如自动驾驶汽车,工厂中的机器人,医院医疗成像机器以及零售店的结账计数器等的摄像机,在几千兆字节的地方收集甚至甚至几个数据都是收集的应用程序项目依赖于边缘计算技术。
据估计,到2025年,将有1500亿个机器传感器和物联网设备,将持续传输各种数据,所有这些数据都需要处理。5G网络的出现速度是4G网络的10倍,开启了人工智能服务数量增加的可能性,这进一步增加了对边缘计算的需求。
智能手机的一切都变得更聪明谷歌、苹果和三星的新智能手机增加了更强大的人工智能处理能力,以便更好地理解用户的问题,并使用计算摄影技术,让用户拍摄的照片在几毫秒内看起来更好。只有从物联网设备流出的海量数据远高于人们使用智能手机产生的数据量。
许多联网的车辆、机器人、无人机、移动设备、摄像头、物联网传感器以及医疗成像设备都对边缘计算提出了更高的要求。这些庞大的计算操作和使用的海量数据的工作量需要部署人工智能进行高性能边缘计算。目前的人工智能计算运算是分秒竞争的,需要进行边缘计算,以减少远程服务器上数据来回传输进行处理所带来的延迟和带宽问题。
如何使用边缘计算工作集中管理服务器的数据中心通常位于具有较低空间成本和低电力成本的地方。即使使用最高速度光纤网络,即使使用最高速度光纤网络,数据传输速度也不会比光速更快。当远程传输数据时,数据和数据中心之间的物理距离成为延迟的原因。
边缘计算可以解决这个问题。边缘计算可以在多个网络节点上运行,缩小数据和处理器之间的物理距离,以减少瓶颈并加快应用程序的执行。
数十亿互联网和配备小型嵌入式处理器的移动设备正在网络周围运行。它们最适合处理电影等基本应用程序。
如果世界各地的各行各业和市政当局不使用人工智能来处理物联网设备生成的数据,它将是安全的。然而,他们需要开发和运行使用密集计算的模型,这需要传统的边缘计算。采取新的方法。
城市的边缘计算有什么用?许多大型企业和初创公司有助于市政部门在网络边缘添加人工智能,如在某些城市的人工智能应用的发展,以缓解交通拥堵和改善交通安全。Verizon使用NVIDIA Metropolis IoT应用程序框架,结合Jetson的深度学习能力,分析多个流式视频数据,找到改善交通流量的方法,提高行人安全,并解决大都市区的停车问题。
Miovision Technologies是加拿大的一个初创公司,使用深神经网络来分析自己的摄像机和来自城市基础设施的数据,以最佳地控制交通信号并保持车辆移动。
NVIDIA Jetson紧密型超级计算模块与NVIDIA Metropolis提供的改进洞察力相结合,可以加速Miovision等公司在该领域的研究成果。高效节能的Jetson可以同时处理多个传入的电影内容,人工智能可以进行后续处理。这种组合为网络瓶颈和流量拥塞提供了一种替代解决方案。边缘计算也在扩大。NVIDIA Metropolis等工业应用框架和第三方人工智能应用程序运行在NVIDIA EGX平台上,以获得最佳性能。
边缘计算是人工智能的优势使用边缘计算用于人工智能具有许多优点,例如将人工智能计算技术带到生成数据的地方,包括智能零售,医疗保健,制造,运输和智能城市。
计算领域的转型为企业提供了新的服务机会,提高了企业的运营效率和成本节约。与运行CPU机架的传统边缘服务器不同,从Jetson系列超级计算模块到全架NVIDIA T4服务器,打火机和较小的NVIDIA EGX平台提供了Cross-NVIDIA AI兼容性。
为人工智能运行边缘计算的企业可以灵活地部署在紧凑的NVIDIA Jetson Nano上的低延迟人工智能应用。NVIDIA Jetson Nano的紧凑超级计算机仅消耗几瓦功率,每秒可以执行500亿计算,以进行图像识别等任务。一组NVIDIA T4机架服务器可以为最苛刻的实时语音识别和其他具有较重计算的人工智能任务执行超过10千兆的运营。
围绕人工智能驱动的边缘网络进行更新并不困难。EGX软件栈运行在Linux和Kubernetes上,可以从云或边缘服务器远程更新,以不断改进应用程序。NVIDIA EGX服务器也针对CUDA加速容器进行了优化。
企业边缘计算和人工智能服务世界上最大的零售商已经开始使用边缘人工智能来构建智能零售店。智能视频分析,人工智能库存管理和客户和商店分析,这些功能允许零售商享受更高的利润,为客户创造机会,享受更好的体验。使用NVIDIA EGX平台的Walmart可以立即计算每秒生成的1.6 TB数据。它可以使用人工智能来完成各种任务,例如自动提醒员工补充商品,回收购物车或打开新的结账通道。
数百个连接的摄像机可以为人工智能图像识别模型提供数据,并且数据通过NVIDIA EGX本地处理,而Jetson Nano可以在连接到EGX和云中的NVIDIA AI时处理远程小型网络。全自动和会话人工智能机器人监控商店中的过道。这些机器人配备了Jetson Agx Xavier,并运行ISAAC以同时定位和地图建设(SLAM)导航。所有这些功能与云中的EGX或NVIDIA AI兼容。无论使用哪种申请,NVIDIA T4和Jetson GPU都可以在边缘提供智能视频分析和机器学习应用的强大组合。
智能设备传统融合由工厂,零售商,制造商和汽车制造商产生的传感器数据可以通过交叉引用来提高服务质量。
零售商可以通过整合各种传感器数据找到新的服务项目。机器人不仅可以使用语音和自然语言处理模型与客户进行交流,还可以使用输入视频运行姿态估计模型。通过连接声音和手势传感器信息,机器人可以帮助机器人更多地了解客户在寻找什么产品或方向。
组合各种传感器数据可以为汽车制造商开辟新的用户体验,并获得竞争优势。汽车制造商可以使用姿态估计模型来了解驾驶员视线的方向,他们还可以使用自然语言模型来了解驾驶员给汽车的GPS地图的命令。
例如,司机询问了7-11便利店的位置。此时,他可以指出GPS地图上的7-11便利店,然后说“去这家商店买甜甜圈”。借助传感器融合和边缘人工智能技术,汽车将确定驾驶员的目的地。
使用Edge Computing进行游戏玩家以其高性能、低延迟的计算能力而闻名,在边缘提供高质量的云游戏可以满足他们的胃口。新一代游戏应用项目将使用虚拟现实(vr)、增强现实(ar)、人工智能(ai)等技术,这是一项艰巨的挑战。
通信企业也开始使用NVIDIA的RTX服务器,通过光线追踪和人工智能提高了电影般的影像质量。这些服务器支持英伟达的云游戏服务GeForce NOW,它可以将功能不足或兼容性差的硬件转变为一个强大的GeForce游戏PC在网络边缘。台湾的老大哥、韩国的LG U +、日本的软银和俄罗斯的Rostelecom都宣布了他们打算向云游戏客户推出这项服务。
什么是人工智能优势计算服务?借助尖端人工智能技术,电信运营商可以开发提供给客户的下一代服务,创造新的收入来源。
使用NVIDIA EGX的电信运算符可以通过图像识别模型分析输入相机视频内容,以帮助解决来自人流,监控商店货架和物流分布的所有内容。像一个星期六早上的7-11便利店卖掉货架上的甜甜圈,商店经理将收到一个提醒,他们需要补货。