什么是边缘计算?

什么是边缘计算?

边缘计算使需求更接近消费者，越理想。当我想吃东西的时候，我想花时间走到街角的甜甜圈店，我觉得我很匆忙;如果你把一盒甜甜圈放在桌子附近，你可以用手拿它，你会立即满足。

边缘计算也是如此。在处理数据的过程中，将数据传输给运行在云环境中的人工智能应用程序，得到答案必然会比较慢;如果它被传递到相邻的边缘服务器，它就像直接从拿起一个糖衣甜甜圈在粉红色的包装盒在手一样简单和方便。

此时此刻，你很有可能会享受到边缘计算带来的便利，而这种体验就来自于你口袋里的智能手机。处于电信网络“边缘”的最新智能手机可以处理语音响应内容，并以更智能的方式拍摄更漂亮的照片。

边缘计算已经被谈论了几十年。其概念是尽可能接近源来获取和处理数据。边缘计算需要在大量流数据的地方进行处理，比如自动驾驶汽车、工厂的机器人、医院的医疗成像机、零售商店收银台的摄像头等，这些地方收集的数据只有几gb甚至几tb，应用项目依赖于边缘计算技术。

据估计，到2025年，将有1500亿个机器传感器和物联网设备不断传输各种数据，所有这些数据都需要处理。5G网络的出现比4G网络快十倍，开辟了增加人工智能服务数量的可能性，这进一步增加了对边缘计算的需求。

智能手机让一切都变得更智能

谷歌、苹果和三星的新款智能手机为了更好地理解用户的问题，增加了更强大的人工智能处理能力，并使用计算摄影技术，让用户拍摄的照片在几毫秒内看起来更好看。仅从物联网设备流出的海量数据量就远远高于人们使用智能手机产生的数据量。

许多联网车辆、机器人、无人机、移动设备、相机和物联网传感器，以及医疗成像设备，都对边缘计算提出了更高的要求。这些庞大计算操作的工作负载和它们使用的海量数据，需要部署人工智能进行高性能边缘计算。目前的人工智能计算操作以分秒为单位进行竞争，需要边缘计算来减少数据在远程服务器上进行处理的往返传输所带来的延迟和带宽问题。

边缘计算的工作原理

集中管理服务器的数据中心通常选址在空间成本和电费成本较低的地方。即使使用最高速度的光纤网络，数据传输速度也不会超过光速。在远程传输数据时，数据与数据中心之间的物理距离成为延迟的原因。

边缘计算可以解决这个问题。

边缘计算可以在多个网络节点上运行，缩小数据和处理器之间的物理距离，以减少瓶颈，加快应用程序的执行速度。

数十亿个配备小型嵌入式处理器的物联网和移动设备正在网络上运行。它们最适合处理基本的应用程序，如电影。

如果世界各地的各个行业和市政当局不使用人工智能来处理物联网设备产生的数据，它就会是安全的。然而，他们需要开发和运行使用密集计算的模型，这需要传统的边缘计算。采取新的方法。

边缘计算对城市有什么用?

许多大型企业和创业公司已经协助市政部门在网络边缘添加人工智能，例如在一些城市开发人工智能应用，以缓解交通拥堵，提高交通安全。Verizon使用NVIDIA Metropolis IoT应用框架，结合Jetson的深度学习能力，分析多个流媒体视频数据，以找到改善交通流量、提高行人安全性和解决大都市地区停车问题的方法。

加拿大的一家初创公司Miovision Technologies使用深度神经网络来分析自己的摄像头和城市基础设施的数据，以优化控制交通信号，保持车辆行驶。

NVIDIA Jetson的紧凑型超级计算模块与NVIDIA Metropolis提供的改进洞察相结合，可以加速Miovision和其他公司在该领域的研究成果。高效节能的Jetson可以同时处理多个传入的电影内容，供人工智能进行后续处理。这种组合为网络瓶颈和交通阻塞提供了另一种解决方案。边缘计算也在扩大。NVIDIA Metropolis等工业应用框架和第三方人工智能应用程序运行在NVIDIA EGX平台上，以获得最佳性能。

边缘计算是人工智能的优势

将边缘计算用于人工智能有许多优势，例如将人工智能计算技术带到数据生成的地方，包括智能零售、医疗保健、制造业、交通和智能城市。

这种计算领域的变革为企业提供了新的服务机会，提高了企业的运营效率和成本节约。与运行CPU机架的传统边缘服务器不同，从Jetson系列超级计算模块到全机架NVIDIA T4服务器，更轻更小的NVIDIA EGX平台提供了跨NVIDIA AI兼容性。

运行人工智能边缘计算的企业可以灵活地在NVIDIA Jetson Nano上部署低延迟的人工智能应用程序。NVIDIA Jetson Nano的紧凑型超级计算机功耗仅为几瓦，每秒可执行5000亿次计算，用于图像识别等任务。一组NVIDIA T4机架服务器可以执行每秒超过10千兆比特的运算，用于要求最高的实时语音识别和其他具有重计算能力的人工智能任务。

围绕人工智能驱动的边缘网络进行更新并不难。EGX软件堆栈运行在Linux和Kubernetes上，可以从云或边缘服务器远程更新，以不断改进应用程序。NVIDIA EGX服务器也针对CUDA加速容器进行了调优。

企业边缘计算和人工智能服务

世界上最大的零售商已经开始使用边缘人工智能来建立智能零售店。智能视频分析、人工智能库存管理、顾客和店铺分析，这些功能共同让零售商享受更高的利润，为顾客创造享受更好体验的机会。沃尔玛使用NVIDIA EGX平台可以立即计算每秒产生的1.6 TB数据。它可以使用人工智能来完成各种任务，比如自动提醒员工补充商品，回收购物车，或者打开新的结账渠道。

数百个连接的相机可以为人工智能图像识别模型提供数据，数据由NVIDIA EGX在本地处理，而Jetson Nano在连接EGX和NVIDIA AI在云端放片时可以处理远程小网络。店内的走道由全自动、可对话的人工智能机器人监控。这些机器人配备了Jetson AGX Xavier，并运行Isaac进行同步定位和地图构建(SLAM)导航。所有这些功能都与云端的EGX或NVIDIA AI兼容。无论使用哪种应用程序，NVIDIA T4和Jetson GPU都可以在边缘提供智能视频分析和机器学习应用程序的强大组合。

智能设备与传感器融合

工厂、零售商、制造商和汽车制造商产生的传感器数据可以通过交叉引用来提高服务质量。
零售商可以通过整合各种传感器数据来发现新的服务项目。机器人不仅可以使用语音和自然语言处理模型与客户沟通，还可以使用输入视频来运行姿态估计模型。通过连接语音和手势传感器信息，机器人可以帮助机器人更多地了解客户在寻找什么产品或方向。

结合各种传感器数据可以为汽车制造商开辟新的用户体验，并获得竞争优势。汽车制造商可以使用姿态估计模型来了解司机视线的方向，也可以使用自然语言模型来理解司机对汽车GPS地图发出的命令。

例如，司机询问7-11便利店的位置。这时，他可以在GPS地图上指向一家7-11便利店，然后说“去这家店买甜甜圈”。在传感器融合和边缘人工智能技术的帮助下，汽车将确定驾驶员的目的地。

在游戏中使用边缘计算

玩家以其高性能、低延迟的计算能力而闻名，在边缘提供高质量的云游戏可以满足他们的需求。下一代游戏应用项目使用虚拟现实、增强现实、人工智能等技术，这确实是一个艰巨的挑战。

电信服务提供商已开始采用NVIDIA RTX服务器，使世界各地的玩家能够享受通过光线追踪和人工智能增强的电影般的图像质量。这些服务器支持NVIDIA的云游戏服务GeForce NOW，可以将功能不足或兼容性较差的硬件转变为网络边缘的强大GeForce游戏PC。台湾的老大哥，韩国的LG U +，日本的软银和俄罗斯的Rostelecom都宣布了他们打算向云游戏客户推出这项服务。

什么是人工智能边缘计算服务?

在边缘人工智能技术的帮助下，电信运营商可以开发为客户提供的下一代服务，创造新的收入来源。
电信运营商使用NVIDIA EGX可以通过图像识别模型分析输入摄像头的视频内容，帮助解决从人流、监控商店货架到物流配送的一切问题。就像7-11便利店在周六早上卖光了货架上的甜甜圈一样，商店经理会收到提醒，他们需要补充库存。