“边缘智能化”是Booz Allen对物联网的一个新兴趋势的定义——让传感器和设备充满在竞争环境中使其智能化。在低带宽,或者无网络的情况下,自主化和协调决策。智能化的边缘运营取决于设备的本地数据和其他协调设备,以及邻近的传感器,可以在没有连接到互联网的情况下,独立工作。独立运营计算资源,比如cloudlet,是实现边缘智能化案例的关键。Cloudlet是具有移动性的小型数据中心,位于企业的边缘,可以被附近的设备使用。在本文中,我们将介绍cloudlet,及其成为实现边缘智能化的相关性。
介绍
IT的半生,一直在压缩和加速许多技术的演变。当我们从主机转换到客户服务器,就有了抽象进化,而从多层系统转换到基于web的系统,也就是基础设施,就将业务逻辑和用户界面相分离。服务和基础设施的商品化,创建了云,移动计算和物联网,让我们可以进行边缘计算,并获得分布式计算的能力。这就将带来下一波的进化——“芯片作为一个平台”——随着边缘化的深入,这将在IT行业释放一个爆炸性的增长时代。“芯片即平台”将同时带来好处和挑战。例如,对于美国国防部将意味着:
·在无人机和其他平台上,更加复杂的传感器。这将推动智能ISR和边缘处理的需求,来缩短FPED周期。
·更大的攻击表面。快速增长的传感器数量,将继续推动网络防御和修复力的重要性。 收集的原始数据快速增长。这将增加缩短从“数据到采取行动”的周期的需求。
·随着我们从“传统的传感器”转换到智能的,有自我意识的,无处不在的联网传感器,边缘计算也将是颠覆性的。不同的集成和处理平台需要实现边缘智能化。轴辐式模式让设备能够与战术部署中央节点进行通信,而网状网络是基于一个分散的模式,所有设备对等。Cloudlets同时支持这两种模式,会成为物联网和边缘计算的关键推动者。
Cloudlet是什么,它如何实现边缘智能化?
Cloudlet是个受信任的,资源丰富的计算机或计算机集群,可以联网或者不联网,允许附近的设备使用。cloudlet支持资源密集型和交互式应用,并为设备提供强大的计算资源,更低的延迟。Cloudlet一词起源于由欧洲电信标准协会发起的移动——边缘计算行业项目。
Cloudlet类型
Cloudlet有两种主要的架构方法。第一种是瞬态cloudlet (图1),基于标准的轴辐式模型,移动用户通过无线LAN/RAN,访问附近的cloudlet。瞬态cloudlet依赖于资源丰富的计算机基础设施,通过无线网络,主要是蜂窝和WLAN,为移动设备提供数据存储和计算服务。
图1. 瞬态cloudlet
第二种类型是移动cloudlet,一组资源丰富的移动设备,称为cloudlet节点,可以在网状网络中,互相连接,来提供和使用服务。移动cloudlet依赖于点对点网状通信,一组附近的移动设备可以通过安全的Wi-Fi或蓝牙连接。在这个模式中,每个移动设备作为节点,在网络中分享计算服务,使用分布式计算原则。
图2. 移动cloudlet
挑战和经验教训
作为我们研究cloudlet的一部分,我们遇到了每个cloudlet实施方案都会面对的许多挑战。
瞬态cloudlet:这个实施模式面临三大挑战,包括:快速(敏捷)配置,以减少延迟和解决用户移动性;VM切换,从一个cloudlet向另一个无缝迁移卸载服务;cloudlet发现,使分布式移动设备能够被发现,选择,并在开始配置前,和多个cloudlet中合适的cloudlet,进行关联。
移动cloudlet:今天,每个虚拟系统都有自己的一组分配资源,进行最小共享。大多数虚拟机所需的资源被hypervisor占据,每个客户操作系统,都需要一个更大的空间。
此外,瞬态cloudlet实施必须解决集群管理(分布式网格)、扩展、理想状态校正、多主机网络、服务发现、负载平衡、安全和滚动更新。容器技术,比如Docker Swarm,提供开箱即用的很多功能,包括虚拟机的隔离,并共享资源为可重用的图像(操作系统、数据库、应用服务等等),让它们更有效,更快和更轻量。使用一种分布式的方式完成,通过网状网络(Swarm),平台实现“自我发现”。容器将软件包含在一个完整的文件系统中,包含运行所需的一切:代码、运行时间、系统工具和系统库。它们立刻运行,使用更少的内存。图像是由分层文件系统和共享公共文件构造,使磁盘用量和图像下载更有效。这种方法仍然面临的一些挑战包括cloudlet节点发现。组播DNS或Wi-Fi P2P可用于远程配置,一个安全的REST服务可以在每个cloudlet管理器节点上部署。
总结
作为物联网边缘计算战略智能化的一部分,cloudlet是一个关键因素,特别是当解决方案需要提供:
·更低的端到端应用延迟(实时)
·为了获得最优计算结果,设备与本地“cloudlet”之间的最大事务速率(交互)
·私人网络的本地通信,保证性能,隐私和安全性(安全) 在获取数据时,获得实时视图,最小的云进入带宽(分析)
·在无线区域网络(RAN),使用动态过滤规则,快速引入网络和其他功能(分布式)
·仔细分析这些类型的需求,将确定最好的架构方法(瞬态或移动cloudlet),来支持智能化的边缘解决方案。
好文章,需要你的鼓励
韩国科学技术院研究团队提出"分叉-合并解码"方法,无需额外训练即可改善音视频大语言模型的多模态理解能力。通过先独立处理音频和视频(分叉阶段),再融合结果(合并阶段),该方法有效缓解了模型过度依赖单一模态的问题,在AVQA、MUSIC-AVQA和AVHBench三个基准测试中均取得显著性能提升,特别是在需要平衡音视频理解的任务上表现突出。
这项研究利用大语言模型解决科学新颖性检测难题,南洋理工大学团队创新性地构建了闭合领域数据集并提出知识蒸馏框架,训练轻量级检索器捕捉想法层面相似性而非表面文本相似性。实验表明,该方法在市场营销和NLP领域显著优于现有技术,为加速科学创新提供了有力工具。
un?CLIP是一项创新研究,通过巧妙反转unCLIP生成模型来增强CLIP的视觉细节捕捉能力。中国科学院研究团队发现,虽然CLIP在全局图像理解方面表现出色,但在捕捉细节时存在不足。他们的方法利用unCLIP生成模型的视觉细节表示能力,同时保持与CLIP原始文本编码器的语义对齐。实验结果表明,un?CLIP在MMVP-VLM基准、开放词汇语义分割和视觉中心的多模态任务上显著优于原始CLIP和现有改进方法,为视觉-语言模型的发展提供了新思路。
这项研究介绍了RPEval,一个专为评估大语言模型角色扮演能力而设计的新基准。研究团队从法国里尔大学开发的这一工具专注于四个关键维度:情感理解、决策制定、道德对齐和角色一致性,通过单轮交互实现全自动评估。研究结果显示Gemini-1.5-Pro在总体表现上领先,而GPT-4o虽在决策方面表现出色,但在角色一致性上存在明显不足。这一基准为研究人员提供了一个可靠、可重复的方法来评估和改进大语言模型的角色扮演能力。