至顶网CIO与CTO频道 05月25日 编译:新技术名词的不断出现是不可避免的,时下最流行的名词当属边缘计算。专家们用了不同的方式描述边缘计算,还用了诸多用例佐证边缘计算是如何如何地厉害,边缘计算听起来是很棒的东西。甚至还有一种观念认为边缘计算可以替代所有传统的、更中心化的云计算模型。笔者在这赶紧插一句:这是不会发生的。
未来科技环境大有可能是一种同时具传统云计算和边缘计算功能的混合结构。
边缘计算其实是对云计算很自然的互补,不是替代,反之亦然。边缘计算解决了网络延迟限制的问题,而云计算则可以为大量工作负载提供了更快、更便宜的中心式计算和存储。这些工作负载包括人工智能、数据分析和机器学习等等,在当前的COVID-19环境里这些工作负载更是显得至关重要,笔者曾在另一篇文章里“在大流行期间如何利用人工智能和机器学习探讨过这个话题。
未来科技环境大有可能是一种同时具传统云计算和边缘计算功能的混合结构。可以说是真正的阴与阳的关系,两个方面互补调和。
纵观业界,各种科技正在逐渐融合边缘云的强大威力,云计算本身也在朝多云混合支持的方向不断发展。物联网(IoT)、无人驾驶车辆、流媒体以及其他新的行业不断涌现,网络延迟是这些行业的死穴,而对无人驾驶车辆而言,有时甚至真正的致命死穴。
现代云原生、基于消费的、混合友好的云平台的需求只会不断增加,传统IT工作负载也在不断过渡到敏捷云系统。Gartner曾发布报告称,61%企业已经达到了一定程度的物联网成熟度。以下将给出时下一些边缘云的应用场景,这些边缘云大多用于帮助减少延迟及改善零售、医疗和制造业各行业的用户体验。
零售市场里用于跟踪销售、策略和信息的系统的分发方式是非传统方式,非常适合边缘部署策略。据Grandview Research的研究显示,零售物联网市场至2025年将达到950亿美元。零售商必将利用物联网和边缘计算获取更快、更好的客户体验,同时减少产品线及增加收入。后COVID世界肯定将充分使用与边缘云相关的系统,例如自动结帐、产品跟踪、传感器跟踪和供应链报告等等。
医疗领域物联网市场的规模预计至2025年将达到5340亿美元。制药业务当能应对各种挑战,例如库存管理、因法规而导致复杂性增加以及从近端放置系统即时收集和处理数据的可见性问题。
制造业现在可以采取最大限度地减少停机时间、引入传感器及通过局部边缘计算策略监视工艺条件变化等措施以提高了生产率和安全性。制造业物联网市场预计至2024年将超过零售业和医疗保健业的和,达9,500亿美元。
消费和体验期望力度意味着边缘计算的规模和功能会更加凸显其重要性。各种对时延敏感的信息在增多,技术提供商面临诸如微软Azure Stack Edge之类的各种解决方案,Azure Stack Edge解决方案可以完成各种人工智能任务同时也可以作存储网关用。再举一个例子,AWS也增加了Snowball Edge之类的服务,提供的快速数据传输功能令IoT和边缘计算的世界变小了。
其实从许多方面来看,计算一直都是在“边缘”上进行。小服务器及网络几十年来都是在分支机构和远程系统里保存数据和提供存储。要将这些数据整合到IT系统里在管理、延迟以及数据保护和实施成本方面都存在一些困难。而现在,云系统提供了可靠的、敏捷的及随时可用的基础架构和服务功能。
我们在考虑边缘云计算时,务必将其视为整体混合云策略的一部分。边缘计算是对全面云战略的提升,只有全面的云战略才能在物联网设备部署的快速爆炸式增长中稳步发展。
好文章,需要你的鼓励
ETH Zürich等机构研究人员提出TrustVLM框架,解决视觉-语言模型预测可信度问题。该方法利用模型中存在的"模态差距",创新性地结合图像到文本和图像到图像的相似度,实现无需重新训练即可大幅提升误分类检测性能。在17个数据集的严格测试中,TrustVLM相比现有方法在关键指标上提升显著,同时改善了零样本分类准确率。此成果为AI系统在自动驾驶、医疗等安全关键领域的可靠部署提供了重要保障。
这项研究提出了个性化安全概念,解决大语言模型对不同用户采用统一安全标准的问题。研究团队创建了PENGUIN基准测试集评估模型在处理高风险场景时的个性化安全能力,并开发了RAISE框架高效获取关键用户信息。实验表明,提供用户背景可使安全分数提高43.2%,而RAISE框架通过平均仅2.7次交互即可提高安全分数31.6%。这一创新方法将AI安全从"一刀切"转向"个性定制",为高风险领域的AI应用提供了新思路。
明尼苏达大学研究团队提出了一种创新方法,通过回合级信誉分配显著提升大语言模型(LLM)智能体的多回合推理能力。传统方法只对整个过程进行评价,而他们的MT-GRPO算法能够精确评估每个决策步骤的价值,就像为每一步提供具体反馈。在维基百科搜索工具使用场景中,该方法实现了100%的工具执行成功率和50%的答案精确匹配率,远超传统方法。这一突破不仅提高了AI在多步骤任务中的表现,也为开发更复杂的AI系统提供了重要思路。
这篇研究介绍了PISCES——一种能精确从大语言模型参数中移除特定概念知识的创新技术。与现有方法不同,PISCES通过解缠器模型识别概念相关特征,直接编辑模型参数,实现了更精准的知识移除。在Gemma和Llama模型上的测试表明,该方法不仅有效降低了目标概念的准确率(低至7.7%),还保持了模型在无关领域的高性能,并显著提高了对"重新学习"的抵抗力。这一突破为AI系统的安全部署和合规使用提供了新的可能性。