2020到2030年,全球数据中心对普通算力增长超过100倍,AI算力增长超过500倍。
大量算力需求的背后就是数据中心的进一步建设,截至2022年底,我国数据中心机架总规模已超过650万标准机架,近5年年均增速超过30%,在用数据中心算力总规模超180EFLOPS,位居世界第二。
随着数据中心规模和数量的不断攀升,其能耗问题也日益的凸显,加强绿色数据中心建设成为构建新一代信息基础设施重要任务。
我们能看到,能耗、周期、运维、安全都是数据中心从建设到运营面临的挑战。最近,为了更好的树立标杆,给行业打个样儿,工业和信息化部、国家发展改革委、商务部等六部门在2023数据中心绿色发展大会上,发布了2022年度国家绿色数据中心名单。此次发布的43家国家绿色数据中心涉及了通信、互联网、公共机构、能源、金融领域。
对于绿色数据中心的话题,其实去年数字化转型方略就进行过探讨,当时我们谈的更多是什么是绿色数据中心,如何才能称得上是绿色。
今年我们则从整体建筑、机房、空调、UPS、母线,甚至是认证等层面,更加具体的还原绿色数据中心的原貌,看看适用于市场需求的产品到底应该是什么模样。
所以我们也在会上与华章数据技术有限公司、深圳科士达科技股份有限公司、深圳市艾特网能技术有限公司、江苏巴斯威节能科技有限公司、长芯盛(武汉)科技有限公司、广东申菱环境系统股份有限公司、华测认证有限公司进行了深入的对话,希望同过与他们的交谈,可以挖掘出数据中心的绿色种子到底要种在哪里。
就像非洲经济学家Dambisa Moyo所说的一样,种一棵树最好的时间是十年前,其次是现在,绿色数据中心的建设也是同一个道理。
《数字化转型方略》2023年第5期:http://www.zhiding.cn/dxinsight/2305
好文章,需要你的鼓励
ETH Zürich等机构研究人员提出TrustVLM框架,解决视觉-语言模型预测可信度问题。该方法利用模型中存在的"模态差距",创新性地结合图像到文本和图像到图像的相似度,实现无需重新训练即可大幅提升误分类检测性能。在17个数据集的严格测试中,TrustVLM相比现有方法在关键指标上提升显著,同时改善了零样本分类准确率。此成果为AI系统在自动驾驶、医疗等安全关键领域的可靠部署提供了重要保障。
这项研究提出了个性化安全概念,解决大语言模型对不同用户采用统一安全标准的问题。研究团队创建了PENGUIN基准测试集评估模型在处理高风险场景时的个性化安全能力,并开发了RAISE框架高效获取关键用户信息。实验表明,提供用户背景可使安全分数提高43.2%,而RAISE框架通过平均仅2.7次交互即可提高安全分数31.6%。这一创新方法将AI安全从"一刀切"转向"个性定制",为高风险领域的AI应用提供了新思路。
明尼苏达大学研究团队提出了一种创新方法,通过回合级信誉分配显著提升大语言模型(LLM)智能体的多回合推理能力。传统方法只对整个过程进行评价,而他们的MT-GRPO算法能够精确评估每个决策步骤的价值,就像为每一步提供具体反馈。在维基百科搜索工具使用场景中,该方法实现了100%的工具执行成功率和50%的答案精确匹配率,远超传统方法。这一突破不仅提高了AI在多步骤任务中的表现,也为开发更复杂的AI系统提供了重要思路。
这篇研究介绍了PISCES——一种能精确从大语言模型参数中移除特定概念知识的创新技术。与现有方法不同,PISCES通过解缠器模型识别概念相关特征,直接编辑模型参数,实现了更精准的知识移除。在Gemma和Llama模型上的测试表明,该方法不仅有效降低了目标概念的准确率(低至7.7%),还保持了模型在无关领域的高性能,并显著提高了对"重新学习"的抵抗力。这一突破为AI系统的安全部署和合规使用提供了新的可能性。