在刚刚过去的2023年,我们见证了一系列科技领域的风云变幻:针对大型知名企业的高额勒索软件攻击、涉及广泛使用的应用程序的系统宕机事件、在AI等先进技术突破性进展推动下涌现的新型网络攻击……我们可以预见,在2024年,网络威胁形势将变得更加严峻,技术对于人们工作和生活的影响将愈发广泛,企业领导者必须带领团队早作准备,准确洞察,果断行动,才能在这个时代中掌握主动,持续发展。
AI的加持让网络威胁形势更加严峻
在AI的加持下,网络攻击变得愈发隐蔽,攻击规模变得更大,攻击频率变得更高,整体攻击效率大幅增长。AI驱动的恶意软件和僵尸网络可以在攻击阶段变形,通过实时变化来规避安全措施,识别目标系统中的漏洞,为IT和安全团队带来巨大的风险。AI使不良行为者能够自动化攻击操作,在数秒内完成对海量被盗凭证和个人数据的分析,利用窃取的凭证和常见密码组合尝试进行未经授权的访问。生成式AI可以生成虚假社交媒体账户和评论,或是生成音频和视频,模仿声音和面容,欺骗用户以获取敏感数据。
企业面临更加严格的数据安全要求
数据相关的法律法规逐渐完善,此前的《网络安全法》《数据安全法》《个人信息保护法》已经打下了坚实的基础框架,近年来AI推动的算力浪潮也促进了相关法律法规的推出和实施。在2023年,中国国家数据局正式成立,《信息技术服务 数据中心业务连续性等级评价准则》《算力基础设施高质量发展行动计划》(以下简称《行动计划》)和《网络安全事件报告管理办法(征求意见稿)》正式发布。这意味着企业要做好更加全面的准备(例如《行动计划》提出,到2025年,重点行业核心数据、重要数据灾备覆盖率达到100%),能够在发生网络安全事件时,及时启动应急预案进行处置,并及时进行报告。随着数字化转型的加速,我们相信在2024年将看到更多和数据相关的立法和监督。
AI被用于加强企业威胁检测和响应能力
AI和其他先进技术带来的网络威胁挑战让企业逐渐意识到攻击的发生不可避免。企业级数据安全的领域将从单纯的防守扩展到主动预防和事后恢复。通过数据安全和网络安全公司之间的集成,企业可以最终受益于AI驱动的早期威胁检测。此外,AI和机器学习还可以用于识别环境中的安全漏洞,就如何降低环境中的风险和复杂性向IT和安全领导者提出建议,从而减少安全事件的风险。生成式AI非常适合提供这方面的可行建议和意见。
高级管理者对数据安全参与度提升
2024年,数据保护作为业务连续性的关键要素将成为关注的焦点。企业领导者,包括首席执行官在内,都将更加关注网络弹性。网络弹性与运营稳定性之间的联系将更加清晰,企业高管将意识到需要关注数据安全战略。不断完善的数据安全法律法规也要求企业能够满足相关条件。我们相信,在未来几年,这方面的变化和投入会越来越多。
数据安全将演变为一项企业整体的协作性工作
为满足业务需求而快速采用的技术导致威胁范围不断扩大,涵盖的资产种类繁多,可能横跨各种类型的工作负载,覆盖多个租户,包含硬件、虚拟环境、软件定义系统、第三方控制和SaaS空间资产等。我们预计,企业将考虑遵循NIST等标准安全框架来进行网络防御工作,包括识别、保护、检测、响应和必要时从攻击中恢复。这将涉及IT和安全团队之间,乃至IT和业务部门之间的密切合作。部门间的合作也对高管参与提出了要求,一方面,业务部门和IT部门的领导者需要共同协商安全投入能够如何促进业务发展,另一方面,安全策略的实现需要从上至下的参与和推动。
2024年,虽然企业面临着更加严峻的网络威胁形势,但是随着数据相关法律法规的不断完善,以及企业对数据安全的策略性调整和创新技术的采用,我们有理由相信我们将进入一个更加安全、更加智能化的数据未来。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。