很少有 IT 领导者会否认 AI 是本十年的突破性技术。 然而,情况并非一直如此。 事实上,直到最近,许多对 AI 持怀疑态度的人都未能认识到该技术的潜力,从而落后于那些更精明的竞争对手。
随着他们开始弥补此前的滞后,商业和技术领导者应当聚焦于关键的准备领域,如数据基础设施、治理、法规合规、风险管理和员工培训,Deloitte Consulting 的 AI 主管 Jim Rowan 在电邮采访中指出。 他强调说: "这些基础步骤对于在 AI 驱动的未来中取得成功至关重要。"
Rowan 引用了 Deloitte 最近发布的《企业中生成式 AI 现状》报告,其中 78% 的受访者表示打算在下一个财年增加整体 AI 投入。 然而,大多数组织预计要克服采用上的种种挑战,至少需要一年时间。 他指出: "这些发现凸显出在 AI 准备过程中必须采取既审慎又灵活的策略,该策略需同时应对监管和人才方面的挑战。"
准备就绪
Melissa Ruzzi(AppOmni 的 AI 主管,AppOmni 为 SaaS 安全公司)建议,快速掌握 AI 的关键在于聘请你能找到的最佳顾问——必须是熟悉贵公司领域的专家。 她通过电邮说: "有些公司认为最好的方式是聘用刚从大学毕业的研究生。" 然而,没有什么能比得上领域专长与实施经验。 她补充道: "这是赶上步伐最快的方法。"
Rowan 表示,许多组织低估了为了帮助团队成员采用并有效使用 AI 技术所需的文化变革。 在 AI 初期,员工培训和教育至关重要。 为了培养熟悉度与激发创新,团队成员不仅需要接触 AI 工具,更需要亲自动手实践。 他指出: "若组织希望实现持续增长并最大化投资回报率,绝不能忽视人才和培训的短板。"
Ruzzi 表示,每个公司都有多个能够从 AI 中受益的项目。 她建议: "最好拥有一位了解该技术及其应用的内部 AI 专家;如果没有,就聘请具备领域经验的顾问或承包商,帮助确定从何处着手。"
她还提到,许多初次采用 AI 的企业通常首先聚焦于那些与客户交付进度相关的内部项目,而另一些则选择启动一个小型面向客户的项目,以验证 AI 所带来的增值效果。 这一决策在很大程度上取决于预期的投资回报率目标。 她解释道: "对于初期来说,规模小、周期短的项目是不错的尝试,因为可以更快地衡量成效。"
安全至关重要
Ruzzi 建议,不论项目规模或范围如何,AI 安全都必须得到充分关注与保障。 她建议将开发第一个 AI 项目视同安装全新 SaaS 应用程序。 她强调: "必须确保,包括数据访问权限及可访问性在内的各项配置不会导致公开数据泄露风险,或更糟的是,让数据注入攻击有机可乘,从而污染你的模型。"
NCC Group(网络安全咨询公司)的技术总监兼 AI 与 ML 安全负责人 David Brauchler 建议,为了降低初学者团队可能带来的安全风险,宜从简单的实施与概念验证(例如内部聊天机器人)开始。 他在电邮采访中解释道: "慢慢起步能让应用架构师和开发人员有机会仔细考虑 AI 在应用威胁模型中所引入的复杂情形。"
AI 同时也带来了新的数据风险问题,例如该技术无法可靠区分可信与不可信的内容。 Brauchler 表示: "应用设计师需要考虑那些在传统软件体系中可能不常遇到的风险。"
Brauchler 建议,组织应当将 AI 风险培训作为标准安全培训的一部分。 他解释道: "培训项目有助于解决组织常遇到的导致影子 AI 和数据泄露的普遍问题。" 对于尚未就安全问题提供指导的组织,需尽快将这些风险纳入员工培训计划中。 他进一步建议: "对于参与软件开发生命周期的员工来说,应在开发 AI 应用之前开展相关的技术培训。"
最终思考
Rowan 表示,随着组织在生成式 AI 领域积累经验,他们将逐步理解大规模部署该技术时所带来的机遇与挑战。 他观察到: "对有纪律的行动需求已变得更为迫切。"
Rowan 补充道,尽管技术准备有所改善,但监管不确定性和风险管理已成为影响 AI 进展的重要障碍,尤其对于初入者来说。 他强调: "人才与劳动力问题依然重要,但获取专业技术人才已不再是迫在眉睫的紧急难题。"
Brauchler 警告说,虽然仓促进军 AI 很诱人,但切忌操之过急。 他总结道: "AI 在未来几年依然会存在,采取深思熟虑、稳健的 AI 商业战略和安全措施才是避免不必要风险的最佳方法。"
好文章,需要你的鼓励
OpenAI意外发现规模假说:Dota 2项目中计算资源翻倍带来AI表现翻倍,彻底改变行业轨迹。Greg Brockman揭秘GPT-3产品化困境:"我们不知道谁会为API付费",最终市场自己找到了出路。AI医疗突破只需超越WebMD,个性化咨询正在重塑多个领域。
孟加拉国联合国际大学研究团队开发了VisText-Mosquito多模态数据集,这是首个集成视觉检测和自然语言推理的蚊子繁殖点识别系统。该系统包含1970张标注图像,能够识别五类繁殖容器并进行水面分割,同时提供人类可理解的判断解释。YOLOv9s等模型达到92.9%检测精度,为全球蚊媒疾病防控提供了AI技术支撑。
存储行业近期动态频繁,Arctera、Wasabi和TD SYNNEX联合推出渠道专属数据保护解决方案;AWS启用EC2环境SAN启动功能;Broadcom发布VMware Cloud Foundation 9.0版本;Commvault与Kyndryl合作提升网络弹性服务;CTERA成为首家支持模型上下文协议的混合云存储供应商;多家企业获得新一轮融资,推动AI基础设施和数据管理技术发展。
特拉维夫大学研究团队通过分析GCG攻击机制,发现越狱攻击的成功依赖于"注意力劫持"现象,即攻击后缀能占据AI注意力机制的主导地位。研究表明,攻击的万能性与劫持强度直接相关,并基于此开发了增强攻击效果和防御攻击的实用方法,为AI安全研究提供了新视角。