CIO新使命：在生成式AI时代成为变革的道德仲裁者

生成式AI让整个组织的人都能寻找创新的技术解决方案来应对日益增加的业务挑战，但必须要有人确保民主化不会导致混乱，而这个人很可能就是CIO。

在过去两年中，AI已经从研究实验室转移到用户交互的最前沿。无论是总结笔记还是帮助编码，不同组织中的人都使用生成式AI来减少与重复任务相关的束缚以提高价值。

一些专家认为，结果就会是掀起一场数字革命。AI使创新民主化，让所有业务职能部门的人都能以全新的方式应用技术，并找到解决棘手挑战的创造性解决方案。

Adobe公司首席信息官Cynthia Stoddard表示：“总的来说，我认为我们应该对生成式AI感到非常兴奋，它将帮助我们改变人们的工作方式，将这些活动提升到一个不同的水平，让你比过去更高效地工作。”

但并非全是好消息。Stoddard认识到，高官们必须谨慎，因为生成式AI的使用效率可能会降低。从过度依赖知识匮乏的机器人导致产生幻觉，到引发新的网络安全威胁，如果不谨慎有效地实施，AI可能会带来重大问题。

这些问题意味着许多生成式AI项目仍停留在原型设计阶段。咨询巨头德勤表示，70%的企业领导者把30%或更少的实验投入到了生产中。与此同时，Gartner预测，到2025年至少有30%的AI项目将在概念验证阶段后被放弃。

为了充分利用新兴技术，企业必须确保创新民主化不会导致混乱，而这一责任应该落在首席信息官的身上。毕竟，凭借安全有效地领导技术实施方面所积累的丰富经验，CIO们最有能力帮助企业享受数字创新带来的好处。

因此，现在的责任在于CIO们成为了变革的领跑者，为他们的业务同行提供所需的战略援助。正如卫星公司Eutelsat Group性能中心高级产品负责人Miguel Morgado所说，正确的战略对于有效抓住创新机会至关重要。

“就像现在的AI一样——你会投入巨资，认为这是另一场工业革命，或者认为这只是炒作，什么也不做？三四年后，我们就会看到结果。现在选择正确的策略将决定你四年后是否能够取得成功。”

制定创新策略

不幸的是，制定策略通过AI实现创新民主化并非易事。很多因素都很重要，包括治理、安全、道德和资金，而且很难制定基本的规则。

旅行专业公司Big Bus Tours客户副总裁Ollie Wildeman说：“生成式AI的真相是，你尽最大努力是因为它是一项相对未知的技术。”那么企业应该从哪里开始这个复杂的过程呢？

他说，答案是那些专注于想要创新的人，然后引入可以制定基本规则的专家。“AI必须由那些想要实施该技术的人推动，然后必须有意识地让来自业务不同部分尽可能多的人来检查。”

Wildeman是一位非IT专家，他推动了AI的实施。他的客户服务部门使用Freshworks客户服务套件，其中包括AI聊天机器人来管理用户请求。他还加入了其他新兴技术，包括使用Freshworks的生成工具Freddy AI来总结服务请求。

获得这些创新计划的批准涉及一个迭代的过程，Big Bus Tours的技术指导小组负责AI决策。这个小组包括了首席技术官、技术副总裁、以及来自财务和人力资源等其他职能部门的业务负责人。

Wildeman说：“每个人都会倾听产品是什么，并提出问题，为了让我的AI项目获得批准，我带着修改后的演示文稿去了委员会四五次。就Freddy而言，他们可以看到我们正在与我们信任的现有供应商合作，而且已经和他们合作了很长时间。”

实现新兴技术潜力的关键在于证明用例。英国气象局产品创新负责人Niall Robinson对此深有同感。在英国国家气象和气候服务部门任职期间，Robinson和他的团队探索了该组织是如何通过产品创新和战略伙伴关系创造价值。

他强调了PoC研究在获得利益相关者认同方面的重要性，以及数据科学、机器学习和人工智能在增强天气预报方面的作用。例如，英国气象局正在使用Snowflake的Cortex AI模型来创建关于天气预报的自然语言描述。

他说，AI在科学和天气预报界是一件大事。然而，必须谨慎使用新兴技术。在他的组织中，这个过程意味着要探索各种选择、对比不同的技术选择、以及与值得信赖的顾问展开合作。

他说：“目前，我们没有生成式AI驱动的产品和服务，我们一直在使用机器学习。英国气象局有500多名博士科学家使用聚类分析和神经网络，他们已经这样做有十到二十年。我们还在与英国政府合作制定有关负责任地、有效地使用AI的政策。”

完善CIO角色

很明显，技术主导的创新不再是IT部门的专属领域。十五年前，IT通常是寻找问题的解决方案。CIO购买技术系统，其余业务部门则有望充分利用这些系统。

如今，CIO及其团队还有同行讨论他们面临的主要挑战并提出潜在的解决方案。但生成式AI就像之前的云计算一样，也让用户更容易独立于IT团队去寻找数字解决方案。

这种高度的民主化并非没有风险，而这正是CIO作为企业技术的守护者发挥关键作用的地方。IT领导者了解治理、实施和安全方面的痛点。旅行专业公司Tripadvisor的数据和AI负责人Rahul Todkar表示，CIO的意识意味着对AI和其他新兴技术的责任，而这些技术已经成为数字领导者不断扩大的职责角色中的一部分。

“我认为CDO和CIO们不管愿意与否，都至少要有自己的观点，塑造特定领域的叙事方式，因为他们是弥合AI与技术以及商业应用之间差距的人。因此，数字领导者发挥着桥梁的作用。”

伦敦弗朗西斯克里克（Francis Crick Institute）研究所首席信息官James Fleming表示，在这家世界领先的研究机构中，情况也是类似的，而他作为高管，已经成为AI和创新的道德焦点。他说：“在克里克研究所这个角色默认就是CIO的，我认为这是一个很好的解决方案，因为对于任何像这样的全新技术，必须有人带头首先理解它，然后将这种理解传达给组织的其他成员。显然，这个责任就落在了我身上。”

然而，创新的民主化意味着好的想法可以来自任何方向，而CIO不能孤立地工作。Fleming说，有效的数字领导者是变革的解读者，也是高管团队的资深顾问。

“任何事情的重大决策都必须在整个组织内做出，CIO应该对此进行监督。创新已经民主化了，是的，但这个过程并不意味着变革会更成功。作为CIO，你必须走在前列才能有效，而不是仅仅对变化做出反应，因为你不想领导一个对所有事情都说不的部门。”

在风险和回报之间找到平衡

SimpsonHaugh Architects信息和数字系统合伙人Dave Moyes建议，要让人们接受，就需要强有力的政策。那些想要确保创新民主化不会适得其反的CIO，必须制定规则和法规，尤其是针对AI。

“我们做的第一件事就是起草一份AI政策，告诉员工什么是可以接受的，什么是不可接受的。政策规定，‘如果你不确定，就问。’只要说，‘我们找到了这个工具。我们想用它来做X、Y或Z。这样可以吗，还是会出问题？’”

Moyes是一位担任新兴技术道德仲裁者的CIO。然而，他并不是孤岛式地工作。他起草了AI政策，提交给董事会，其他合伙人进行审查。他说，这种与其他高管利益相关者的合作方式可以很好地权衡利弊。

“我们希望鼓励员工充分利用这些工具，因为最终，这些工具会给他们带来好处，节省他们的时间，让他们做自己喜欢做的事情，而不是工作中需要做的事情，”他说。

Fleming说，弗朗西斯克里克研究所还召集了一个多学科工作组来评估公开可用的生成式AI工具，小组中包括了来自科学、运营、法律和人力资源部门的代表，他们考虑了关键问题例如用例、潜在技术和潜在限制。

虽然他们还没有找到一个适合大笔投资的杀手级用例，但确实确定了生成式AI的要点用例，包括帮助英语不是母语的研究人员撰写资助申请。“有了这个用例，太好了，去吧，这个问题不值得在生成式AI上投资数百万英镑，但我们会密切关注所有新兴技术。”

这种方法得到了Todkar的共鸣，他表示，只要企业谨慎行事，新兴技术可能带来的生产力提升是巨大的，成功的关键是确保有人类专家参与验证流程。

他说：“创新的民主化必须由人类进行资格审查和校准，你可以构建一个新工具，实现某些方面的自动化、任务完成，甚至基于大型语言模型的决策和推理，但你必须对这些结果进行校准、验证和改进，并由专业人员检查这些模型的作用。如果你有一个反馈回路，并确保AI不会跨越道德门槛和界限，那么你就会一直有这种检查机制。”