当前,许多企业机构都在全力推进生成式人工智能(GenAI)解决方案的设计和实施,希望提升解决方案的通用性和创造性,进而推动业务价值。2023年Gartner企业人工智能(AI)调研揭示了GenAI用例的三种最主要的实现方法,74%的受访者通过对现有GenAI模型进行定制化调整来满足自身用例的需求,65%的受访者尝试自行训练定制GenAI模型。
然而,实施GenAI绝非易事。对于创造性和通用性的追求,往往会增加GenAI解决方案的复杂性、不确定性和生成非预期结果的可能性,而这也成为了GenAI企业采用面临的主要问题。GenAI解决方案的创造性和通用性越强,出现非预期行为和输出(如幻觉、有害内容超出应用范围的内容等)的可能性越高(见图1)。
图1:在创造性与通用性之间取得平衡
选择基于GenAI模型自行构建GenAI解决方案的企业机构,其负责AI工作的数据和分析(D&A)领导者应利用开源护栏、商业护栏和自建护栏这三种护栏工具来控制GenAI模型的输入和输出,验证并矫正GenAI模型的输入和输出,提高模型的可靠性。
评估并优化GenAI解决方案的创造性和通用性
GenAI模型可兼具创造性和通用性。企业机构通常需要在广泛的场景中使用GenAI解决方案,而这些场景对于解决方案创造性和通用性的需求各不相同。因此,必须根据部署目的和具体场景下的功能需求,确定GenAI解决方案的定位,并根据在创造性和通用性两个方面的具体需求,利用护栏工具建立控制策略和机制。
负责AI工作的D&A领导者应基于GenAI解决方案的使用场景和方式,确定相应的业务风险容忍度,具体取决于:
而后,应根据业务风险容忍度,利用护栏工具管理模型输入和输出,建立严格或宽松的控制机制,并最终在创造性和通用性之间取得最佳平衡。
利用模型护栏验证和矫正模型的输入和输出
使用护栏工具,是管理GenAI模型创造性和通用性的一个切实可行的方法。护栏(在GenAI模型和应用与最终用户之间建立防护层)可以监控和管理模型的全部流量,包括用户输入和模型/应用输出(见图2)。
图2:护栏部署在用户与GenAI模型之间
以下是两种典型护栏:
需要注意的是,护栏并非“灵丹妙药”,不能完全解决GenAI解决方案的行为和准确性问题。GenAI解决方案必须在准确性与企业机构的风险承受能力之间取得平衡。
此外,伴随GenAI的快速发展,护栏技术也在不断变化和改进。鉴于神经网络的不可预测性,护栏技术目前是验证和矫正GenAI模型输出的一种切实可行的方法。长期来看,在基础GenAI模型变得足够可靠和可信之前,护栏提供了一种过渡解决方案,可以帮助企业机构推动GenAI采用。
好文章,需要你的鼓励
戴尔在约一年之前推出了其Apex Red Hat OpenShift服务,支持在戴尔PowerEdge服务器上运行Red Hat OpenShift容器编排服务及带有SSD的PowerFlwx块存储。APEX是戴尔提供的一组服务,通过类似公有云的订阅模式提供计算、存储和网络设备。
第四次农业革命即将到来。包括物联网(IoT)部署(即用于收集和传输数据的数字化设备)以及AI在内的技术进步,正将效率推向新的顶点,并有望再次从根本上改变人类宰治整个地球的具体方式。
通过收购 Cradlepoint 和 Ericom 时所继承的知识产权、人力资本、渠道合作伙伴关系和客户关系(爱立信称全球有 36,000 多家企业)仍然是其发展主张的核心,并且基本上保持不变——尽管要将三家公司一个整体运作需要大量的后勤工作,但三家公司的合并同样是为了将爱立信的技术和专业知识转化为其服务属性。
沃达丰发布的《2024年顺应未来报告》(以下简称“顺应未来”报告)中揭示了一个激动人心的趋势:中国企业在拥抱数字化转型方面表现积极,在亚太地区排名第二,仅次于新加坡。然而,报告也引发了人们的疑问:人工智能的迅速发展究竟是信任的催化剂,还是担忧的制造者?中国企业如何在科技创新与社会责任之间取得平衡,并利用技术赢得消费者信任,实现长期增长?