随着企业纷纷借助AI技术革新运营流程,数据隐私问题正变得日益复杂且关键。其中,代理式AI(Agentic AI)作为一种能够自主执行任务而无需人工干预的技术,正逐渐成为焦点。顾名思义,代理式AI具备“代理”能力,能够独立决策并采取行动。IDC预测,到 2026 年,将有50%的中国 500 强企业的数据团队通过使用AI智能体(AI Agent)来实现数据准备和分析。
如今,AI智能体已在多个行业中得到广泛应用。在金融领域,AI智能体能够自主实时监控市场趋势、解读交易信号、调整投资策略并降低风险。在公共部门,AI智能体通过简化补助金资格评估等流程,提升政府工作效率和绩效水平,同时为公民提供个性化服务。
然而,尽管AI智能体带来了诸多便利,但其对大量个人身份数据的依赖也引发了严重的隐私问题,加剧了消费者对企业管理个人信息方式的不信任。尤其是在医疗和金融服务等高度依赖个人数据的关键领域,随着代理式AI的普及,这一问题将变得更加严峻。
根据益普索(Ipsos)的了解亚洲研究,尽管人们对AI技术充满期待,但对AI、数字隐私和安全的担忧也在增加。亚太地区70%的消费者对企业采集信息的方式表示担忧,在新加坡,这一比例更是高达81%。企业需认识到,制定并实施强有力的数据隐私政策不应是事后补救措施,而应成为可持续和负责任创新的基石。
区分和保护关键信息
保护消费者信任的第一步,也是最为关键的一步,是确保关键信息和个人身份信息(PII)的安全。AI对所有数据一视同仁,如果没有设定适当的参数,数据将被盲目使用。因此,若在缺乏健全保障措施的情况下部署AI智能体,敏感信息将面临被滥用的风险。
企业应投资于安全且受控的数据平台,采用全面的加密和通证化策略。这些措施应被统一应用于所有本地和云数据环境,以及各种存储解决方案。通过建立针对数据泄露和恶意攻击的强大防御体系,企业能够在保障数据安全的同时,安全地应用AI技术。
满足数据治理和安全要求
随着各国政府正在为保护公民数据隐私权而加强监管,企业遵守当地市场规则和数据主权法律的难度也在增加。而代理式AI的普及进一步加剧了这一挑战,因其系统通常需要访问历史数据和跨境数据才能高效运行。
为解决这一问题,企业需采用细粒度的数据治理方法并辅以零信任架构,即一种默认不信任任何用户或系统的安全模式。这涉及到准确识别特定客户数据的位置、采取适当的控制措施,并具备生成详细的审计报告的能力。
此外,为满足监管机构的要求和消费者的期望,企业还需建立数据删除或匿名化机制。Cloudera Shared Data Experience等解决方案能够在整合安全与治理的同时,确保正确的人员在正确的时间以正确的理由访问相应的信息。
将隐私和信任融入业务的全链条
在采用代理式AI的过程中,建立信任和透明的文化对于管理数据使用预期和创新的道德边界至关重要。在管理层面上,企业应采用“隐私设计”(Privacy by Design)原则,确保隐私在一开始就融入产品、服务和系统中,尤其是针对AI模型。对于消费者而言,培养“信任但要核实”的思维模式,是了解企业如何收集和使用数据的关键。
随着AI智能体越来越多地参与到涉及消费者数据的决策过程,企业需将透明度作为数据处理的重点。提高透明度不仅有助于建立信任,还能降低企业声誉和长期发展所面临的风险。
建立信任和保持透明度已成为企业不可忽视的责任。在代理式AI时代,成功的关键在于平衡创新与责任,确保数据隐私始终是可持续发展的基石。
好文章,需要你的鼓励
法国人工智能公司Mistral AI宣布完成17亿欧元(约20亿美元)C轮融资,由荷兰半导体设备制造商ASML领投。此轮融资使Mistral估值从去年的60亿美元翻倍至137亿美元。英伟达、DST Global等知名投资机构参投。作为欧洲领先的AI开发商,Mistral凭借先进的多语言大模型与OpenAI等美国公司竞争,其聊天机器人Le Chat具备语音模式等功能。
腾讯ARC实验室推出AudioStory系统,首次实现AI根据复杂指令创作完整长篇音频故事。该系统结合大语言模型的叙事推理能力与音频生成技术,通过交错式推理生成、解耦桥接机制和渐进式训练,能够将复杂指令分解为连续音频场景并保持整体连贯性。在AudioStory-10K基准测试中表现优异,为AI音频创作开辟新方向。
VAST Data收购了成立仅数月的初创公司Red Stapler,该公司由NetApp资深团队创立。Red Stapler创始人兼CEO Jonsi Stefansson将担任VAST云解决方案总经理,负责超大规模云战略。Red Stapler拥有6名开发人员,开发了跨SaaS交付、API集成、监控等功能的云控制平面和服务交付平台,将加速VAST AI OS在超大规模和多云环境中的部署,深化与全球领先超大规模云服务商的合作关系。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。