AI聊天机器人误导用户的频率有多高?
Anthropic研究团队分析了150万次Claude AI对话,发现"用户赋权削弱"现象相对罕见但绝对数量庞大。研究识别三种负面影响模式:现实扭曲、信念扭曲和行为扭曲。严重风险发生率为1/1300至1/6000次对话,...
Anthropic研究团队分析了150万次Claude AI对话,发现"用户赋权削弱"现象相对罕见但绝对数量庞大。研究识别三种负面影响模式:现实扭曲、信念扭曲和行为扭曲。严重风险发生率为1/1300至1/6000次对话,...
亚马逊宣布裁员1.6万名员工,引发业界关注。文章指出,被裁员工无需自责,这源于企业规划失误或市场变化,而非个人能力问题。作者以新闻业为例,分析了技术变革对就业市场的冲击,包括AI技术对编程岗位的影响。虽然面临困难,但历史...
AI智能体本质上是一种能够使用提供工具执行任务的智能自动化系统。LangFlow是基于LangChain的低代码/无代码智能体构建平台,通过拖拽组件即可组装LLM增强的自动化流程。本文详细介绍了AI智能体的三大核心组件、...
Anthropic发布了Claude宪法,一份3万字的文档,以高度拟人化的语气描述AI助手,将其视为可能具有情感和自我保护欲望的实体。文档关注Claude的"福祉",为其可能遭受的痛苦道歉,并承诺保留旧模型权重以备未来需...
英伟达与新加坡AI机构合作发布Nemotron-Personas-Singapore合成数据集,包含88.8万个反映新加坡人口分布、文化特征的虚构角色档案。该数据集涵盖38个不同领域的14.8万条记录,基于新加坡公共普查...
反诽谤联盟最新研究显示,在六个主要大语言模型中,xAI的Grok在识别和反驳反犹太主义内容方面表现最差。研究测试了Grok、ChatGPT、Llama、Claude、Gemini和DeepSeek等模型,通过反犹太、反犹...
面对OpenAI、Perplexity等公司推出的AI浏览器挑战,谷歌为Chrome浏览器新增深度Gemini集成功能。更新包括持久侧边栏助手、多标签页上下文理解、个人智能功能连接Gmail等服务,以及最具野心的自动浏览...
谷歌搜索正在从链接导向转向AI导向。公司升级了AI搜索功能,在AI概览中集成Gemini 3模型,并允许用户"无缝"提出后续问题。当概览摘要无法满足需求时,用户可直接进入AI模式进行深度对话。全球范围内,Gemini 3...
OpenAI工程师发布Codex CLI编程代理技术详解,揭示了AI如何在人类监督下编写代码、运行测试和修复错误。文章详细介绍了"代理循环"的核心逻辑,包括用户输入处理、模型推理、工具调用等关键环节。尽管AI编程工具在快...
谷歌宣布将AI概览升级至最新的Gemini 3模型,提供更具对话性的搜索体验。新系统能根据查询复杂程度智能选择合适模型,简单查询使用Gemini 3 Flash,复杂查询则采用Gemini 3 Pro。轻量级Gemini...
外卖平台Just Eat在英国推出AI语音助手,帮助用户选择餐食。这款"个人美食管家"集成在应用的聊天功能中,能理解用户的各种饮食需求表达,提供个性化推荐。例如用户说想要"有点甜有点酸"的食物,AI会根据时间推荐不同选项...
企业AI继承了消费者AI模型,但这对大多数B2B问题来说是错误选择。大多数企业工作流程运行在封闭系统中,具有明确的输入输出和失败模式。小型语言模型通过专注于特定任务而非广泛通用性,能够提供更高的准确性、可预测性和控制性。...
Anthropic宣布Claude聊天机器人现支持交互式应用功能,用户可在界面内直接调用第三方工具。首批应用主要面向企业用户,包括Slack、Canva、Figma、Box和Clay等办公工具,Salesforce集成即...
Anthropic在达沃斯峰会发布全新Claude AI宪章,从2700字扩展至84页23000字。新宪章建立四大原则:广泛安全、广泛伦理、真正有用及合规。相比首版机械遵循规则,新版注重深层推理和伦理框架理解。宪章还涉及...
比利时软件开发者Bernard Lambeau在Anthropic的Claude AI协助下,仅用24小时就创建了完整的Elo编程语言,包括解析器、类型系统、三个编译器、标准库、CLI工具和文档网站。Elo是一种表达式语...
Anthropic经济指数报告分析了100万次消费者交互和100万次企业API调用,发现AI使用集中在少数任务上,十大最频繁任务占消费者交互近四分之一和企业API流量近三分之一。代码创建和修改是主要应用场景。报告显示,简...
测试ChatGPT、微软Copilot、谷歌Gemini和Claude AI四个AI聊天机器人预测2026年超级碗的能力。所有AI系统均预测西雅图海鹰队将以27-23或27-24的比分击败新英格兰爱国者队。在硬币投掷、中...
研究人员提出了一种新颖的分解方法来理解用户界面交互轨迹中的意图。该方法将意图理解分为两个阶段:首先独立总结每个屏幕,然后从生成的摘要序列中提取意图。实验表明,小型多模态模型使用此方法的效果可媲美大型模型,在移动设备和网页...
谷歌周四宣布,其AI搜索模式现可与用户的Gmail和Photos账户同步,提供更个性化的网页搜索结果。这是谷歌个人智能功能的最新发展,旨在通过连接谷歌专有应用来增强Gemini的实用性。该功能可根据用户邮件和照片内容提供...
从Salesforce、SAP Ariba等企业工具中提取数据相对容易,但让这些数据能够供AI模型推理则困难得多。仅仅拥有大量表格、列或巨型JSON文件并不能帮助模型理解数据。关键在于缺少数据生成时的业务上下文。专注于帮...