至顶网CIO与应用频道 01月25日 编译:人工智能正在越来越多地进入工作场所,虚拟个人助理(VPA)和其他形式的聊天机器人现在在很多企业组织中帮助增强人类的表现。据Gartner预测,到2021年将有70%的企业组织通过把AI集成到工作场所来帮助员工提高工作效率,这也将促使10%的企业组织在工作场所监管中增加数字骚扰策略。
Gartner高级研究总监Helen Poitevin表示:“数字化工作场所的领导者们将主动采用基于人工智能的技术,例如虚拟助手或其他基于NLP的会话代理和机器人,以支持和增强员工的任务执行和生产力。但是,他们必须对AI代理进行适当监控,以防止数字骚扰和糟糕的用户体验。”
过去的事件表明,设计糟糕的虚拟助理会让员工感到沮丧,有时会导致不良行为和对VPA的抨击。“这会造成不良的工作环境,因为坏习惯最终会蔓延到与同事的互动中,”Poitevin说。
最近的实验也表明,人们对人工智能技术的滥用行为可能会转化为他们如何对待周围的人。企业组织在工作场所部署VPA时应考虑到这一点,并培训虚拟助理对攻击性语言作出适当反应。
Poitevin补充说:“他们还应明确指出,应该尊重具有AI功能的会话代理,并赋予它们个性以促进亲和力,得到尊重。最后,数字化工作场所的领导者们应该允许员工报告违反政策的情况。”
后台银行员工将依靠AI从事非常规工作
Gartner预测,到2020年将有20%从事后台活动的银行运营员工将依靠AI从事非常规的工作。
Gartner高级研究主管Moutusi Sau表示:“金融机构后台的非常规任务涉及如金融合同审查或者交易发起,虽然这些任务很复杂,需要人工干预,但人工智能技术可以通过减少错误并为下一个最佳步骤提供建议,来协助和增强员工的工作。”
人工智能和自动化已经被运用于跨不同银行及其价值链的日常工作。“某些情况下,我们看到有企业会通过裁员减少不必要的人数,所以后台员工担心他们的工作会被机器取代也是可以理解的。”
然而,人工智能相比纯粹的自动化有很大的附加值,人工智能起到了增强的作用。“人工智能运用于银行业的前景,对于控制人工智能工具作为一种帮助性工具来说是有利的,这些工具可用于审查文件或解释商业贷款协议。数字工作场所的领导者们和CIO们也应该向员工保证,IT和企业领导“会出于好的方面部署人工智能”。
好文章,需要你的鼓励
这篇研究论文揭示了多模态大语言模型(MLLMs)存在严重的模态偏差问题,即模型过度依赖文本信息而忽视图像等其他模态。研究团队通过理论分析和实验证明,这种偏差主要源于三个因素:数据集不平衡、模态骨干能力不对称以及训练目标设计不当。他们提出了系统的研究路线图和解决方案,包括增强视觉模态在数据集中的贡献、改变模型关注点和应用偏好优化策略。未来研究方向则包括开发更客观的评估指标、探索更多模态组合中的偏差问题以及应用可解释AI技术深入分析偏差机制。
ComfyMind是香港科技大学研究团队开发的一个协作式AI系统,旨在解决当前开源通用生成系统面临的稳定性和规划挑战。该系统基于ComfyUI平台,引入了两项关键创新:语义工作流接口(SWI)和带本地反馈执行的搜索树规划机制。SWI将低级节点图抽象为语义函数,而搜索树规划将生成过程视为分层决策任务。实验表明,ComfyMind在ComfyBench、GenEval和Reason-Edit三个基准测试中均大幅超越开源基线,并达到与GPT-Image-1相当的性能,为开源通用生成AI开辟了新路径。
这项研究介绍了一种名为"热带注意力"的新型注意力机制,专为解决神经网络在组合算法推理中的困境而设计。传统注意力机制使用softmax函数产生平滑的概率分布,无法精确捕捉组合算法所需的锐利决策边界。
这项研究揭示了RAG系统中位置偏见的真实影响——虽然在受控环境中明显存在,但在实际应用中却微不足道。研究人员发现,先进的检索系统不仅会找出相关内容,还会将具有干扰性的段落排在前列,超过60%的查询中至少包含一个高度干扰段落。由于相关和干扰内容同时出现在检索结果前列,位置偏见对两者都有惩罚作用,从而抵消了偏见效应。因此,基于位置偏好的复杂排序策略并不比随机排序更有效,这一发现将优化方向从段落排序重新导向检索质量提升和模型抗干扰能力增强。