又到了年终岁尾时,业界权威市场研究和咨询机构Ovum公司日前估计,大数据市场规模将从2016年的17亿美元增长到2020年的94亿美元。随着市场的增长,企业的挑战正在转变,对人们的技能需求正在改变,而大数据服务供应商的景观也在风云变幻。2017年将是大数据专业人士更为忙碌的时刻。以下是一些来自相关行业观察家和技术专家对大数据在2017年的发展预测。
1.对数据科学家的需求将减弱
组织对数据科学家的需求正在减弱,Ovum公司在其关于大数据趋势的报告中表示。该研究公司引用了来自Indeed.com的数据,显示了组织在过去四年对数据科学家的需求。同时,大学正在培养更多的拥有数据科学证书的大学毕业生。
“谁招募这些潜在客户?很可能,排除在线数字业务,在全球2000强以外的一些少数企业会招募他们,但却很少有人会想到如何使用数据科学家。”Ovum公司指出,“对于大量依赖于打包分析的组织来说,不需要数据科学家本身,而是需要应用数据科学的应用程序或工具。
2.使数据科学成为团队运动将成为重中之重
Ovum公司警告,数据科学家和数据工程师在企业中扮演不同的角色:数据科学家关注数据形成和测试假设,而数据工程师选择数据集,提供集群,并优化他们的生产算法。没有协作,数据科学家开发的模型和假设就会遇到陷入风险之中。
“真正的需要是让数据科学家和数据工程师更好地连接,以确保数据科学家在他或她的笔记本电脑上编写和测试的模型正确地部署在集群上合适的数据集。”Ovum写道。
同时,机器学习正在嵌入企业软件和工具,用于整合和准备数据,这也给企业带来压力,确保他们的数据科学家和业务分析师密切合作。“如果模型仍然在数据科学家的领导下,企业将无法获得机器学习的全部价值。”Ovum公司表示,“重叠的趋势将是协作环境,其中业务分析师和数据科学家可以在计划,部署,以及执行机器学习模型中共享工作流。”
3.将会有更多的压力来保持数据本地化
全球律师事务所Morrison&Foerster预测将加强隐私法,旨在将数据保存在各国境内。
Morrison&Foerster律师事务所全球隐私+数据安全小组主席MiriamWugmeister说,“预计将会出台更多的数据本地化法律,在最近的发展中,如俄罗斯数据本地化法律得到了俄罗斯法院支持,中国最近也通过自己的数据本地化法律。其他国家将在未来一年内采取行动。
4.企业将努力通过数据获利
研究机构IDC公司警告说,企业必须投入更多的生产资料产生数据,但它不会是容易做到,许多企业将错过机会。
IDC公司在名为“IDC Future Scape:全球CIO2017年议程预测”的报告中写道:“尽管商业领袖希望企业努力成功创造有意义的产品和收入来源。那些取得成功的企业将以坚实的IT战略和数据导向服务为基础:数据采集;运输,转型和储存;分析和仪表板;数据作为产品/服务;以及安全和访问控制。
而IDC提供的指导性建议是,IT领导者“建立一个由IT和业务人员组成的创新团队,审查现有和未来的应用程序/系统,以获得可能的结果数据货币化。”
5.数据湖将最终变得有用
“许多早期采用数据湖的企业花费了大量资金,不仅购买了低成本存储和流程,而且还收集了大量服务,以便汇总和提供大量数据相关和发现以获得更好的见解。”,数据管理供应商Reltio公司首席营销官RamonChen说。企业所面临的挑战一直在寻找有能力理解信息的人;使数据湖能够向操作应用程序提供输入,并从操作应用程序接收实时更新的数据;弥合主要数据管理和运行应用程序,分析数据仓库和数据湖之间的差距。
“现有的大数据项目意识到需要一个可靠的数据基础,而新的项目被整合到一个整体的数据管理战略中,数据湖可能会在2017年履行他们的承诺。”RamonChen预测。
6.并购活动将加快进程
Reltio公司首席营销官RamonChen说,“毫无疑问,人工智能、机器学习、深度学习等新技术得到了企业的关注。”所有交易的关键驱动因素是对人工智能专家的需求。“由于被收购的大多数初创公司的运营历史很短,这些举措是尽可能招募到数量有限的人工智能专家。”他说,并预计在未来一年,行业厂商将会开展更加积极的并购活动。
7.对物联网架构师的需求将飙升
根据研究机构IDC公司的数据,到2020年,物联网(IoT)市场规模预计将达到1.46万亿美元。因为规模激增,因此也将需要大量熟练的物联网专家。
“物联网架构师的作用将使数据科学家们成为人力资源部门最有价值的独角兽。物联网的浪潮将会让边缘计算和物联网操作设计激增。”数据和分析供应商Teradata公司物联网技术营销专家DanGraham预测,届时,数以千计的简历将在一夜之间更新。“此外,不到10%的企业意识到他们需要一个物联网分析架构师,而物联网系统架构师将成为一个独特的物种。因此,能够为物联网设计分布式和中央分析的软件架构师的市场价值将飙升。”
8.流式分析将会获得重生
“分析运动中的数据并不是什么新鲜事,因为事件处理程序已经存在了近20年。”Ovum公司表示。但是有很多因素正在将实时流技术从利基技术转变为更具广泛吸引力的技术。例如,开源技术使实时流更加容易访问,也为可扩展的商品基础设施带来可用性,Ovum公司指出。在需求方面,物联网正在加强企业对可以实时感测,分析和响应的流应用程序的兴趣。
Ovum公司预测,其市场整合不会立即发生。“如今,企业有越来越多的选择,竞争新的工作负载。最终,我们预计市场会下降到三到四个流媒体平台。”但是SparkStreaming和AmazonKinesisAnalytics等平台及其竞争对手的市场竞争仍在进行中。“鉴于市场早期状况,我们预计2017年市场不会下跌;我们预计流式引擎将需要2-3年才能成熟,物联网的实施将达到临界质量。”Ovum公司指出。
好文章,需要你的鼓励
随着数字化时代的到来,网络安全威胁呈指数级增长。勒索软件、AI驱动的网络攻击和物联网设备漏洞成为主要威胁。企业需要建立全面的风险管理策略,包括风险评估、安全措施实施和持续监控。新兴技术如人工智能、区块链和量子计算为网络安全带来新机遇。组织应重视员工培训、供应链安全、数据治理和事件响应能力建设。
滑铁卢大学研究团队开发出ScholarCopilot,一个革命性的AI学术写作助手。该系统突破传统"先检索后生成"模式,实现写作过程中的动态文献检索和精确引用。基于50万篇arXiv论文训练,引用准确率达40.1%,大幅超越现有方法。在人类专家评估中,引用质量获100%好评,整体表现优于ChatGPT。这项创新为AI辅助学术写作开辟新道路。
AWS Amazon Bedrock负责人Atul Deo正致力于让人工智能软件变得更便宜和更智能。他在12月re:Invent大会前只有六个月时间来证明这一目标的可行性。Deo表示AI领域发展速度前所未有,模型每几周就会改进,但客户只有在经济效益合理时才会部署。为此,AWS推出了提示缓存、智能路由、批处理模式等功能来降低推理成本,同时开发能执行多步骤任务的自主代理软件,将AI应用从聊天机器人转向实际业务流程自动化。
哥伦比亚大学研究团队发布NodeRAG技术,通过异构图结构革新智能问答系统。该方法将文档信息分解为7种节点类型,采用双重搜索机制,在多个权威测试中准确率达89.5%,检索效率提升50%以上,为智能信息检索技术带来重大突破。