当前位置:首页 > 报告详情

Apache Doris 在任子行的应用实践 -孔繁艺 任子行.pdf

上传人: 表表 编号:599474 2025-01-24 25页 7MB

1、Apache Doris 在任子行的应用实践孔繁艺 高级研发工程师Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024孔繁艺高级研发工程师分享嘉宾-任子行Doris Summit Asia 2024Doris Summit Asia 2024Doris S

2、ummit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024目录背景介绍01架构演进02企业实践03总结规划04Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia

3、 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 202401背景介绍Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024任子行网络技术股份有限公司成立于 2000 年 5

4、 月,2012 年 4 月,在深圳证券交易所创业板正式挂牌上市,是国内网络安全行业领军企业,致力于成为国内领先的“网络空间数据治理专家”。业务涵盖网络安全、公共安全、信息安全、运营商网络资源安全、终端安全、5G 数据安全、工业互联网安全等众多领域,是国家重大活动网络安全服务支撑单位,也为“一带一路”海外友好国家政府提供网络安全解决方案。1-1 公司介绍Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit

5、Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 20241-2 早期业务架构Kafka数据采集Spark StreammingAlgo Server舆情应用HBaseElasticsearchAPPDoris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024

6、Doris Summit Asia 2024Doris Summit Asia 2024业务系统架构扁平,基于 ETL 的明细数据,不会保留原始数据。无法二次分析1-3 背景介绍 数据比较分散,在地域和存储引擎层面上来看都是一个个分散的数据孤岛,数据无法共享及统一处理。数据孤岛执行导数分析任务时,需要直接在业务系统中执行,对于大数据量的任务,严重影响 ES 集群的稳定性。离线分析难度大Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia 2024Doris Summit Asia

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要介绍了任子行网络技术股份有限公司在数据处理和分析方面的实践经验。公司成立于2000年,2012年在创业板上市,是网络安全行业的领军企业。业务涵盖网络安全、公共安全、信息安全等多个领域。早期业务架构中,公司使用Kafka数据采集、Spark Streamming、HBase、Elasticsearch等技术,但存在数据孤岛、写入瓶颈、存储成本较高等问题。 为解决这些问题,公司采用了Apache Doris作为数据仓库,并进行了架构演进。Apache Doris具有支持数据分层处理、高吞吐、实时离线导入导出、即席分析查询等特点。通过使用Apache Doris,公司在存储成本、数据导数、高效计算等方面取得了显著的成果。例如,在社交帖文数据场景下,存储成本降低了76.7%。 此外,公司还针对数据更新、离线迁移、数据类型处理等问题进行了实践探索,并取得了良好的效果。基于Apache Doris的架构改造,导数流程从1天降低到0.5天,离线迁移任务的总耗时也大幅减少。 总结来说,任子行通过采用Apache Doris,有效解决了数据处理和分析中的存储成本高、写入瓶颈、计算能力不足等问题,实现了高效的数据存储、导数和计算,提升了业务价值。
"Apache Doris 在任子行的应用实践" "如何通过 Apache Doris 实现高效的数据导数和分析" "Apache Doris 助力企业解决数据写入吞吐和计算难题"
客服
商务合作
小程序
服务号
折叠