《终_Geoscene空间大数据解决方案与应用实践-1107.pdf》由会员分享,可在线阅读,更多相关《终_Geoscene空间大数据解决方案与应用实践-1107.pdf(50页珍藏版)》请在三个皮匠报告上搜索。
1、Geoscene空间大数据解决方案与应用实践易智瑞研究院大数据事业部王彤目录Geoscene空间大数据解决方案概述Geoscene空间大数据治理Geoscene空间大数据分析Geoscene空间大数据业务场景支撑12341.Geoscene空间大数据解决方案概述 认识数据 感知数据 理解数据 应用数据认识数据是综合了解数据的来源和生成方式,数据的时空特征及元数据信息从数据中发掘出有用的信息,通过不同数据之间的关联关系实现知识发现、知识推理的过程支撑不同行业和领域的具体应用场景,辅助决策的过程,实现应用的自动化构建、服务能力迭代升级的过程深入洞察数据的体系结构,对数据变化情况进行追溯,同时挖掘数
2、据的价值空间大数据时代的难题和挑战GeoScene空间大数据软件架构基础设施层X86ARM多源数据Serviceshapefile文本数据本地文件机器学习地理加权回归分析随机森林分类与回归分析栅格大数据分析空间数据处理数据裁剪时空数据分析属性过滤点聚合多变量网格事件检测范围内汇总空间过滤空间投影属性汇总轨迹构建叠加图层 合并图层要素连接查找相似位置查找点聚类查找热点边界融合创建缓冲区密度计算坡度计算坡向计算重分类矢量转栅格对接第三方计算框架数据读取引擎分析处理引擎服务发布引擎任务调度引擎第三方分布式计算框架Spark StandaloneSpark YarnSpark kerberos栅格计算
3、栅格转矢量计算动态统计数据Rest API应用在线建模系统集成开始Geometry停止年度建设用地报批数据(JSYDBP)年度土地供应数据(TDGY)叠加分析叠加分析结果去空报批编号获取地块地块数据计算批而未供面积表工具扩展模型开发用户访问入口数据资源关系数据与模型关系模型与应用之间的关系内置分布式计算框架多源数据读取分析处理引擎GeoScene GeoAnalytics Plus分布式分析计算时空数据治理GeoScene提供了完整的空间大数据建设流程数据注册数据抽取数据检测数据处理数据分析模型构建洞察挖掘业务应用 CSV、TXT、JSON、GeoJSON Shapefile、ORC、Parq
4、uet文件型数据源 Oracle、FIleGDB PostgreSQLPostGIS、KingBase Hbase、ES数据库数据源分布式存储 HDFS、Hive 阿里云、华为云 AWS云存储 微软云存储 对象存储图数据库Neo4JArangoDBHyperGraphDBApache TinkerPop连接描述感知监测关系追溯空间叠加时空聚合事件检测轨迹追踪状态跟踪密度计算热点分析空间连接OD计算数据融合数据追加空间融合属性融合属性连接业务应用交通大数据犯罪分析自然资源大数据工具服务算子服务模型服务接口服务应用服务算子算法工具模型应用决策数据维度业务维度对象识别对象检测图像分类实例分割机器学习
5、回归预测影像转换变化检测语义分割视频检测矢量栅格融合分析栅格数据计算处理自然语言处理知识推理知识抽取知识融合知识决策语义关系实体关系时空关系时空计算智能时空感知智能时空认知智能分类聚类全景分割深度学习和计算机视觉领域点云检测基于分布式框架的庞大规模数据集运算空间投影字段计算具备理解和推理能力数据丰富多重计算框架逻辑判断理解推理模拟人的视觉、听觉、触觉等感知能力,通过模型训练,能够对图像、语音、文字进行识别。针对知识进行抽象和加工,具备理解和推理能力,从而辅助决策。针对大规模时空数据集提供计算能力支撑,解决复杂业务难题、解决时空融合问题,是GIS与IT结合的第一步跃迁。数据治理数据治理 空间分析
6、空间分析 业务场景支撑业务场景支撑2.GeoScene空间大数据治理Geoscene空间大数据解决方案空间大数据治理的问题2、数据的感知如何快速了解数据的信息,洞察数据结构4、计算效率数据量大的情况下,如何高效计算能否采用最新的数据存储和计算引擎1、数据的组织和管理如何将离散的、不同来源、类型、存储格式的数据进行组织管理必要时还需要做数据类型转换3、数据处理工具是否有全面、易用的工具,应对时空数据的数据质量问题和清洗处理数据连接数据抽取数据检测数据清洗数据处理数据融合数据应用全流程空数据治理能力时空数据治理数据连接数据感知数据抽取数据检测清洗处理融合归集血缘关系资源图谱GeoScene时空数据