数贝TurboDXDC数据采集交换平台升级方案。
数贝公司自主研发的TurboDXDataConnect(DC)数据釆集交换平台,是专门为政府领域/企业集团跨网络节点数据采集、数据交换、数据汇聚整合而开发的分布式数据交换平台,主要解决上级部门数据中心业务需要从其它部门/下级部门实时釆集数据、跨网络交换传输并"落地"数据中心的需求。釆用1+N的系统架构,中心端部署具有远程安全通道服务的TurboDXPlusServcie节点服务器软件,节点部门端分别部署TurboDX交换节点服务器软件,构成了"多对一"的星形数据交换网络。中心端系统提供数据通道服务管理、接收任务管理、任务调度、数据标准及图形化监控、交换数据统计、日志管理等功能。各部门节点系统提供本地的发送任务、任务调度、任务监控和日志管理等功能。
系统架构及主要功能特点:
1.部门端节点系统:
支持前置库交换模式。节点系统提供部门应用系统异构数据库与前置库的对接,包括数据抽取、数据转换、数据过滤、数据加载及数据实时同步交换等功能。前置库支持Oracle(RAC)、SqlServer、Informix、MySql、Postgresql及南大通用、达梦、人大金仓等国产数据库;
支持无需前置库的直连模式(更佳)。节点系统提供与中心节点的安全远程通道连接,交换数据无需"落地"前置库,节省硬件、软件和前置厍的管理成本,以及避免前置库的数据安全漏洞;
提供读取数据库在线日志的非入侵式(CDC)数据增量、Trigger触发器增量、标识位增量等模式获取应用系统的实时增量数据;支持全量(FullLoad)+增量(CDC)模式。
支持对交换数据的过滤(Filter)、转换(Transformation)和各种函数处理;
支持BLOB、CLOB等大字段、以及大事务的处理;
支持DDL复制及事件处理;
支持数据校验及数据清洗;
远程通道连接支持数据交换安全性、数据加/解密(AES-256)、数据压缩(Gzip);
支持数据远程传输的可靠性、断点续传和"传且传一次"的特性;
支持按应用系统处理事务的时间次序传输数据,保证业务数据的完整性和一致性;
采用WAN多线程传输加速技术,实现跨网段的高速数据交换;
提供图形化的本地发送任务监控和本地日志管理。
2.数据中心端节点系统:
提供远程通道服务管理,包括通道连接用户、用户授权及访问IP过滤等安全功能;
提供中心交换数据的标准管理及标准的加载;
接收数据可"落地中心"到异构数据库中,支持对物理表和视图的交换、多表整合。中心落地库支持传统的关系型数据库、MPP型数仓及大数据平台Hadoop、Kafka等NoSQL和NewSQL数据库;
采用完全的B/S图形界面配置,简单易用;
提供图形化的接收任务监控、数据异常、交换数据统计和日志等管理功能。
提供高可用集群版,实现负载均衡及故障转移。
系统架构