1.总的调度流程，通过linux下的crontab定时执行一个包含kjb执行信息的shell脚本


2.XXXX_0_Execute_Judge转换下有两个作业，通过获取每天的同步状态值来判断是否执行同步工作，如果同步状态不满足，会发邮件告知


3.XXXX_A0_Connect_Next作业下含有四个并行执行的作业，Message_Prepare_Yes作业负责的获取到同步状态OK的Email邮件通知


4.四个并行执行的作业分别负责同步不同的模块数据(整个同步原则是小表直接同步，大表通过BCP导出，映射成GP对应的utf-8的txt外部表)


5.在所有的模块成功执行完成后，会发送同步完成的邮件通知


以上只是记录ETL项目的整理框架流程，整个过程比较复杂的地方在于超过十几个G的大表压缩传送，GBK到UTF-8的转码。


由于CSDN不能正常显示图片的问题，可以参考本人的博客园：


http://www.cnblogs.com/binguo2008/p/7260423.html

GitHub 加速计划 / li / linux-dash
10.39 K
1.2 K
下载
A beautiful web dashboard for Linux
最近提交(Master分支：2 个月前 )
186a802e added ecosystem file for PM2 4 年前
5def40a3 Add host customization support for the NodeJS version 4 年前
Logo
GitCode 开源社区

旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。

更多推荐

[转载]在Windows环境下安装GNU Radio

转自：在Windows环境下安装GNURadio_恐弱智_新浪博客GNU Radio是用Python开发的，大部分开源的工程能够在Linux环境下运行良好，而Windows下却运行的很勉强，而且安装配置都很复杂。GNU Radio算是个例外了，不光提供了Windows的二进制安装，还有比较详细的说明。我是Python小白，所以折腾了好久才弄好，特意记录下来，免得以后再装还折腾。GNU Radio的

avatar GitCode 开源社区

centOS 8 使用dnf安装Docker

DNF是什么？CentOS 8使用YUM软件包管理器版本v4.0.4。现在，该版本使用DNF(已删除YUM)。DNF是软件包管理器。它会在Linux发行版上安装，执行更新并删除软件包。使用DNF安装Docker跳过具有损坏依赖性的程序包一个有效的解决方案是使您的CentOS 8系统使用以下--nobest命令安装最符合条件的版本：sudo dnf install docker...

avatar GitCode 开源社区

定时同步数据库表(mysql+linux+crontab)

sync.sh里面的参数需要改变，ip/username/password/database/tablesync.sh#!/bin/sh# Please change the IP and password of the data source db.# Then change the table name.filename=/home/nington/db/$(date +%Y-%m

avatar GitCode 开源社区