1. spark 整体架构
    这里写图片描述
    spark 四块最重要的：

    1. sparkSql
    2. spark流处理
    3. 机器学习
    4. 图计算

  2. spark 2.0 源码结构
    这里写图片描述
    spark最核心的代码：https://github.com/apache/spark

  3. 分析源码的方法

    1. 从bin 文件夹开始，我们同常会打开一个spark-shell, 提交任务spark-sbumit,
      加入我们执行spark-submit, 那么打开spark-submit
    2. spark-submit 实际上执行了： org.apache.spark.deploy.SparkSubmit 这个类文件
    3. org.apache.spark.deploy.SparkSubmit 的源码路径：core/src/main/scala/org/apache/spark/deploy/SparkSubmit.scala
    4. 然后打开：core/src/main/scala/org/apache/spark/deploy/SparkSubmit.scala
    5. 这样我们就进入了源码内部

  4. 举例分析—-spark-submit 到底干了什么？

    1. spark-submit 参数检测，添加jar 包
    2. 触发 –class 对应的类，执行我们自己代码的逻辑
    3. 代码逻辑中的每一个acction 操作都会触发 sparkContext 的runJob方法
    4. 随即触发dagScheduler.runJob， runJob 会 调用submitJob, 等待回调结果
# spark
Logo
GitCode 开源社区

旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。

更多推荐

[转载]在Windows环境下安装GNU Radio

转自：在Windows环境下安装GNURadio_恐弱智_新浪博客GNU Radio是用Python开发的，大部分开源的工程能够在Linux环境下运行良好，而Windows下却运行的很勉强，而且安装配置都很复杂。GNU Radio算是个例外了，不光提供了Windows的二进制安装，还有比较详细的说明。我是Python小白，所以折腾了好久才弄好，特意记录下来，免得以后再装还折腾。GNU Radio的

avatar GitCode 开源社区

centOS 8 使用dnf安装Docker

DNF是什么？CentOS 8使用YUM软件包管理器版本v4.0.4。现在，该版本使用DNF(已删除YUM)。DNF是软件包管理器。它会在Linux发行版上安装，执行更新并删除软件包。使用DNF安装Docker跳过具有损坏依赖性的程序包一个有效的解决方案是使您的CentOS 8系统使用以下--nobest命令安装最符合条件的版本：sudo dnf install docker...

avatar GitCode 开源社区

定时同步数据库表(mysql+linux+crontab)

sync.sh里面的参数需要改变，ip/username/password/database/tablesync.sh#!/bin/sh# Please change the IP and password of the data source db.# Then change the table name.filename=/home/nington/db/$(date +%Y-%m

avatar GitCode 开源社区