spark 读取json文件并分析

本文主要介绍如何通过读取json文件到spark中然后进行分析。
本文阅读前提：
1、能够正常的跑起来spark
2、有一定的scala语言知识
3、了解json4s的基本功能和用法（http://blog.csdn.net/wild46cat/article/details/54171973和http://blog.csdn.net/wild46cat/article/details/54172098）

好，下面上货。
首先是json文件 
{"name":"jack","age":12}
{"name":"lili","age":22}
{"name":"cc","age":11}
{"name":"vv","age":13}
{"name":"lee","age":14}

然后是读取json文件并且解析成对象的scala程序 
import org.json4s._
import org.json4s.jackson.JsonMethods._
import org.json4s.jackson.Serialization
object CC{
	case class Person(name:String,age:Int)
	def my(){
		implicit val formats = Serialization.formats(ShortTypeHints(List()))
		val input = sc.textFile("file:///home/user/sparktemp/testjson.json")
		input.collect().foreach(x => print(x + ","))
		println(" ")
		val first = input.take(1)(0)
		println(first)
		println(first.getClass)
		val p = parse(first).extract[Person]
		println(p.name)
		println("==========")
		input.collect().foreach(x => {var c = parse(x).extract[Person];println(c.name + "," + c.age)})
	}
}

下面是运行截图：


关于具体的json和对象在scala中如何进行转换的，请参考：
http://blog.csdn.net/wild46cat/article/details/54171973
http://blog.csdn.net/wild46cat/article/details/54172098
里面有详细的json4s的使用介绍，再次不在赘述。
# scala # spark # json
GitHub 加速计划 / js / json
41.72 K
6.61 K
下载
适用于现代 C++ 的 JSON。
最近提交(Master分支：26 天前 )
960b763e 3 个月前
8c391e04 6 个月前
Logo
GitCode 开源社区

旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。

更多推荐

[转载]在Windows环境下安装GNU Radio

转自：在Windows环境下安装GNURadio_恐弱智_新浪博客GNU Radio是用Python开发的，大部分开源的工程能够在Linux环境下运行良好，而Windows下却运行的很勉强，而且安装配置都很复杂。GNU Radio算是个例外了，不光提供了Windows的二进制安装，还有比较详细的说明。我是Python小白，所以折腾了好久才弄好，特意记录下来，免得以后再装还折腾。GNU Radio的

avatar GitCode 开源社区

centOS 8 使用dnf安装Docker

DNF是什么？CentOS 8使用YUM软件包管理器版本v4.0.4。现在，该版本使用DNF(已删除YUM)。DNF是软件包管理器。它会在Linux发行版上安装，执行更新并删除软件包。使用DNF安装Docker跳过具有损坏依赖性的程序包一个有效的解决方案是使您的CentOS 8系统使用以下--nobest命令安装最符合条件的版本：sudo dnf install docker...

avatar GitCode 开源社区

定时同步数据库表(mysql+linux+crontab)

sync.sh里面的参数需要改变，ip/username/password/database/tablesync.sh#!/bin/sh# Please change the IP and password of the data source db.# Then change the table name.filename=/home/nington/db/$(date +%Y-%m

avatar GitCode 开源社区