将爬取的数据存为json格式,你会吗?

之前我都是将数据爬取后存为txt、csv或者excel,json格式几乎没有。于是乎我就想试一下,如何将爬取的数据存为json文件。于是我便查了一下使用json格式的好处,不查不知道,一查吓一跳。好家伙呀,json格式的特点和优势可真不少呢。json格式的特点和优势大致为:

  1. JSON数据清晰、易于读写
  2. JSON有很多工具类支持它的转换
  3. JSON在所有主流浏览器有很好的支持
  4. JSON在传输时数据量更小、传输更快
  5. JSON在JS中有天然的语言优势(因为它是标准的子集合)

因此我就开始试着将爬取的数据存为json格式,在之前我发布过关于文件的操作其中包含了json csv、excel等文件相关操作,因此我也知晓json库的基本使用方法。

于是乎我就先将爬取的数据存为字典
在这里插入图片描述
然后直接将这个字典转为json格式
在这里插入图片描述
诶,发现是错误的,里面的格式有问题,不能这么做。
在这里插入图片描述
于是我又将爬取的数据现存列表,再转json,发现不行,只出现了一条数据
在这里插入图片描述
于是我有开始找问题,诶,突然灵光一闪,应该是放错位置了,爬虫是一直在循环的,如果将空列表定义在这里,那么每一次都会被清空,这不白忙活了吗!好家伙呀好家伙!
于是乎,我将这一段代码放到了最外面,在执行数据数据爬取之前定义一个列表,然后进行列表存储,最完成后再转json
在这里插入图片描述
诶,这下就对咯!
在这里插入图片描述
之后为了保险,我简单的验证了一下json文件,诶,发现莫得问题,哈哈!
在这里插入图片描述
这就是我将爬取的数据存为json格式的历程之路,是不是最简便的方法不知道,是不是最正规的方法不知道,反正解决了问题,嘿嘿!
请添加图片描述
如果大家有什么更加简便的方法或者看出了我存在的问题,欢迎大家在评论区讨论哦!

GitHub 加速计划 / js / json
18
5
下载
适用于现代 C++ 的 JSON。
最近提交(Master分支:3 个月前 )
f06604fc * :page_facing_up: bump the copyright years Signed-off-by: Niels Lohmann <mail@nlohmann.me> * :page_facing_up: bump the copyright years Signed-off-by: Niels Lohmann <mail@nlohmann.me> * :page_facing_up: bump the copyright years Signed-off-by: Niels Lohmann <niels.lohmann@gmail.com> --------- Signed-off-by: Niels Lohmann <mail@nlohmann.me> Signed-off-by: Niels Lohmann <niels.lohmann@gmail.com> 1 天前
d23291ba * add a ci step for Json_Diagnostic_Positions Signed-off-by: Harinath Nampally <harinath922@gmail.com> * Update ci.cmake to address review comments Signed-off-by: Harinath Nampally <harinath922@gmail.com> * address review comment Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix typo in the comment Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix typos in ci.cmake Signed-off-by: Harinath Nampally <harinath922@gmail.com> * invoke the new ci step from ubuntu.yml Signed-off-by: Harinath Nampally <harinath922@gmail.com> * issue4561 - use diagnostic positions for exceptions Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix ci_test_documentation check Signed-off-by: Harinath Nampally <harinath922@gmail.com> * address review comments Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix ci check failures for unit-diagnostic-postions.cpp Signed-off-by: Harinath Nampally <harinath922@gmail.com> * improvements based on review comments Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix const correctness string Signed-off-by: Harinath Nampally <harinath922@gmail.com> * further refinements based on reviews Signed-off-by: Harinath Nampally <harinath922@gmail.com> * add one more test case for full coverage Signed-off-by: Harinath Nampally <harinath922@gmail.com> * ci check fix - add const Signed-off-by: Harinath Nampally <harinath922@gmail.com> * add unit tests for json_diagnostic_postions only Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix ci_test_diagnostics Signed-off-by: Harinath Nampally <harinath922@gmail.com> * fix ci_test_build_documentation check Signed-off-by: Harinath Nampally <harinath922@gmail.com> --------- Signed-off-by: Harinath Nampally <harinath922@gmail.com> 1 天前
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐