WINDOWS10环境下单机下调试pyspark代码,在没有配置HADOOP_HOME的环境变量,会产生

ERROR Shell:397 - Failed to locate the winutils binary in the hadoop binary path
java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.

的错误,解决的方法是要代码中加入

os.environ['HADOOP_HOME'] = 'F:\winutils'

并且在项目加入,目录 结构如下

F:\2019download\Users\pingan\PycharmProjects\pyshark-project 的目录

2019/01/07  09:44    <DIR>          .
2019/01/07  09:44    <DIR>          ..
2019/01/06  11:00    <DIR>          .idea
2019/01/04  09:31    <DIR>          spark
2019/01/04  09:09    <DIR>          venv
2019/01/07  09:44    <DIR>          winutils
               0 个文件              0 字节

    

GitHub 加速计划 / wi / winutils
2.51 K
3 K
下载
Windows binaries for Hadoop versions (built from the git commit ID used for the ASF relase)
最近提交(Master分支:2 个月前 )
e8089ecf - 1 年前
d4f71517 point people at cdarlint/winutils for binaries and call out the fact that we could remove the need for this entirely just to run spark on windows 5 年前
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐