AI智能
改变未来

关于spark-shell 程序执行中 net.jpountz.lz4.LZ4BlockInputStream.(Ljava/io/InputStream;Z)V 问题

今天在用spark-shell测试的时候,发现报了这个错误,怎么也没想明白是什么原因。

可能是spark默认使用的压缩方式是lz4的,但是jar包又不缺,所以没有弄懂,后续弄懂了再来修改博客

 

目前的解决方案:

将压缩方式改成snappy,这样就不报错了,暂时能用

[code]./spark-shell --master local[2] --conf spark.io.compression.codec=snappy

 

赞(0) 打赏
未经允许不得转载:爱站程序员基地 » 关于spark-shell 程序执行中 net.jpountz.lz4.LZ4BlockInputStream.(Ljava/io/InputStream;Z)V 问题