今天在用spark-shell测试的时候,发现报了这个错误,怎么也没想明白是什么原因。
可能是spark默认使用的压缩方式是lz4的,但是jar包又不缺,所以没有弄懂,后续弄懂了再来修改博客
目前的解决方案:
将压缩方式改成snappy,这样就不报错了,暂时能用
[code]./spark-shell --master local[2] --conf spark.io.compression.codec=snappy
今天在用spark-shell测试的时候,发现报了这个错误,怎么也没想明白是什么原因。
可能是spark默认使用的压缩方式是lz4的,但是jar包又不缺,所以没有弄懂,后续弄懂了再来修改博客
目前的解决方案:
将压缩方式改成snappy,这样就不报错了,暂时能用
[code]./spark-shell --master local[2] --conf spark.io.compression.codec=snappy