如何只压缩 mapper 输出而不影响 reducer 输出?
How to compress a mapper output not touching reducer output?
题目类型: 技术面试题
这是一道技术面试题,常见于澳洲IT公司面试中。
难度: medium
分类: MapReduce, 性能优化
标签: mapreduce, compression, map-output, reducer-output
参考答案摘要
配置方式 开启 mapper 输出压缩,同时关闭最终输出文件压缩: conf.set("mapreduce.map.output.compress", true) conf.set("mapreduce.output.fileoutputformat.compress", false)
本题提供 STAR 原则详细解答和技术解析,登录匠人学院学习中心即可查看完整答案。