Spark Dataset 是什么?它和 DataFrame 有什么区别?
What are Spark Datasets?
题目类型: 技术面试题
这是一道技术面试题,常见于澳洲IT公司面试中。
难度: medium
分类: Spark SQL, Datasets
标签: dataset, strongly-typed, encoders, dataframe-api
参考答案摘要
定义 Dataset 是 Spark SQL 中一种 强类型(strongly typed) 的数据结构,能够映射到关系型 schema,并通过 encoders 表达结构化查询。 与 DataFrame 的关系 Dataset 是 DataFrame API 的扩展。 它同时提供 类型安全(type safety) 与面向对象编程接口。
本题提供 STAR 原则详细解答和技术解析,登录匠人学院学习中心即可查看完整答案。