在从多个异构数据源摄取数据时,如何保证数据质量与一致性(integrity)?
How would you ensure data quality and integrity while ingesting data from multiple heterogeneous sources?
题目类型: 技术面试题
这是一道技术面试题,常见于澳洲IT公司面试中。
难度: hard
分类: data-quality, data-ingestion
标签: Validation, Schema Validation, Deduplication, Profiling
参考答案摘要
TL;DR 可通过数据校验、schema 校验、去重策略与数据 profiling 来保证质量与完整性。异常与不一致可记录日志,并通过规则或人工修正。
本题提供 STAR 原则详细解答和技术解析,登录匠人学院学习中心即可查看完整答案。