Apache Spark Delta Lake 寫數(shù)據(jù)使用及實現(xiàn)原理代碼解析
Delta Lake 寫數(shù)據(jù)是其最基本的功能,而且其使用和現(xiàn)有的 Spark 寫 Parquet 文件基本一致,在介紹 Delta Lake
實現(xiàn)原理之前先來看看如何使用它,具體使用如下:
df.write.format("delta").save("/data/yangping.wyp/delta/test/") //數(shù)據(jù)按照 dt 分區(qū)
df.write.format("delta").partitionBy("dt").save("/data/yangping.wyp/delta/test/")
// 覆蓋之前的數(shù)據(jù) df.write.format("delta").mode(SaveMode.Overwrite).save("/data/ya
熱門工具 換一換