將 csv 文件讀取為 dataframe 時模式錯誤

Question

試圖將 csv 文件讀入 dataframe 簡單代碼

df = spark.read.csv("1.csv")

我有

    df.printSchema()
root
 |-- _c0: string (nullable = true)

我也試試這個

db = spark.read.csv("1.csv", header=True, inferSchema= "True")
db.printSchema()
root
 |--                   id                  |                      date                      |                              cases                               |                      country                      |                       deaths                       |   cities   |    per_cap     | 

在此先感謝您的幫助

Answer 1

顯然，您的行分隔符是 pipe | .

嘗試：

db = spark.read.csv("1.csv", sep='|', header=True, inferSchema= "True")

for col in db.columns:
    db = db.withColumnRenamed(col, col.strip())

Answer 2

您應該創建自己的架構。
使用 scala：

val schemaExpected = new StructType()
.add("id" , StringType , nullable = true)
.add("date" , DateType, nullable = true)
...
.add(deaths , IntegerType, nullable = true)

然后你可以讀取你的 DataFrame：

val db = spark.read.option("header","true").schema(schemaExpected).csv("1.csv")