[英]PySpark DataFrame unable to drop duplicates
您好我已經創建了一個spark數據幀,我正在嘗試刪除重復項:
df.drop_duplicates(subset='id')
我收到以下錯誤:
Py4JError: An error occurred while calling z:org.apache.spark.api.python.PythonUtils.toSeq. Trace:
py4j.Py4JException: Method toSeq([class java.lang.String]) does not exist
at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:335)
at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:360)
at py4j.Gateway.invoke(Gateway.java:254)
at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:133)
at py4j.commands.CallCommand.execute(CallCommand.java:79)
at py4j.GatewayConnection.run(GatewayConnection.java:209)
at java.lang.Thread.run(Thread.java:745)
我使用的是osx 10.11.4,spark 1.6.1
我跑了這樣一個jupyter筆記本
PYSPARK_DRIVER_PYTHON=jupyter PYSPARK_DRIVER_PYTHON_OPTS='notebook' pyspark
是否有其他一些我可能錯過或出錯的配置?
drop_duplicates
/ dropDuplicates
參數應該是名稱的集合,Java等價物可以轉換為Scala Seq
,而不是單個字符串。 您可以使用以下list
:
df.drop_duplicates(subset=['id'])
或tuple
:
df.drop_duplicates(subset=('id', ))
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.