[英]PySpark application submitting error on Yarn cluster mode and standalone mode
[英]PySpark application submit error on Yarn cluster mode
我试图以集群模式提交我的PySpark应用程序,并且在提交应用程序时遇到以下错误。
注意:我的应用程序没有任何依赖项。
spark2-submit --master yarn --driver-memory 4g --executor-memory 8g --num-executors 50 --executor-cores 2 --conf spark.dynamicAllocation.enabled=false --py-files filepath
我收到以下错误
Exception in thread "main" java.lang.IllegalArgumentException: Missing application resource.
您必须将要提交的应用程序名称作为参数传递给spark-submit,即,将应用程序的文件名添加到spark-submit命令的末尾。
spark2-submit --master yarn --driver-memory 4g --executor-memory 8g --num-executors 50 --executor-cores 2 --conf spark.dynamicAllocation.enabled=false --py-files filepath **filename.py**
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.