![](/img/trans.png)
[英]how to pass parameter to glue job using boto3 create_job programmatically
[英]Boto3 Glue client create_job() module path error `ModuleNotFoundError`
我正在嘗試使用 boto3 客戶端create_job()
創建膠水作業,這是腳本:
job = client.create_job(Name=xxx,
Role=xxx,
Command={
'Name': 'glueetl',
'ScriptLocation': 's3://my_bucket_name/my_project_name/src/glue.py',
'PythonVersion': '3'},
DefaultArguments={
'--job-language': 'python',
'--extra-py-files': 's3://my_bucket_name/my_project_name/src/test.zip',
'--conf': 'spark.yarn.executor.memoryOverhead=7g --conf spark.jars.packages=xxx',
},
ExecutionProperty={
'MaxConcurrentRuns': 1
},
GlueVersion='1.0'
)
test.zip
中的結構是__init__.py
文件 + 'glue.py' 文件(與ScriptLocation
中指定的文件重復)+ example.py
在 'glue.py' 我有import example
,然后作業失敗並出現錯誤"ErrorMessage":"ModuleNotFoundError: No module named \'example\'"
。
我嘗試from test import example
但沒有工作,我很困惑並被困在這里,Glue 如何讀取和導入模塊? 我需要設置什么嗎? 請問有人可以幫忙嗎? 非常感謝。
_init_.py
不正確。 它應該是__init__.py
.py(雙下划線),如AWS docs中所述。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.