繁体   English   中英

Dataprep-输出为BigQuery时,数据流失败

[英]Dataprep - Dataflow fails when output is BigQuery

作为POC的一部分,我试图通过Dataprep进行一些数据质量检查。 有一个BigQuery表作为源,它应该运行一个作业,并输出到另一个BigQuery。 不幸的是,该作业失败并出现错误:

java.lang.RuntimeException: Failed to create job with prefix beam_load_[thenameofthejob], reached max retries: 3, last failed job: null.
   at org.apache.beam.sdk.io.gcp.bigquery.BigQueryHelpers$PendingJob.runJob(BigQueryHelpers.java:196)
   at org.apache.beam.sdk.io.gcp.bigquery.BigQueryHelpers$PendingJobManager.waitForDone(BigQueryHelpers.java:149)
   at org.apache.beam.sdk.io.gcp.bigquery.WriteTables$WriteTablesDoFn.finishBundle(WriteTables.java:255) .

请问您如何解决这个问题?

我已经编辑了配方,并没有在那里设置任何转换,只是为了查看作业是否运行-再次失败。 当我将此dataprep数据流输出到csv中时,它起作用。 它全部在欧盟地区运行。

尝试转到bigquery页面,然后转到任务历史记录。 后续步骤是转到任务历史记录内的选项卡项目历史记录。 尝试失败时,您会在此处找到红色的感叹号。 如果单击该案例,将看到该案例的特定错误消息。

就我而言,这是不同的位置,但是您的位置很好,所以据我所能估计。 希望对您有帮助。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM