简体   繁体   English

pySpark 项目的 Azure DevOps CI 管道

[英]Azure DevOps CI Pipeline for a pySpark project

I am trying to implement azure devops on few of my pyspark projects.我正在尝试在我的几个 pyspark 项目上实施 azure devops。

some of the projects are developed in pyCharm and some are in intelliJ with python API.一些项目是在 pyCharm 中开发的,一些项目是在 IntelliJ 中使用 python API 开发的。

Below is the code structure commited in the git repository.下面是在 git 存储库中提交的代码结构。 在此处输入图像描述

setup.py is the build file used to create.egg file. setup.py 是用于创建.egg 文件的构建文件。

I have tried few of the steps as shown below to create a build pipeline in the devops.我已经尝试了如下所示的几个步骤来在 devops 中创建构建管道。 在此处输入图像描述 But the python installation part/execution part is failing with below error.但是 python 安装部分/执行部分失败并出现以下错误。

##[error]The process 'C:\hostedtoolcache\windows\Python\3.7.9\x64\python.exe' failed with exit code 1

I would prefer UI API for building and creating.egg files, If not possible YAML files.我更喜欢 UI API 来构建和创建.egg 文件,如果不可能的话 YAML 文件。

Any leads appreciated!任何线索表示赞赏!

I used Use Python step and then all works like a charm我使用Use Python步骤,然后一切都像魅力一样

在此处输入图像描述

Can you show details of Install Python step?您能否显示Install Python步骤的详细信息?

I have used the following steps and it succeeds!我已经使用了以下步骤,它成功了!

在此处输入图像描述

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM