簡體   English   中英

從本地ipython筆記本在EC2上運行python進程

[英]Running python process on EC2 from local ipython notebook

我在玩一些python深度學習軟件包(Theano / Lasagne / Keras)。 我一直在筆記本電腦的CPU上運行它,這花費了很長時間來訓練模型。

一段時間以來,我還使用了運行iPython筆記本服務器的Amazon GPU實例,該服務器顯然可以以更快的速度運行,但要進行原型制作非常昂貴。

有什么方法可以讓我在本地計算機上的iPython中進行原型制作,然后當我有一個大型模型來訓練一個GPU實例時,對其進行所有處理/訓練,然后關閉該實例。

這樣的設置是否可行,或者有人建議將本地計算機的便利性與AWS上的臨時處理結合起來嗎?

到目前為止,我的想法是

  1. 本地ipython筆記本上的原型

  2. 設置單元以從頭到尾運行一個漫長的過程。

  3. 使用boto使用boto的sshclient_from_instance將ec2實例ssh啟動到實例中

     ssh_client = sshclient_from_instance(instance, key_path='<path to SSH keyfile>', user_name='ec2-user') 
  4. 使用此處的解決方案獲取我使用腳本設置的單元格的內容,說該腳本在單元格13中,請使用執行該腳本

     ssh_client.run('python -c "'+ _i13 + '"' ) 
  5. 使用Boto關閉實例

這似乎有點令人費解,是否有適當的方法來做到這一點?

因此,當涉及到EC2時,您不必每次都關閉實例。 AWS的優點在於,您可以在使用實例時停止並啟動實例,而只為啟動和運行實例付費。 另外,您始終可以在更小,更便宜的實例上嘗試代碼,如果它太慢而無法滿足您的需求,那么您就可以擴展到更大的實例。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM