cost 291 ms
BERT NER 將多個單詞檢測為一個實體

[英]BERT NER detect multiple words as one entity

我正在使用 bert 來訓練自定義 ner 模型。我正在使用 simpletransformer pacakge。 我有 2 個自定義實體 - 地點、其他在數據集中,對於單詞列,我在行中有多個單詞用於特定標簽,例如 Sentence_id |words |labels 17. |美國 |place ...

RuntimeError:預期所有張量都在同一設備上,但發現至少有兩個設備,cuda:1 和 cuda:0! 使用變壓器架構時

[英]RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:1 and cuda:0! when using transformers architecture

我在通過 pytorch 練習 transformer 時遇到多 gpu 問題。之前使用 pytorch 學習的所有訓練都可以通過將 nn.dataparallel 放在 model object 上來實現。但是,此方法在 seq2seq 之前工作正常,但 transformer 返回以下錯誤: 目 ...

我可以運行我在 google colab 中使用 simpletransformers 制作的 model,但是當我在 spyder 或 Visual Studio 中運行它時,它會出錯

[英]I can run the model which I made with simpletransformers in google colab, but when I run it in spyder or visual studio, it gives an error

2022-08-09 09:00:57.159758:W tensorflow/stream_executor/platform/default/dso_loader.cc:64] 無法加載動態庫“cudart64_110.dll”; dlerror: cudart64_110.dll not ...

pip 安裝 simpletransformers 時出錯

[英]Error when pip installing simpletransformers

我正在嘗試通過 pip 安裝 simpletransformers,但它給了我以下錯誤: " 我正在研究 jupyterhub 並嘗試按照其他情況下的建議使用 Python 3.7 版創建 conda 環境,但問題沒有解決。 歡迎任何提示! ...

簡單的變形金剛什么都不生產?

[英]Simple Transformers producing nothing?

我有一個看起來像這樣的簡單變形金剛腳本。 eval_loss 是{'eval_loss': 0.0001931049264385365} 但是當我運行我的預測腳本時 我明白了 我使用的數據集在這里我對 output 感到非常困惑。任何幫助或解釋為什么它什么都不返回將不勝感激。 ...

SimpleTransformers "max_seq_length" 參數導致 CUDA 在 Kaggle 和 Google Colab 中出現 memory 錯誤

[英]SimpleTransformers "max_seq_length" argument results in CUDA out of memory error in Kaggle and Google Colab

在基於 CamemBERT 微調 sloBERTa 變壓器 model 時,對於具有 SimpleTransformers 的多類分類任務,我想使用 model 參數“max_seq_length”:512,因為之前的工作表明它的包含比包含更好的結果此參數觸發以下錯誤。 在 Kaggle 和 Goo ...

SimpleTransformers model 沒有對整個數據進行訓練(如 epochs 欄下的括號中所示)?

[英]SimpleTransformers model not training on whole data (As shown in brackets under epochs bar)?

我的數據有 1751 個句子,但是在訓練時,一個數字出現在 epochs 條下。 有時它是 1751,這是有道理的,它是我擁有的句子數量,但大多數時候它是數據數量的 50%(我擁有的句子如下圖所示)。 我試圖查看文檔以了解該數字是否應與我的訓練集大小相同,但我找不到答案。 我正在使用帶有 G ...

簡單變壓器的加載池層

[英]Loading pool layer of simple transformer

我有一個經過微調的簡單變壓器表示 model。 現在我想僅以 pickle 格式保存池層的權重,並將其放入我正在設計的另一個自定義自動編碼器的池層中。如何使用 pytorch 和 python 來做到這一點? ...

在訓練評估期間報告其他指標 simpletransformers

[英]reporting other metrics during training evaluation simpletransformers

我正在對大量數據訓練文本分類模型,並且我正在使用 simpletransformer 庫的 bert 分類器(bert-base-uncased)。 默認情況下, eval_loss mcc和eval_loss用於在訓練和測試(eval)階段進行評估。 我能夠為測試階段設置額外的指標,例如 acc、 ...

使用 GPU 和簡單的變壓器 mt5 培訓

[英]using gpu with simple transformer mt5 training

mt5 微調不使用 gpu(volatile gpu utill 0%) 嗨,我正在嘗試使用 mt5-base 模型對 ko-en 翻譯進行微調。 我認為 cuda 設置是正確的(cuda available is True)但是在訓練期間,除了首先獲取數據集(非常短的時間)之外,訓練集不使用 ...

Pytorch 中的水平堆疊

[英]Horizontal stacking in Pytorch

我正在嘗試實施變壓器並停留在某一點。 假設我有形狀 [2,20] 的輸入序列,其中 2 是樣本數,20 是序列中的單詞數(序列長度)。 所以,我創建了一個像 [0,1,2, ... 19] 形狀 [1,20] 的數組。 現在我想堆疊它,最終形狀應該是 [2,20] 以與輸入序列一致。 像下面 ...

使用 simpletransformers 時如何在 wandb 中記錄工件?

[英]How to log artifacts in wandb while using saimpletransformers?

我正在使用simpletransformers創建一個問答模型。 我還想使用 wandb 來跟蹤模型工件。 正如我從wandb docs了解到的, simpletransformers有一個集成接觸點,但沒有提到記錄工件。 我想記錄在訓練、驗證和測試階段生成的工件,例如 train.json、ev ...

默認 SimpleTransformers 設置失敗並出現 ValueError str

[英]Default SimpleTransformers setup fails with ValueError str

我正在嘗試使用SimpleTransformers默認設置來進行多任務學習。 我在這里使用他們網站上的示例代碼如下所示: 目前我什至沒有使用eval_df (盡管我計划在我的真實代碼中使用它),因為它沒有在他們的代碼中正確設置。 在這個超級簡單的設置中,我認為該庫可以正常工作。 然而,在嘗試了兩個 ...

使用 Simpletransformers 為多標簽分類設置不相交的標簽

[英]Set disjoint labels for Multi-Label classification with Simpletransformers

我需要對情緒標簽中的一些文本進行分類。 我正在使用多標簽分類,因為相同的文本可以包含不止一種情緒,但我想實現其中一些是不相交的,比如快樂/悲傷或平靜/憤怒。 假設我在 Python 中有這段代碼: 使用此示例: 我想設置第一個和第二個標簽必須不相交。 我怎么能做到? ...

盡管一遍又一遍地梳理代碼,但繼續獲取“numpy.ndarray”object 沒有屬性“fit”

[英]Keep getting 'numpy.ndarray' object has no attribute 'fit' despite combing over code over and over

下午,我正在嘗試運行我的管道,但我一直遇到錯誤'numpy.ndarray' object has no attribute 'fit',我不知道為什么。 下面是轉換器、管道和數據幀的代碼。 任何提示表示贊賞: ...

在 Docker 容器中加載微調的 simpletransformer model 時出錯

[英]Error while loading fine-tuned simpletransformer model in Docker Container

我正在使用torch.save()和torch.load()命令保存和加載 model。 在 Docker 容器中加載微調的簡單變壓器 model 時,我遇到了這個我無法解決的錯誤: 如果有人對此有任何想法,請告訴我。 我在用: 火炬==1.7.1+cu101 句子轉換器 0.3.9 簡單變壓器 0 ...


 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM