cost 404 ms
Angular 11 - 數據量問題

[英]Angular 11 - Data volumetry issues

我的應用程序運行良好,除非來自服務的響應帶回大量數據。 這將是服務的響應:(當“錯誤”數組有超過 10000 個元素時,問題就出現了) 發生這種情況時,瀏覽器會崩潰,並且我會收到一條關閉選項卡的消息。 (我正在使用 Chrome,但該應用程序適用於所有瀏覽器)。 當服務響應 200,但帶來了 ...

大 SQL 請求優化人臉歐氏距離計算

[英]Large SQL Request optimization for Faces Euclidean Distances calculations

我正在計算人臉之間的歐幾里德距離,並希望將結果存儲在表格中。 當前設置: 每個面都存儲在 Objects 表中,面之間的距離存儲在 Faces_distances 表中。 object表有以下列objects_id, face_encodings, description faces_dista ...

Plotly 分散海量地理數據

[英]Plotly scatter large volume geographic data

我嘗試編寫一個代碼,創建 2021 年發生的所有森林火災的可視化。包含數據的 CSV 文件大約為 1.5Gb,該程序對我來說看起來是正確的,但是當我嘗試運行它時,它卡住了不顯示任何可視化或錯誤消息。 上次我試了一下,運行了將近半天,直到 python 崩潰。 我不知道我是否有一個無限循環,如果那是因 ...

使用大量文件時標記數據時出錯

[英]Error tokenizing data when I use a high number of files

我正在嘗試從 > 3,000 個文件的列表中為每個文件創建一個數據框。 當我使用少量文件時,我的代碼工作正常,但是當我嘗試更大的數字(> 300 個文件)時,我不斷收到相同的錯誤: ParserError:標記數據時出錯。 C 錯誤:第 4 行中應有 1 個字段,看到 5 個 這是 ...

如何修復 Python 3 不在一個圖中處理多個圖?

[英]How can I fix Python 3 not handling multiple plots in one figure?

我正在處理的一個項目要求我將多個圖放在一個圖中,就像在一個圖中放置 100 多個圖一樣,而我正在使用的數據集目前正好有 100 個圖。 我正在使用 Jupyter 測試代碼,然后將完成的代碼放入 Visual Studios 2019 中。在 Jupyter 中,我能夠在一個圖中 plot 大約 ...

使用 docker 到 package 一個 web 應用程序,包括固定的 Z62A004B95946BB73AZ41AFA471DCCA

[英]Using docker to package a web app including fixed MySQL data

我有一個網站,其中包含非常具體的 JS 代碼,與一個大型、不變的 MySQL 數據庫相關聯。 我希望能夠將網站和數據庫作為單個 package 分發,以便其他人能夠在本地運行,因此我一直在研究使用 docker 來執行此操作。 請注意,我沒有使用 docker 來測試正在運行的應用程序:僅用於分發 ...

Python:程序運行慢

[英]Python: Program running Slooooow

我的 Pandas 數據分析運行非常緩慢,我想知道是否有人可以幫忙。 我有 2 個數據幀,我正在嘗試比較一個幀中的 IP 地址是否是另一幀中網絡的一部分: VFFrame 包含 10 列,4798 行:'CIDR' 列包含網絡 AssetFrame 包含 3368 列,115816 行:“IPv4 ...

在寫入文本文件時添加分隔符

[英]Add delimiters while writing into a text file

我正在將一個數組寫入文本文件,稍后我用它來讀取 excel 以進行繪圖。 數據文件以這樣的方式拆分,即在 1000000 步(大約)之后,文件關閉並開始寫入另一個文件。 但是,我的文本文件正在將數據寫入一大塊沒有任何分隔符的值。 請參考下面的代碼,讓我知道我哪里出錯了。 謝謝! ...

在 python 中拆分大數據文件

[英]Splitting large data file in python

我把 output 一個大數組轉換成一個文本文件在 python 中。 然后我在 excel 到 plot 中讀取數據。 目前,我正在編寫的文件太大,無法在 excel 中讀取。 我使用文件打開和關閉函數並將數據寫入數組(請參閱代碼):with open("abc.txt", "w") as fil ...

WCF 服務與 30mb 輸入字符串 - 遠程服務器返回錯誤:(413)請求實體太大

[英]WCF service with 30mb input string - The remote server returned an error: (413) Request Entity Too Large

客戶正在調用我的 WCF 方法,xml(保存到文件時大約 30mb)和 IIS 返回 413 到 2gb 嘗試設置上傳; 沒用。 還嘗試將綁定的maxBufferSize增加到 2gb。 我的 WCF 服務托管在帶有幾台服務器的負載均衡器上; 由於證書驗證到位,我無法進行隔離測試。 我沒有嘗試的是協 ...

英特爾 MKL 或某些類似庫是否提供了一種矢量化方法來計算數組中滿足 C 中某些條件的元素數量?

[英]Does Intel MKL or some similar library provide a vectorized way to count the number of elements in an array fulfilling some condition in C?

問題我正在使用一些相當大的 arrays(從數千萬個浮點數及以上)實現和改進優化算法,並主要在 C 中使用英特爾 MKL(不是 ZF6F87C9FDCF8B3C3F07F93F1EE8)至少擠出所有可能的 9 位 C,71表現。 現在我遇到了一個愚蠢的問題——我有一個參數可以為一組(數千萬)系數的 ...

Openstack nova 掛載卷

[英]Openstack nova mount volumes

我將一個卷掛載為 /vda,我創建了一個新卷,即 /vdb。 現在,當我掛載這個新卷時,我想我可以將它掛載到 vda 上的現有目錄中?? 因此增加了現有目錄的整體大小?? ...

在EC2上運行大數據集,擔心存儲

[英]Running large data set on EC2, worried about storage

我正在通過 EC2 運行一些序列分析。 我希望我的 output 文件超過 2 Tb。 在我運行我的命令之前,我想確保我有足夠的空間。我將我的實例類型更改為一種用於數據處理 d2.4xlarge。 我的問題:如果我正在運行我的命令,並且 output 文件超過了 xvda 的存儲容量,它會自動切換到 ...

用於傳輸大量文件的 IBM MQ 調優

[英]IBM MQ tuning for tranfer a large number of file

我有一個使用 IBM MQ 傳輸文件的項目。 有10000個客戶端和一個數據中心。 最大的文件大小幾乎是 8MB。 MQ 集群包含三個 MQ 管理器,它們位於不同的 Windows 服務器上。 每個 MQ 管理器有 5 個客戶端通道和 5 個數據中心通道。 有兩種情況可供測試。 在每種情況下,客戶 ...

database/sql rows.scan 在 350K 行后掛起

[英]database/sql rows.scan hangs after 350K rows

我的任務是從 Oracle 數據庫中提取數據,我正在嘗試提取具有 100 列的大量數據 > 6MM 記錄進行處理。 需要將數據轉換為 Map。 我成功地在不到 35 秒的時間內處理了 35 萬條記錄。 之后,服務器掛起並且不再繼續。 有沒有一種方法可以根據行大小對它們進行批處理或對它們進行批處 ...

大量刪除循環

[英]Loop for deleting large amount

我需要以最快的方式刪除 50 條記錄中的 2000 萬條記錄。 我嘗試使用下面的循環來完成這項工作: 但是當我執行它時它不會循環,它只會刪除 199,999 條記錄。 我在這里做錯了什么? 我正在使用 oracle SQL 開發人員版本 18 ...

如何在不知道數據庫總行數的情況下執行自定義分頁

[英]How to perform custom pagination without knowing the total number of rows from DB

我正在嘗試執行分頁。 我正在使用存儲過程來獲取我的數據。 如果我在我的桌子上做 Count(*),因為桌子很大,所以需要幾分鍾才能給我結果。 在不知道總行數的情況下,我還能如何進行分頁。 我嘗試獲取有關頁面大小的數據,並嘗試在后台的異步調用中從 DB 獲取總行數,以便我可以快速加載頁面但獲取總行數以 ...

處理大量 .txt 文件(和整體大尺寸)的提示 - python?

[英]Tips for working with large quantity .txt files (and overall large size) - python?

我正在編寫一個腳本來解析 txt 文件並將它們存儲到我可以導出到 CSV 的 Pandas 數據幀中。 當我使用 <100 個文件時,我的腳本很容易運行 - 但是現在當我嘗試在完整示例上運行它時,我遇到了很多問題。 我正在處理大約 8000 個 .txt 文件,平均大小為 300 KB,因 ...

通過緩存或分區加速Oracle選擇

[英]Speed Up Oracle Select by Cache or partition

我有一個帶有100+萬行的Oracle MV。 我們的許多代碼都針對此視圖進行調用,因此我想保持語法完整,並確保這些調用非常快。 由於業務邏輯的原因,我知道少於一百萬行就足以回答99%以上的所有呼叫。 假設這100萬行位於分區1中。我想知道: Oracle是否(可能)自行發現 ...


 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM