機器學習：如何生成輸出多元變量而不是統一變量的回歸模型？

Question

給定D =（x，y），y = F（x），似乎大多數機器學習方法僅將y輸出為單變量，標簽或實數值。 但是我面臨的情況是x向量只能具有5〜9個維，而我需要y是一個最多可以具有800個維的多項式分布向量。 這使問題確實棘手。

我研究了多任務機器學習方法中的很多內容，可以同時訓練所有這些y_i。 當然，另一種愚蠢的方式是，我也可以單獨訓練所有這些維度，而無需考慮任務之間的聯系。 但是問題是，在復習了許多論文之后，大多數MTL實驗似乎只處理10到30個任務，這意味着800個任務可能是瘋狂的並且難以訓練。 也許群集可能是一種解決方案，但是我真的很好奇，有人能提出其他建議來解決該問題的建議嗎，而不是從MTL的角度來看。

Answer 1

當輸入是如此“小”而輸出如此之大時，我希望這些輸出值會有不同的表示形式。 您可以分析它們是某種線性還是非線性組合，以便估計“功能參數”而不是值本身。 示例：我們曾經估計過一個可以“減少”為正態分布的加權和的時間序列，因此我們只需要估計權重和參數即可。

最后，在只有6個輸入參數的情況下，從某種意義上講，您將僅到達6到12維的子空間（可能不是線性的）。 當然，它們可能會有些復雜，但是要避免在800個昏暗的空間中出現混亂，我真的會考慮對結果進行參數化。

正如我評論的那樣，我知道機器學習會產生向量。 http://en.wikipedia.org/wiki/Bayes_estimator