我可以從 MLP model 的決策邊界獲得符號距離嗎？

Question

我有一個三層 MLP 分類器 model。（輸入層 - 隱藏層 - output 層）。

我想計算數據點與決策邊界的符號距離。

在 SVM 或邏輯回歸的情況下，獲得符號距離並不那么困難。

但是 MLP 呢？

我想檢查“新數據距離決策邊界有多遠”，而沒有新數據的真實 label。

Answer 1

基本上，如果在 output 層中不使用sigmoid激活，分類器 model 的 output 表示與決策邊界的有符號距離。 如果您確實在 output 層中使用了sigmoid激活，則可以使用以下公式使用逆 sigmoid 來找到帶符號的距離。 如果p是分類器 model 的 output 在最后一層有 sigmoid 激活， signed_distance = -ln((1 / (p + 1e-8)) - 1)