分段激活 Function

Question

我正在嘗試編寫分段激活 function，其 -6 和 0 之間的斜率為 0.1，其他地方為 1。 輸入（X）大小為（B，C，H，W）。 所以我得出結論，最好的方法是簡單的行代碼：

 x[-6<x and x<0] = x[-6<x and x<0] * 0.1

但我面臨這個錯誤：

RuntimeError: bool value of Tensor with more than one value is ambiguous

有沒有解決此錯誤的解決方案？

Answer 1

您需要的最簡單版本是：

import torch

def custom_activ(input):
    return torch.where((input>-6) & (input<0.) , 0.1*input, input)