paddle.distribution.Categorical采样概率错误

[loulouzny]

bug描述 Describe the Bug

paddle.distribution.Categorical里面，采样用的是softmax之后的概率，但算probs的时候用又没有用softmax，直接用的归一化的值？这里是不是搞错了。
paddle源码：

class Categorical(distribution.Distribution):
    def __init__(self, logits, name=None):
        ...
        dist_sum = paddle.sum(self.logits, axis=-1, keepdim=True)
        self._prob = self.logits / dist_sum    # 这里相当于torch里面Categorical的probs

    def _logits_to_probs(self, logits, is_binary=False):
        return (
            paddle.nn.functional.sigmoid(logits)
            if is_binary
            else paddle.nn.functional.softmax(logits, axis=-1)
        )
    
   def sample(self, shape):
        ...
        sample_index = multinomial(self._logits_to_probs(logits), num_samples, True)  # 但这里又相当于torch里面Categorical的logits，套了softmax

   def probs(self, value):
        ...
        return paddle.gather(self._prob,
                                 value.reshape([-1], name=name),
                                 name=name).reshape(value.shape, name=name)

其他补充信息 Additional Supplementary Information

No response

[GuoxiaWang]

嗯嗯，我已经看了两边的代码，如你所述，我正向内部反馈这个diff。

[loulouzny]

谢谢。补充一点，这样的话probs也会输出负值，感觉不合理：

logits = paddle.to_tensor([4.0, 3.0, 2.0, -1.0])
d = paddle.distribution.Categorical(logits=logits)
value = paddle.to_tensor([0, 1, 2, 3])
sampled_probs = d.probs(value)
print(sampled_probs)

输出
Tensor(shape=[4], dtype=float32, place=Place(gpu:0), stop_gradient=True, [ 0.50000000, 0.37500000, 0.25000000, -0.12500000])

看了下torch里面，当定义分布的输入是probs而不是logits的时候，是对probs做了限制的，比如不能有负值。