Django/PostgreSQL 全文搜索 - 在 AWS RDS PostgreSQL 上使用 SearchVector 与 SearchVectorField 时的不同搜索结果

Question

我正在尝试使用 Django SearchVectorField来支持全文搜索。 但是，当我在我的模型上使用SearchVectorField与在我的视图中实例化SearchVector类时，我得到了不同的搜索结果。 该问题与 AWS RDS PostgreSQL 实例隔离。 两者在我的笔记本电脑上的表现相同。

让我试着用一些代码来解释它：

# models.py

class Tweet(models.Model):
    def __str__(self):
        return self.tweet_id

    tweet_id = models.CharField(max_length=25, unique=True)
    text = models.CharField(max_length=1000)
    text_search_vector = SearchVectorField(null=True, editable=False)

    class Meta:
        indexes = [GinIndex(fields=['text_search_vector'])]

我已经用搜索向量填充了所有行，并在数据库上建立了一个触发器以保持该字段是最新的。

# views.py

query = SearchQuery('chance')
vector = SearchVector('text')

on_the_fly = Tweet.objects.annotate(
    rank=SearchRank(vector, query)
).filter(
    rank__gte=0.001
)

from_field = Tweet.objects.annotate(
    rank=SearchRank(F('text_search_vector'), query)
).filter(
    rank__gte=0.001
)

# len(on_the_fly) == 32
# len(from_field) == 0

on_the_fly使用SearchVector实例，返回 32 个结果。 使用from_field的SearchVectorField返回 0 个结果。

空结果提示我进入 shell 进行调试。 这是我的python manage.py shell环境中命令行的一些输出：

>>> qs = Tweet.objects.filter(
...     tweet_id__in=[949763170863865857, 961432484620787712]
... ).annotate(
...     vector=SearchVector('text')
... )
>>> 
>>> for tweet in qs:
...     print(f'Doc text: {tweet.text}')
...     print(f'From db:  {tweet.text_search_vector}')
...     print(f'From qs:  {tweet.vector}\n')
... 
Doc text: @Espngreeny Run your 3rd and long play and  compete for a chance on third down.
From db:  '3rd':4 'chanc':12 'compet':9 'espngreeni':1 'long':6 'play':7 'run':2 'third':14
From qs:  '3rd':4 'a':11 'and':5,8 'chance':12 'compete':9 'down':15 'espngreeny':1 'for':10 'long':6 'on':13 'play':7 'run':2 'third':14 'your':3

Doc text: No chance. It was me complaining about Girl Scout cookies. <url-removed-for-stack-overflow>
From db:  '/aggcqwddbh':13 'chanc':2 'complain':6 'cooki':10 'girl':8 'scout':9 't.co':12 't.co/aggcqwddbh':11
From qs:  '/aggcqwddbh':13 'about':7 'chance':2 'complaining':6 'cookies':10 'girl':8 'it':3 'me':5 'no':1 'scout':9 't.co':12 't.co/aggcqwddbh':11 'was':4

将数据库中的值与通过 Django 生成的值进行比较时，您可以看到搜索向量看起来非常不同。

有没有人对为什么会发生这种情况有任何想法？ 谢谢！

Answer 1

SearchQuery将用户提供的术语转换为搜索查询对象，数据库将其与搜索向量进行比较。 默认情况下，用户提供的所有单词都会通过词干算法，然后它会查找所有结果术语的匹配项。 有两个问题需要解决，首先给出关于语言的词干算法信息。

query = SearchQuery('chance' , config="english")

其次是替换这一行

rank=SearchRank(F('text_search_vector'), query)

和

rank=SearchRank('text_search_vector', query)

关于text_search_vector的缺失词，这是词干算法的标准程序，用于删除称为停用词的常见词