查找网站中最常用的词

Question

我是python的新手。 我有一个简单的程序来查找一个网站中单词的使用次数。

opener = urllib2.build_opener()
opener.addheaders = [('User-agent', 'Mozilla/5.0')]

url = 'http://en.wikipedia.org/wiki/Albert_Einstein'
ourUrl = opener.open(url).read()
soup = BeautifulSoup(ourUrl)
dem = soup.findAll('p') #find paragraphs
for i in dem:    # loop for each para

    words = re.findall(r'\w+', i.text)   
    cap_words = [word.upper() for word in words]
    word_counts = Counter(cap_words)
    print word_counts

这样做是让我逐字地计算字数，而不是网站的总字数。 需要什么更改。 另外，如果我想过滤掉常见的文章，例如，an，我需要包含什么代码。

Answer 1

假设您真的只想查找段落中包含的单词，并且对您的正则表达式感到满意，那么这是获得检索到的文档的总单词数的最小更改：

soup = BeautifulSoup(ourUrl)
dem = soup.findAll('p') #find paragraphs
word_counts = Counter()
for i in dem:    # loop for each para
    words = re.findall(r'\w+', i.text)
    cap_words = [word.upper() for word in words]
    word_counts.update(cap_words)

print word_counts

要忽略常见单词，一种方法是定义可忽略单词的冻结集：

word_counts = Counter()
stopwords = frozenset(('A', 'AN', 'THE'))
for i in dem:    # loop for each para
    words = re.findall(r'\w+', i.text)
    cap_words = [word.upper() for word in words if not word.upper() in stopwords]
    word_counts.update(cap_words)