PHP筛选禁止单词的文本

Question

我们有一个C2C网站，我们不鼓励在我们的网站上销售品牌产品。 我们建立了一个品牌词汇数据库，如Nike和D＆G，并制作了一个算法来过滤这些词的产品信息，并禁用产品，如果它包含这些词。

我们当前的算法从提供的文本中删除所有空格和特殊字符，并将文本与数据库中的单词匹配。 这些情况需要通过算法捕获并有效捕获：

• 我是世界的
• 我有n个鞋子
• 我有nikeeshoes
• 我卖i-phone外壳
• 我卖iphone-casing
• 你可以有iphone

现在的问题是它还包含以下内容：

• rapiD服装厂（D＆G）
• rosNIK Electronics（耐克）

如何在捕获真实案例的同时保持效率，可以采取哪些措施来防止这种错误匹配？

编辑

以下是那些更了解代码的人的代码：

$orignal_txt = preg_replace('/&.{0,}?;/', '', (strip_tags($orignal_txt)));
$orignal_txt_nospace = preg_replace('/\W/', '', $orignal_txt);
{
    $qry_kws = array("nike", "iphone", "d&g");
    foreach($qry_kws as $rs_kw)
    {       
        $no_space_db_kw = preg_replace('/\W/', '', $rs_kw);
        if(stristr($orignal_txt_nospace, $rs_kw))
        {
            $ipr_banned_keywords[] = strtolower($rs_kw);
        }
        else if(stristr($orignal_txt_nospace, $no_space_db_kw))
        {
                $ipr_banned_keywords[] = strtolower($rs_kw);
        }

    }
}

Answer 1

只是玩....（不用于生产）

$data = array(
        "i am nike world",
        "i have n ikee shoes",
        "i have nikeeshoes",
        "i sell i-phone casings",
        "i sell iphone-casings",
        "you can have iphone",
        "rapiD Garment factor",
        "rosNIK Electronics",
        "Buy you self N I K E",
        "B*U*Y I*P*H*O*N*E BABY",
        "My Phone Is not available");


$ban = array("nike","d&g","iphone");

例1：

$filter = new BrandFilterIterator($data);
$filter->parseBan($ban);
foreach ( $filter as $word ) {
    echo $word, PHP_EOL;
}

输出1

rapiD Garment factor
rosNIK Electronics
My Phone Is not available

例2

$filter = new BrandFilterIterator($data,true); //reverse filter
$filter->parseBan($ban);
foreach ( $filter as $word ) {
    echo $word, " " , json_encode($word->getBan()) ,  PHP_EOL;
}

输出2

i am nike world ["nike"]
i have n ikee shoes ["nike"]
i have nikeeshoes ["nike"]
i sell i-phone casings ["iphone"]
i sell iphone-casings ["iphone"]
you can have iphone ["iphone"]
Buy you self N I K E ["nike"]
B*U*Y I*P*H*O*N*E BABY ["iphone"]

使用的类

class BrandFilterIterator extends FilterIterator {
    private $words = array();
    private $reverse = false;

    function __construct(array $words, $reverse = false) {
        $this->reverse = $reverse;
        foreach ( $words as $word ) {
            $this->words[] = new Word($word);
        }
        parent::__construct(new ArrayIterator($this->words));
    }

    function parseBan(array $ban) {
        foreach ( $ban as $item ) {
            foreach ( $this->words as $word ) {
                $word->checkMetrix($item);
            }
        }
    }

    public function accept() {
        if ($this->reverse) {
            return $this->getInnerIterator()->current()->accept() ? false : true;
        }
        return $this->getInnerIterator()->current()->accept();
    }
}


class Word {
    private $ban = array();
    private $word;
    private $parts;
    private $accept = true;

    function __construct($word) {
        $this->word = $word;
        $this->parts = explode(" ", $word);
    }

    function __toString() {
        return $this->word;
    }

    function getTrim() {
        return preg_replace('/\W/', '', $this->word);
    }

    function accept() {
        return $this->accept;
    }

    function getBan() {
        return array_unique($this->ban);
    }

    function reject($ban = null) {
        $ban === null or $this->ban[] = $ban;
        $this->accept = false;
        return $this->accept;
    }

    function checkMetrix($ban) {
        foreach ( $this->parts as $part ) {
            $part = strtolower($part);
            $ban = strtolower($ban);
            $t = ceil(strlen(strtolower($ban)) / strlen($part) * 100);
            $s = similar_text($part, $ban, $p);
            $l = levenshtein($part, $part);
            if (ceil($p) >= $t || ($t == 100 && $p >= 75 && $l == 0)) {
                $this->reject($ban);
            }
        }
        // Detect Bad Use of space
        if (ceil(strlen($this->getTrim()) / strlen($this->word) * 100) < 75) {
            if (stripos($this->getTrim(), $ban) !== false) {
                $this->reject($ban);
            }
        }
        return $this->accept;
    }
}

Answer 2

很简单，在删除空格/特殊字符之前进行品牌匹配。 然后它将不匹配这些奇怪的边缘情况。

Answer 3

你已经知道了这一点，但值得明确说明：你当前的算法完全不适合这项任务。 它甚至不能处理简单的情况，更不用说人们故意试图通过你的过滤器的情况了。 你可以用你当前的过滤器做一件事，那就完全扔掉了 - 它无法发挥作用。

虽然我们在这里没有讨论一个obsenity过滤器，但它几乎是同一种概念，因此建议您阅读由obsenity过滤器产生的一些最严重的错误。

• http://www.telegraph.co.uk/news/newstopics/howaboutthat/2667634/The-Clbuttic-Mistake-When-obscenity-filters-go-wrong.html

• http://en.wikipedia.org/wiki/Scunthorpe_problem

这些文章主要涉及误报 - 即过滤器对不应该的东西进行匹配，从而阻止合法的条目。 这种事情可能会非常具有破坏性，因为它会让您的客户感到不安，如果它发生了很多，它会让人们远离您的网站。 自然语言的复杂性几乎是不可避免的。

您还需要了解假阴性。 这些是您的过滤器无法获取应该拾取的东西的地方。 你的问题在于垃圾邮件制造者拥有大量的技术来获取过滤器。 您当前的过滤器很容易过去，但即使是最先进的过滤器也可能会失败 - 请检查您收件箱中收到多少垃圾邮件以获取此类证据。 而且他们一直在改变他们的技术，所以静态算法根本不会长期发挥作用。

贝叶斯过滤器似乎是最适合您的解决方案。 这些过滤器可以随时学习。 您需要密切关注它们并培训它们以识别需要过滤的内容，因此设置起来会有一些工作，但我怀疑您是否会以任何其他方式提供可行的解决方案。

Answer 4

这只是一个想法。

为什么不首先进行匹配，如果它遇到“品牌”过滤器，它会被放入审核队列中供您接受/拒绝，突出显示匹配以便于发现。

人类将能够发现几乎是立即和准确地使用品牌。 你甚至可以把它变成机器学习，谁知道:)

话虽如此，这不是一个正则表达式问题，并不能通过漂亮的表达来解决; 系统需要训练，记住命中（增加信心）并从未命中中学习。