图像相似度比较

Question

我最初在cstheory.stackexchange.com上问过这个问题，但有人建议将其移至stats.stackexchange.com 。

是否有现有的算法可以返回两个位图图像之间的相似性度量？ 通过“相似”，我的意思是人类会说这两个图像是从同一张照片中修改而来的。 例如，算法应该说以下 3 张图像是相同的（原始、位置偏移、缩小）。

相同的

我不需要检测扭曲或翻转的图像。 我也不需要检测它是否是不同方向的同一个对象。

不同的

我想使用这个算法来防止我网站上的垃圾邮件。 我注意到垃圾邮件发送者懒得更改他们的垃圾邮件图片。 它不仅限于面孔。 我已经知道已经有很多很棒的面部识别算法了。 垃圾邮件图片可以是任何内容，从 URL 到足球场再到裸体。

Answer 1

有一个关于堆栈溢出的图像相似性算法的讨论。 由于您不需要检测扭曲或翻转的图像，如果图像裁剪不太严重，直方图方法可能就足够了。

Answer 2

您可以使用现有的深度学习架构（如 VGG）从图像生成特征，然后使用余弦相似度等相似度度量来查看两个图像是否本质上相同。

整个管道非常容易设置，您无需了解神经网络架构（您可以将其视为黑匣子）。 此外，这些特征非常通用，可用于查找任何类型对象之间的相似性，而不仅仅是人脸。

这里有几个博客可以引导您完成整个过程。 http://blog.ethanrosenthal.com/2016/12/05/recasketch-keras/ https://erikbern.com/2015/09/24/nearest-neighbor-methods-vector-models-part-1.html

Answer 3

亚马逊有一个名为Rekognition的新 API，它允许您比较两个图像的面部相似性。 该 api 返回每张脸彼此之间的相似度百分比以及每张脸的边界框。

Rekognition 还包括用于面部分析（返回性别、大致年龄和其他相关面部详细信息）和对象场景检测（返回图像中对象的标签）的 API。

Answer 4

计算图像相似度的一项重要技术是“平均结构相似度”。

import cv2
from skimage import compare_ssim


img = cv2.imread('img_1.png')
img_2 = cv2.imread('img_2.png')

print(compare_ssim(img, img_2))

Answer 5

使用https://github.com/Netflix/vmaf比较两组图像。

首先使用ffmpeg将图像转换为yuv422p，然后运行测试。 注意分数差异。 这可用于判断图像是相似还是不同。 对于这个样本，它们看起来非常相似......

ffmpeg -i .\different-pose-1.jpg  -s 1920x1080 -pix_fmt yuv422p different-pose-1.yuv
ffmpeg -i .\different-pose-2.jpg  -s 1920x1080 -pix_fmt yuv422p different-pose-2.yuv
.\vmafossexec.exe yuv422p 1920 1080 different-pose-1.yuv different-pose-2.yuv vmaf_v0.6.1.pkl --ssim --ms-ssim --log-fmt json --log different.json
Start calculating VMAF score...
Exec FPS: 0.772885
VMAF score = 2.124272
SSIM score = 0.424488
MS-SSIM score = 0.415149

ffmpeg.exe -i .\same-pose-1.jpg  -s 1920x1080 -pix_fmt yuv422p same-pose-1.yuv
ffmpeg.exe -i .\same-pose-2.jpg  -s 1920x1080 -pix_fmt yuv422p same-pose-2.yuv
.\vmafossexec.exe yuv422p 1920 1080 same-pose-1.yuv same-pose-2.yuv vmaf_v0.6.1.pkl --ssim --ms-ssim --log-fmt json --log same.json
Start calculating VMAF score...
Exec FPS: 0.773098
VMAF score = 5.421821
SSIM score = 0.285583
MS-SSIM score = 0.400130

如何在 Ubuntu 上从 JPEG 或其他图像创建 YUV422 帧

Answer 6

如果您只想要图像相似性，那是一回事，但面部相似性又是另一回事。 两个截然不同的人可能出现在同一背景中，图像相似性分析表明他们是相同的，而同一个人可能在两种不同的环境中拍摄，相似性分析表明他们是不同的。

如果您需要进行面部分析，您应该搜索特定于此的算法。 在这种分析中，通常会计算相对的眼睛、鼻子和嘴巴的大小和位置。

Answer 7

健壮的哈希函数可以做到这一点。 但是在该领域仍有很多研究正在进行。 我不确定是否已经有可用的原型。

希望有帮助。