布隆过滤器(Bloom Filter)是一种用于快速判断一个元素是否属于某个集合的概率型数据结构。它基于哈希函数和位数组实现,可以高效地检索一个元素是否存在,但不提供元素具体的存储和获取功能。
布隆过滤器原理
上面的思路其实就是布隆过滤器的思想,只不过因为 hash 函数的限制,多个字符串很可能会 hash 成一个值。为了解决这个问题,布隆过滤器引入多个 hash 函数来降低误判率。
下图表示有三个 hash 函数,比如一个集合中有 x,y,z 三个元素,分别用三个 hash 函数映射到二进制序列的某些位上,假设我们判断 w 是否在集合中,同样用三个 hash 函数来映射,结果发现取得的结果不全为 1,则表示 w 不在集合里面。
布隆过滤器处理流程
布隆过滤器应用很广泛,比如垃圾邮件过滤,爬虫的 url 过滤,防止缓存击穿等等。下面就来说说布隆过滤器的一个完整流程,相信读者看到这里应该能明白布隆过滤器是怎样工作的。
第一步:开辟空间
开辟一个长度为 m 的位数组(或者称二进制向量),这个不同的语言有不同的实现方式,甚至你可以用文件来实现。
第二步:寻找 hash 函数
获取几个 hash 函数,前辈们已经发明了很多运行良好的 hash 函数,比如 BKDRHash,JSHash,RSHash 等等。这些 hash 函数我们直接获取就可以了。
第三步:写入数据
将所需要判断的内容经过这些 hash 函数计算,得到几个值,比如用 3 个 hash 函数,得到值分别是 1000,2000,3000。之后设置 m 位数组的第 1000,2000,3000 位的值位二进制 1。
第四步:判断
接下来就可以判断一个新的内容是不是在我们的集合中。判断的流程和写入的流程是一致的。
在PHP中如何使用
在PHP中,可以使用BloomFilter扩展库或自行实现布隆过滤器。下面我将介绍两种方法。
1. 使用BloomFilter扩展库
PHP中有一些第三方扩展库提供了布隆过滤器的功能。其中比较常用的是phpbloomd
扩展,它提供了对布隆过滤器的支持。你可以按照该扩展库的文档进行安装和使用。
示例代码如下:
// 创建一个布隆过滤器 $filter = new BloomFilter(); // 向过滤器添加元素 $filter->add("element1"); $filter->add("element2"); $filter->add("element3"); // 检查元素是否存在于过滤器中 if ($filter->has("element1")) { echo "Element 1 may exist."; } else { echo "Element 1 does not exist."; }
2. 自行实现布隆过滤器
如果你不想使用第三方扩展库,也可以自行实现布隆过滤器。下面是一个简单的自实现布隆过滤器的示例代码:
class BloomFilter { private $bitArray; private $hashFunctions; public function __construct($size, $numHashFunctions) { $this->bitArray = array_fill(0, $size, false); $this->hashFunctions = $numHashFunctions; } private function hash($value) { $hashes = []; $hash1 = crc32($value); $hash2 = fnv1a32($value); for ($i = 0; $i < $this->hashFunctions; $i++) { $hashes[] = ($hash1 + $i * $hash2) % count($this->bitArray); } return $hashes; } public function add($value) { $hashes = $this->hash($value); foreach ($hashes as $hash) { $this->bitArray[$hash] = true; } } public function has($value) { $hashes = $this->hash($value); foreach ($hashes as $hash) { if (!$this->bitArray[$hash]) { return false; } } return true; } } // 创建一个布隆过滤器 $filter = new BloomFilter(100, 3); // 向过滤器添加元素 $filter->add("element1"); $filter->add("element2"); $filter->add("element3"); // 检查元素是否存在于过滤器中 if ($filter->has("element1")) { echo "Element 1 may exist."; } else { echo "Element 1 does not exist."; }