拜托，面试官别问我「布隆」了

题目描述

一个网站有 100 亿 url 存在一个黑名单中，每条 url 平均 64 字节。这个黑名单要怎么存？若此时随便输入一个 url，你如何快速判断该 url 是否在这个黑名单中？面试

题目解析

这是一道常常在面试中出现的算法题。凭借着题目极其容易描述，电面的时候也出现过。算法

不考虑细节的话，此题就是一个简单的查找问题。对于查找问题而言，使用散列表来处理每每是一种效率比较高的方案。数据库

可是，若是你在面试中回答使用散列表，接下来面试官确定会问你：而后呢？若是你不能回答个因此然，面试官就会面无表情的通知你：今天的面试到此结束，咱们会在一周内给你答复。网页爬虫

为何不能用散列表

100 亿是一个很大的数量级，这里每条 url 平均 64 字节，所有存储的话须要 640G 的内存空间。又由于使用了散列表这种数据结构，而散列表是会出现散列冲突的。为了让散列表维持较小的装载因子，避免出现过多的散列冲突，须要使用链表法来处理，这里就要存储链表指针。所以最后的内存空间可能超过 1000G 了。数组

只是存储个 url 就须要 1000G 的空间，老板确定不能忍！缓存

位图（BitMap）

这个时候就须要拓展一下思路。首先，先来考虑一个相似但更简单的问题：如今有一个很是庞大的数据，好比有 1 千万个整数，而且整数的范围在 1 到 1 亿之间。那么如何快速查找某个整数是否在这 1 千万个整数中呢？bash

须要判断该数是否存在，也就是说这个数存在两种状态：存在（ True ）或者不存在（False）。服务器

所以这里可使用一个存储了状态的数组来处理。这个数组特色是大小为 1 亿，而且数据类型为布尔类型（ True 或者 False ）。而后将这 1 千万个整数做为数组下标，将对应的数组值设置成 True，好比，整数 233 对应下标为 233 的数组值设置为 True，也就是 array[ 233 ] = True。数据结构

这种操做就是位图法：就是用每一位来存放某种状态，适用于大规模数据，但数据状态又不是不少的状况。函数

另外，位图法有一个优点就是空间不随集合内元素个数的增长而增长。它的存储空间计算方式是找到全部元素里面最大的元素（假设为 N ），所以所占空间为：

所以，当 N 为 1 亿的时候须要 12MB 的存储空间。当 N 为 10 亿的时候须要 120MB 的存储空间了。也就是说：位图法的所占空间随集合内最大元素的增大而增大。这就会带来一个问题，若是查找的元素数量少但其中某个元素的值很大，好比数字范围是 1 到 1000 亿，那消耗的空间不容乐观。

所以，出于性能和内存占用的考虑，在这里使用布隆过滤器才是最好的解决方案：布隆过滤器是对位图的一种改进。

布隆过滤器

布隆过滤器（英语：Bloom Filter）是 1970 年由 Burton Bloom 提出的。

它其实是一个很长的二进制矢量和一系列随机映射函数。
复制代码

它能够用来判断一个元素是否在一个集合中。它的优点是只须要占用很小的内存空间以及有着高效的查询效率。

对于布隆过滤器而言，它的本质是一个位数组：位数组就是数组的每一个元素都只占用 1 bit ，而且每一个元素只能是 0 或者 1。

布隆过滤器除了一个位数组，还有 K 个哈希函数。当一个元素加入布隆过滤器中的时候，会进行以下操做：

使用 K 个哈希函数对元素值进行 K 次计算，获得 K 个哈希值。
根据获得的哈希值，在位数组中把对应下标的值置为 1。

举个例子，假设布隆过滤器有 3 个哈希函数：f1, f2, f3 和一个位数组 arr。如今要把 2333 插入布隆过滤器中：

对值进行三次哈希计算，获得三个值 n1, n2, n3。
把位数组中三个元素 arr[n1], arr[n2], arr[3] 都置为 1。

当要判断一个值是否在布隆过滤器中，对元素进行三次哈希计算，获得值以后判断位数组中的每一个元素是否都为 1，若是值都为 1，那么说明这个值在布隆过滤器中，若是存在一个值不为 1，说明该元素不在布隆过滤器中。

很明显，数组的容量即便再大，也是有限的。那么随着元素的增长，插入的元素就会越多，位数组中被置为 1 的位置所以也越多，这就会形成一种状况：当一个不在布隆过滤器中的元素，通过一样规则的哈希计算以后，获得的值在位数组中查询，有可能这些位置由于以前其它元素的操做先被置为 1 了。

因此，有可能一个不存在布隆过滤器中的会被误判成在布隆过滤器中。这就是布隆过滤器的一个缺陷。可是，若是布隆过滤器判断某个元素不在布隆过滤器中，那么这个值就必定不在布隆过滤器中。总结就是：

布隆过滤器说某个元素在，可能会被误判
布隆过滤器说某个元素不在，那么必定不在

用英文说就是：False is always false. True is maybe true。

使用场景

布隆过滤器的最大的用处就是，可以迅速判断一个元素是否在一个集合中。所以它有以下三个使用场景:

网页爬虫对 URL 的去重，避免爬取相同的 URL 地址
进行垃圾邮件过滤：反垃圾邮件，从数十亿个垃圾邮件列表中判断某邮箱是否垃圾邮箱（同理，垃圾短信）
有的黑客为了让服务宕机，他们会构建大量不存在于缓存中的 key 向服务器发起请求，在数据量足够大的状况下，频繁的数据库查询可能致使 DB 挂掉。布隆过滤器很好的解决了缓存击穿的问题。