缓存命中和缓存未命中
========================摘自《HTTP权威指南》==============================
1、缓存命中和缓存未命中
可以用已有的副本为某些到达缓存的请求提供服务,这被称为缓存命中(cache-hit)参见图7-4a。其他一些到达缓存的请求可能会由于没有副本可用,而被转发给原始服务器,这被称为缓存未命中(cache-miss)参见图7-4b。
(1)、再验证
原始服务器的内容可能会发生变化,缓存要不时的对其进行检测,看看它们保存的副本是否仍是服务器上最新的副本。这些“新鲜度检测”被称为HTTP再验证(revalidation)参见图7-4c。为了有效的进行再验证,HTTP定义了一些特殊的请求,不用从服务器上获取整个对象,就可以快速检测出内容是否是最新的。
缓存可以在任意时刻,以任意频率对副本进行再验证。但由于缓存中通常会包含数百万的文档,而且网络宽带是很珍贵的,所以大部分缓存只有在客户端发起请求,并且副本旧的足以需要检测的时候才会对副本进行再验证。
缓存对缓存的副本进行再验证时,会向原始服务器发送一个小的再验证请求。如果内容没有变化,服务器会以一个小的304Not Modified进行响应。只要缓存知道副本仍然有效,就会再次将副本标识为暂时新鲜的,并将副本提供给客户端,见图7-5a,这杯称为再验证命中(revalidation hit)或缓慢缓慢命中(slow hit),这种方式确实要与原始服务器进行核对,所以要比单纯的缓存命中要慢,但它没有从原始服务器中获取对象数据,所以要比缓存未命中要快一些。
HTTP为我们提供了几个用来对已缓存对象进行再验证的工具,但最常用的是If-Modified-Since首部。将这个首部添加到GET请求中去,就可以告诉服务器,只有在缓存了对象的副本之后,又对其进行修改了情况下,才发送此对象。
这里列出了在3种情况下(服务器内容未被修改,服务器内容已被修改,或者服务器上的对象被删除了)服务器收到GET If-Modified-Since请求时会发生的情况:
A、 再验证命中
如果服务器对象未被修改,服务器会向客户端发送一个小的HTTP 304 Not Modified的响应。
B、 再验证未命中
如果服务器对象与缓存副本不同服务器会向客户端发送一条普通的、带有完整内容的HTTP 200 oK响应;
C、 对象被删除
如果服务器对象已经被删除了,服务器就会回送一个404 NOT Found响应,缓存也会将其副本删除。
(2)、命中率
由缓存提供服务的请求所占的比例被称为缓存命中率(cache hit rate或称为缓存命中比例),有时也被称为文档命中率(document hit rate)。命中率在0到1之间,但通常用百分数来描述的,0%表示每次请求都未命中(要通过网络来获取文档),100%表示每次请求都命中了(在缓存中有一份副本)。
缓存的管理者希望缓存命中率接近100%。而实际得到的命中率则与缓存的大小、缓存用户兴趣点的相似性、缓存数据的变化或个性化频率,以及如何配置缓存有关。命中率很难预测,但对现在中等规模的web缓存来说,40%的命中率是很合理的。缓存的好处是,即使是中等规模的缓存,其所包含的常见文档也足以显著的提高性能、减少流量了。缓存会努力确保将有用的内容保存在缓存中。
(3)、字节命中率
由于文档并不全是统一尺寸的,所以文档命中率并不能说明一切。有些大型对象被访问的次数比较少,但由于尺寸的原因,对整个数据流量贡献却更大。因此,有些人更愿意用字节命中率(byte hit rate)作为度量值(尤其那些按流量字节付费的人)。
字节命中率表示的是缓存提供的字节在传输的所有字节中所占的比例。通过这种度量方式,可以得知节省流量的程度。100%的字节命中率说明每个字节都来自缓存,没有流量流到因特网上。
文档命中率和字节命中率对缓存性能的评估都是很有用的。文档命中率说明阻止了多少通往外部的web事务。事务有一个通常很大的固定时间成分(比如,建立一条到服务器的TCP连接),提高文档命中率对降低整体延迟(时延)很有好处。字节命中率说明阻止了多少字节传向因特网。提高字节命中率对节省宽带很有利。
(4)、区分命中和未命中的情况
不幸的是,HTTP没有为用户提供一种手段来区分响应是缓存命中的,还是访问原始服务器得到的。在这两种情况下,响应码都是200OK,说明响应有主题部分。有些商业代理缓存会在Via首部附加一些额外信息,以描述缓存中发生的情况。
客户端有一种方法可以判断响应是否来自缓存,就是使用Date首部。将响应中Date首部的值与当前时间进行比较,如果响应中的时间比较早,客户端通常就可以认为这是一条缓存的响应。客户端也可以通过Age首部来检查缓存的响应,通过这个首部可以分辨出这条响应的使用期。