LRU 算法——简单的淘汰算法

 

 

 

 —————  两个月前  —————

 

 

 

 

 

用户信息当然是存在数据库里。但是由于我们对用户系统的性能要求比较高，显然不能每一次请求都去查询数据库。

所以，小灰在内存中创建了一个哈希表作为缓存，每次查找一个用户的时候先在哈希表中查询，以此提高访问性能。

很快，用户系统上线了，小灰美美地休息了几天。

一个多月之后......

 

 

 

 

 

 

 

 

 —————————

 

 

 

 

 

 

 

 

什么是哈希链表呢？

我们都知道，哈希表是由若干个Key-Value所组成。在“逻辑”上，这些Key-Value是无所谓排列顺序的，谁先谁后都一样。

在哈希链表当中，这些Key-Value不再是彼此无关的存在，而是被一个链条串了起来。每一个Key-Value都具有它的前驱Key-Value、后继Key-Value，就像双向链表中的节点一样。

这样一来，原本无序的哈希表拥有了固定的排列顺序。

让我们以用户信息的需求为例，来演示一下LRU算法的基本思路：

1.假设我们使用哈希链表来缓存用户信息，目前缓存了4个用户，这4个用户是按照时间顺序依次从链表右端插入的。

2.此时，业务方访问用户5，由于哈希链表中没有用户5的数据，我们从数据库中读取出来，插入到缓存当中。这时候，链表中最右端是最新访问到的用户5，最左端是最近最少访问的用户1。

3.接下来，业务方访问用户2，哈希链表中存在用户2的数据，我们怎么做呢？我们把用户2从它的前驱节点和后继节点之间移除，重新插入到链表最右端。这时候，链表中最右端变成了最新访问到的用户2，最左端仍然是最近最少访问的用户1。

4.接下来，业务方请求修改用户4的信息。同样道理，我们把用户4从原来的位置移动到链表最右侧，并把用户信息的值更新。这时候，链表中最右端是最新访问到的用户4，最左端仍然是最近最少访问的用户1。

5.后来业务方换口味了，访问用户6，用户6在缓存里没有，需要插入到哈希链表。假设这时候缓存容量已经达到上限，必须先删除最近最少访问的数据，那么位于哈希链表最左端的用户1就会被删除掉，然后再把用户6插入到最右端。

以上，就是LRU算法的基本思路。

private Node head;

private Node end;

//缓存存储上限

private int limit;

 

 

private HashMap<String, Node> hashMap;

 

 

public LRUCache(int limit) {

   this.limit = limit;

   hashMap = new HashMap<String, Node>();

}

 

 

public String get(String key) {

   Node node = hashMap.get(key);

   if (node == null){

       return null;

   }

   refreshNode(node);

   return node.value;

}

 

 

public void put(String key, String value) {

   Node node = hashMap.get(key);

   if (node == null) {

       //如果key不存在，插入key-value

       if (hashMap.size() >= limit) {

           String oldKey = removeNode(head);

           hashMap.remove(oldKey);

       }

       node = new Node(key, value);

       addNode(node);

       hashMap.put(key, node);

   }else {

       //如果key存在，刷新key-value

       node.value = value;

       refreshNode(node);

   }

}

 

 

public void remove(String key) {

   Node node = hashMap.get(key);

   removeNode(node);

   hashMap.remove(key);

}

 

 

/**

* 刷新被访问的节点位置

* @param  node 被访问的节点

*/

private void refreshNode(Node node) {

   //如果访问的是尾节点，无需移动节点

   if (node == end) {

       return;

   }

   //移除节点

   removeNode(node);

   //重新插入节点

   addNode(node);

}

 

 

/**

* 删除节点

* @param  node 要删除的节点

*/
 

private String removeNode(Node node) {

   if (node == end) {

       //移除尾节点

       end = end.pre;

   }else if(node == head){

       //移除头节点

       head = head.next;

   } else {

       //移除中间节点

       node.pre.next = node.next;

       node.next.pre = node.pre;

   }

   return node.key;

}

 

 

/**

* 尾部插入节点

* @param  node 要插入的节点

*/

private void addNode(Node node) {

   if(end != null) {

       end.next = node;

       node.pre = end;

       node.next = null;

   }

   end = node;

   if(head == null){

       head = node;

   }

}

 

 

class Node {

   Node(String key, String value){

       this.key = key;

       this.value = value;

   }

   public Node pre;

   public Node next;

   public String key;

   public String value;

}

 

 

public static void main(String[] args) {

   LRUCache lruCache = new LRUCache(5);

   lruCache.put("001", "用户1信息");

   lruCache.put("002", "用户1信息");

   lruCache.put("003", "用户1信息");

   lruCache.put("004", "用户1信息");

   lruCache.put("005", "用户1信息");

   lruCache.get("002");

   lruCache.put("004", "用户2信息更新");

   lruCache.put("006", "用户6信息");

   System.out.println(lruCache.get("001"));

   System.out.println(lruCache.get("006"));

}

 

需要注意的是，这段不是线程安全的，要想做到线程安全，需要加上synchronized修饰符。