JVM级缓存本地缓存Caffeine

news/2024/7/27 11:37:40/文章来源:https://blog.csdn.net/qq_42872034/article/details/136618473

JVM级缓存本地缓存Caffeine和Guava Cache

前言
一、创建缓存的代码逻辑
二、Caffeine的优化方面
- 淘汰算法W-TinyLFU
三、Caffeine的业务使用
总结

前言

最新的 Java 面试题，技术栈涉及 Java 基础、集合、多线程、Mysql、分布式、Spring全家桶、MyBatis、Dubbo、缓存、消息队列、Linux…等等，会持续更新。

一、创建缓存的代码逻辑

Caffeine：

public LoadingCache<String, User> createUserCache() {return Caffeine.newBuilder().initialCapacity(1000) // 指定初始容量.maximumSize(10000L) // 指定最大容量.expireAfterWrite(30L, TimeUnit.MINUTES)  // 指定写入30分钟后过期.refreshAfterWrite(1L, TimeUnit.MINUTES) // 指定每隔1分钟刷新下数据内容.recordStats() // 开启缓存操作数据统计.build(key -> userDao.getUser(key)); // 构建CacheLoader加载类型的缓存对象
}

Guava Cache：

public LoadingCache<String, User> createUserCache() {return CacheBuilder.newBuilder().initialCapacity(1000) // 指定初始容量.maximumSize(10000L) // 指定最大容量.expireAfterWrite(30L, TimeUnit.MINUTES)  // 指定写入30分钟后过期.concurrencyLevel(8) // 指定并发量.recordStats() // 开启缓存操作数据统计.build((CacheLoader<String, User>) key -> userDao.getUser(key)); // 构建CacheLoader加载类型的缓存对象
}

Caffeine在Guava Cache的基础上做了改良和优化，比如Caffeine创建对象时不支持使用concurrencyLevel来指定并发量，因为改进了并发控制机制。

二、Caffeine的优化方面

1、底层数据结构的优化
Caffeine是借助JDK8对ConcurrentHashMap，底层由数组+链表+红黑树，提升了Hash冲突时的查询效率，以及并发场景下的处理性能。
2、数据淘汰策略的优化
通过使用改良后的W-TinyLFU算法，提供了更佳的热点数据留存效果，提供了近乎完美的热点数据命中率，以及更低消耗的过程维护。

淘汰算法W-TinyLFU

常规的缓存淘汰算法一般采用LRU或者LFU，但是这些算法在实际缓存场景中都会存在一些弊端：

淘汰算法	说明
LRU	最近最久未使用策略，保留最近被访问到的数据，而淘汰最久没有被访问的数据。如果遇到偶尔的批量刷数据场景，很容易将其他缓存内容都挤出内存，带来缓存击穿的风险。
LFU	最近少频率策略，这种根据访问次数进行淘汰，相比而言内存中存储的热点数据命中率会更高些，缺点就是需要维护独立字段用来记录每个元素的访问次数，占用内存空间。

Caffeine在LFU算法基础上引入一个基于LRU的Window Cache，这个新的算法叫就叫做W-TinyLFU，它有效的解决了LRU以及LFU存在的弊端，为Caffeine提供了大部分场景下近乎完美的命中率表现。

三、Caffeine的业务使用

1、依赖引入

<dependency><groupId>com.github.ben-manes.caffeine</groupId><artifactId>caffeine</artifactId><version>3.1.1</version>
</dependency>

2、支持同步缓存与异步缓存
Caffeine支持创建Cache与AsyncCache两种不同类型，而如果指定了CacheLoader的时候，又可以细分出LoadingCache子类型与AsyncLoadingCache子类型。

1）同步缓存

public static void main(String[] args) throws Exception {LoadingCache<String, String> loadingCache = buildLoadingCache();loadingCache.put("key1", "value1");String value = loadingCache.get("key1");System.out.println(value);
}

2）异步缓存

public static void main(String[] args) throws Exception {AsyncLoadingCache<String, String> asyncLoadingCache = buildAsyncLoadingCache();// 写入缓存记录（value值为异步获取）asyncLoadingCache.put("key1", CompletableFuture.supplyAsync(() -> "value1"));// 异步方式获取缓存值CompletableFuture<String> completableFuture = asyncLoadingCache.get("key1");String value = completableFuture.join();System.out.println(value);
}