如何擴展Spring Cache實現(xiàn)支持多級緩存
為什么多級緩存
緩存的引入是現(xiàn)在大部分系統(tǒng)所必須考慮的
redis 作為常用中間件,雖然我們一般業(yè)務系統(tǒng)(畢竟業(yè)務量有限)不會遇到如下圖 在隨著 data-size 的增大和數(shù)據(jù)結(jié)構(gòu)的復雜的造成性能下降,但網(wǎng)絡 IO 消耗會成為整個調(diào)用鏈路中不可忽視的部分。尤其在 微服務架構(gòu)中,一次調(diào)用往往會涉及多次調(diào)用 例如pig oauth2.0 的 client 認證

Caffeine 來自未來的本地內(nèi)存緩存,性能比如常見的內(nèi)存緩存實現(xiàn)性能高出不少詳細對比。

綜合所述:我們需要構(gòu)建 L1 Caffeine JVM 級別緩存 , L2 Redis 緩存。
設計難點
目前大部分應用緩存都是基于 Spring Cache 實現(xiàn),基于注解(annotation)的緩存(cache)技術(shù),存在的問題如下:
- Spring Cache 僅支持 單一的緩存來源,即:只能選擇 Redis 實現(xiàn)或者 Caffeine 實現(xiàn),并不能同時使用。
- 數(shù)據(jù)一致性:各層緩存之間的數(shù)據(jù)一致性問題,如應用層緩存和分布式緩存之前的數(shù)據(jù)一致性問題。
- 緩存過期:Spring Cache 不支持主動的過期策略
業(yè)務流程

如何使用
引入依賴
<dependency> <groupId>com.pig4cloud.plugin</groupId> <artifactId>multilevel-cache-spring-boot-starter</artifactId> <version>0.0.1</version> </dependency>
開啟緩存支持
@EnableCaching
public class App {
public static void main(String[] args) {
SpringApplication.run(App.class, args);
}
}
目標接口聲明 Spring Cache 注解
@Cacheable(value = "get",key = "#key")
@GetMapping("/get")
public String get(String key){
return "success";
}
性能比較
為保證性能 redis 在 127.0.0.1 環(huán)路安裝
- OS: macOS Mojave
- CPU: 2.3 GHz Intel Core i5
- RAM: 8 GB 2133 MHz LPDDR3
- JVM: corretto_11.jdk
| Benchmark | Mode | Cnt | Score | Units |
|---|---|---|---|---|
| 多級實現(xiàn) | thrpt | 2 | 2716.074 | ops/s |
| 默認 redis | thrpt | 2 | 1373.476 | ops/s |
代碼原理
自定義 CacheManager 多級緩存實現(xiàn)
public class RedisCaffeineCacheManager implements CacheManager {
@Override
public Cache getCache(String name) {
Cache cache = cacheMap.get(name);
if (cache != null) {
return cache;
}
cache = new RedisCaffeineCache(name, stringKeyRedisTemplate, caffeineCache(), cacheConfigProperties);
Cache oldCache = cacheMap.putIfAbsent(name, cache);
log.debug("create cache instance, the cache name is : {}", name);
return oldCache == null ? cache : oldCache;
}
}
多級讀取、過期策略實現(xiàn)
public class RedisCaffeineCache extends AbstractValueAdaptingCache {
protected Object lookup(Object key) {
Object cacheKey = getKey(key);
// 1. 先調(diào)用 caffeine 查詢是否存在指定的值
Object value = caffeineCache.getIfPresent(key);
if (value != null) {
log.debug("get cache from caffeine, the key is : {}", cacheKey);
return value;
}
// 2. 調(diào)用 redis 查詢在指定的值
value = stringKeyRedisTemplate.opsForValue().get(cacheKey);
if (value != null) {
log.debug("get cache from redis and put in caffeine, the key is : {}", cacheKey);
caffeineCache.put(key, value);
}
return value;
}
}
過期策略,所有更新操作都基于 redis pub/sub 消息機制更新
public class RedisCaffeineCache extends AbstractValueAdaptingCache {
@Override
public void put(Object key, Object value) {
push(new CacheMessage(this.name, key));
}
@Override
public ValueWrapper putIfAbsent(Object key, Object value) {
push(new CacheMessage(this.name, key));
}
@Override
public void evict(Object key) {
push(new CacheMessage(this.name, key));
}
@Override
public void clear() {
push(new CacheMessage(this.name, null));
}
private void push(CacheMessage message) {
stringKeyRedisTemplate.convertAndSend(topic, message);
}
}
MessageListener 刪除指定 Caffeine 的指定值
public class CacheMessageListener implements MessageListener {
private final RedisTemplate<Object, Object> redisTemplate;
private final RedisCaffeineCacheManager redisCaffeineCacheManager;
@Override
public void onMessage(Message message, byte[] pattern) {
CacheMessage cacheMessage = (CacheMessage) redisTemplate.getValueSerializer().deserialize(message.getBody());
cacheMessage.getCacheName(), cacheMessage.getKey());
redisCaffeineCacheManager.clearLocal(cacheMessage.getCacheName(), cacheMessage.getKey());
}
}
https://github.com/pig-mesh/multilevel-cache-spring-boot-starter
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
SpringSecurityOAuth2 如何自定義token信息
這篇文章主要介紹了SpringSecurityOAuth2 自定義token信息的操作,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06
SpringBoot + validation 接口參數(shù)校驗的思路詳解
這篇文章主要介紹了SpringBoot + validation 接口參數(shù)校驗,本文通過項目實踐+場景分析給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-10-10
Java之Rsync并發(fā)遷移數(shù)據(jù)并校驗詳解
這篇文章主要介紹了Java之Rsync并發(fā)遷移數(shù)據(jù)并校驗詳解,本篇文章通過簡要的案例,講解了該項技術(shù)的了解與使用,以下就是詳細內(nèi)容,需要的朋友可以參考下2021-08-08
JAVA發(fā)送HTTP請求,返回HTTP響應內(nèi)容,應用及實例代碼
這篇文章主要介紹了JAVA發(fā)送HTTP請求,返回HTTP響應內(nèi)容,應用及實例代碼,需要的朋友可以參考下2014-02-02
java+jsp+struts2實現(xiàn)發(fā)送郵件功能
這篇文章主要為大家詳細介紹了java+jsp+struts2實現(xiàn)發(fā)送郵件功能,具有一定的參考價值,感興趣的小伙伴們可以參考一下2017-03-03

