当前位置:首页 > 问答百科 > 正文内容

什么是系统缓存(缓存概念与应用作用分析)

福瑞号2022-12-16 22:37:07问答百科181

  缓存技术在许多软件编程开发项目中都得到了广泛的应用,今天我们就通过案例分析来简单了解一下,缓存概念与应用作用分析。

什么是系统缓存(缓存概念与应用作用分析)-图1

  一、什么是缓存

  缓存就是数据交换的缓冲区。缓存的本质是一个内存Hash。缓存是一种利用空间换时间的设计,其目标就是更快、更近:极大的提高。

  将数据写入/读取速度更快的存储(设备);

  将数据缓存到离应用近的位置;

  将数据缓存到离用户近的位置。

  缓存是用于存储数据的硬件或软件的组成部分,以使得后续更快访问相应的数据。缓存中的数据可能是提前计算好的结果、数据的副本等。的应用场景:有cpucache,磁盘cache等。本文中提及到缓存主要是指互联网应用中所使用的缓存组件。

  缓存命中率是缓存的重要度量指标,命中率越高越好。

  缓存命中率=从缓存中读取次数/总读取次数

  二、何时需要缓存

  引入缓存,会增加系统的复杂度。所以,引入缓存前,需要先权衡是否值得,考量点如下:

  CPU开销-如果应用某个计算需要消耗大量CPU,可以考虑缓存其计算结果。场景:复杂的、频繁调用的正则计算;分布式计算中间状态等。

  IO开销-如果数据库连接池比较繁忙,可以考虑缓存其查询结果。

  在数据层引入缓存,有以下几个好处:

  提升数据读取速度。

  提升系统扩展能力,通过扩展缓存,提升系统承载能力。

  降低存储成本,Cache+DB的方式可以承担原有需要多台DB才能承担的请求量,节省机器成本。

  三、缓存的基本原理

  根据业务场景,通常缓存有以下几种使用方式:

  懒汉式(读时触发):先查询DB里的数据,然后把相关的数据写入Cache。

  饥饿式(写时触发):写入DB后,然后把相关的数据也写入Cache。

  定期刷新:适合周期性的跑数据的任务,或者列表型的数据,而且不要求绝对实时性。

  四、缓存淘汰策略

  缓存淘汰的类型:

  1)基于空间:设置缓存空间大小。

  2)基于容量:设置缓存存储记录数。

  3)基于时间

  TTL(TimeToLive,即存活期)缓存数据从创建到过期的时间。

  TTI(TimeToIdle,即空闲期)缓存数据多久没被访问的时间。

  缓存淘汰算法:

  1)FIFO:先进先出。在这种淘汰算法中,先进入缓存的会先被淘汰。这种可谓是简单的了,但是会导致我们命中率很低。试想一下我们如果有个访问频率很高的数据是所有数据一个访问的,而那些不是很高的是后面再访问的,那这样就会把我们的个数据但是他的访问频率很高给挤出。

  2)LRU:近少使用算法。在这种算法中避免了上面的问题,每次访问数据都会将其放在我们的队尾,如果需要淘汰数据,就只需要淘汰队即可。但是这个依然有个问题,如果有个数据在1个小时的前59分钟访问了1万次(可见这是个热点数据),再后一分钟没有访问这个数据,但是有其他的数据访问,就导致了我们这个热点数据被淘汰。

  3)LFU:近少频率使用。在这种算法中又对上面进行了优化,利用额外的空间记录每个数据的使用频率,然后选出频率低进行淘汰。这样就避免了LRU不能处理时间段的问题。

  这三种缓存淘汰算法,实现复杂度一个比一个高,同样的命中率也是一个比一个好。而我们一般来说选择的方案居中即可,即实现成本不是太高,而命中率也还行的LRU。

扫描二维码推送至手机访问。

版权声明:本文由福瑞号发布,如需转载请注明出处。

本文链接:http://www.furui.com.cn/19440.html

“什么是系统缓存(缓存概念与应用作用分析)” 的相关文章

说明文有哪些结构(说明文的主要结构原则)

说明文有哪些结构(说明文的主要结构原则)

说明文的主要结构原则: 说明文的结构一般有两种: 1、总分式:(事物说明文常用的结构形式) (1)总——分,如《苏州园林》 (2)总——分——总,如《故宫博物院》 2、递进式:(事理说明文常用的结构形式)各层之间的关系是由浅入深、由表及里、由现象到本质。各层之间的关系是递进的。如《向沙漠进军》。 递...

沈阳领事馆韩国签证查询(2022年韩国留学签证办理干货指南)

沈阳领事馆韩国签证查询(2022年韩国留学签证办理干货指南)

想要去韩国留学的同学应该都知道,韩国的大学每年有2次开学时间,一次是3月,一次是9月,而目前正是申请秋季入学的黄金时间。除了申请材料需要认真准备以外,还有一个关乎能否顺利赴韩留学的关键证件,那就是韩国留学签证。同学们基本都会在收到韩国大学的录取通知之后才开始办理留学签证,而这也是最为关键的一个环节,...

一国两制坚持哪两点(全文来了)

一国两制坚持哪两点(全文来了)

7月1日上午,庆祝香港回归祖国25周年大会暨香港特别行政区第六届政府就职典礼在香港会展中心举行。习近平主席监誓,李家超宣誓就任香港特别行政区行政长官。 中共中央总书记、国家主席、中央军委主席习近平在庆祝香港回归祖国25周年大会暨香港特别行政区第六届政府就职典礼上发表重要讲话。 习近平表示,“一国...

爆米花是什么做的(爆米花在家就能做)

爆米花是什么做的(爆米花在家就能做)

一、香甜爆米花 食材小玉米25克、黄油3块、糖粉适量。做法1、准备好食材小玉米洗净之后晾干,黄油还有糖!2、炒锅中放入黄油或者块状奶油!3、倒入小玉米!4、然后用铲子来回翻炒!5、然后看到有爆开的玉米之后就盖上盖子,小火慢慢炒,中途要不断的晃动锅子。6、等到看到全部爆开之后开盖子,放入糖粉惶均匀就...

中国新说唱野狼disco哪一期(野狼disco虽然在新说唱仅出现了几秒)

中国新说唱野狼disco哪一期(野狼disco虽然在新说唱仅出现了几秒)

因为《野狼disco》歌手宝石gem红火起来,宝石gem自己都说这首歌曲红火的莫名其妙,因为歌曲传唱度太高,直接让他在《中国新说唱》节目中脱颖而出,进入了复活赛,虽然最后的结果不是特别的好,但至少他现在作为歌手有了一定的人气,能够更加自由的去演唱歌曲、去创作。《野狼disco》是《中国新说唱》哪一期...