磁盘管理中看不到新安装的固态硬盘,NoSQL之 Redis配置与优化_System

文章目录 一、缓存概念1、系统缓存buffer与cache 2、缓存保存位置及分层结构(1) DNS缓存(2)应用层缓存(3)数据层缓存(4)硬件缓存二、关系数据库和非关系数据库1、什么是关系型数据库2、什么是非关系型数据库3、非关系型数据库的产生背景4、关系型数据库和非关系型数据库区别(1)数据存储方式不同(2)扩展方式不同(3)对事务性的支持不同 5、归纳三、Redis介绍四、Redis优点五、单线程六、redis 对比 memcached七、Redis安装部署1、部署步骤2、Redis命令工具3、redis-cli命令行工具(远程登录)4、redis-benchmark 测试工具八、Redis数据库常用命令1、常用命令2、示例九、Redis多数据库常用命令十、Redis 高可用十一、Redis持久化十二、RDB持久化1、触发条件2、执行流程3、启动时加载十三、AOF持久化1、开启AOF2、 执行流程3、启动时加载十四、RDB和AOF的优缺点1、RDB持久化的优缺点2、AOF持久化的优缺点十五、Redis性能管理总结

一、缓存概念

缓存是为了调节速度不一致的两个或多个不同的物质的速度,在中间对速度较慢的一方起到加速作用,比如CPU的一级、二级缓存是保存了CPU最近经常访问的数据,内存是保存CPU经常访问硬盘的数据,而且硬盘也有大小不一的缓存,甚至是物理服务器的raid 卡有也缓存,都是为了起到加速CPU 访问硬盘数据的目的,因为CPU的速度太快了,CPU需要的数据由于硬盘往往不能在短时间内满足CPU的需求,因此CPU缓存、内存、Raid 卡缓存以及硬盘缓存就在一定程度上满足了CPU的数据需求,即CPU 从缓存读取数据可以大幅提高CPU的工作效率。

1、系统缓存 buffer与cache buffer:缓冲也叫写缓冲,一般用于写操作,可以将数据先写入内存再写入磁盘,buffer 一般用于写缓冲,用于解决不同介质的速度不一致的缓冲,先将数据临时写入到里自己最近的地方,以提高写入速度,CPU会把数据先写到内存的磁盘缓冲区,然后就认为数据已经写入完成看,然后由内核在后续的时间在写入磁盘,所以服务器突然断电会丢失内存中的部分数据。cache:缓存也叫读缓存,一般用于读操作,CPU读文件从内存读,如果内存没有就先从硬盘读到内存再读到CPU,将需要频繁读取的数据放在里自己最近的缓存区域,下次读取的时候即可快速读取。 2、缓存保存位置及分层结构 用户层: 浏览器DNS缓存,应用程序DNS缓存,操作系统DNS缓存客户端代理层: CDN,反向代理缓存Web层: Web服务器缓存应用层 : 页面静态化数据层: 分布式缓存,数据库系统层: 操作系统cache物理层: 磁盘cache, Raid Cache (1) DNS缓存

浏览器的DNS缓存默认为60秒,即60秒之内在访问同一个域名就不在进行DNS解析

(2)应用层缓存 Nginx、PHP等web服务可以设置应用缓存以加速响应用户请求,另外有些解释性语言,比如:PHP/Python/Java不能直接运行,需要先编译成字节码,但字节码需要解释器解释为机器码之后才能执行,因此字节码也是一种缓存,有时候还会出现程序代码上线后字节码没有更新的现象。所以一般上线新版前,需要先将应用缓存清理,再上线新版。另外可以利用动态页面静态化技术,加速访问,比如:将访问数据库的数据的动态页面,提前用程序生成静态页面文件html 电商网站的商品介绍,评论信息非实时数据等皆可利用此技术实现。 (3)数据层缓存 分布式缓存服务

Redis Memcached

数据库

MySQL 查询缓存 innodb缓存、MYISAM缓存

(4)硬件缓存 CPU缓存(L1的数据缓存和L1的指令缓存)、二级缓存、三级缓存磁盘缓存:Disk Cache磁盘阵列缓存: Raid Cache,可使用电池防止断电丢失数据 二、关系数据库和非关系数据库 1、什么是关系型数据库

一个结构化的数据库,创建在关系模型基础上 (二维表格模型)基础上

一般面向于记录

SQL语句(标准数据查询语言)

就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。 包括:Oracle、MySQL、SQL Server、Microsoft Access、DB2等2、什么是非关系型数据库 NoSQL (NoSQL=NotOnlySQL), 意思是“不仅仅是SQL",是非关系型数据库的总称。除了主流的关系型数据库外的数据库,都认为是非关系型。主流的NoSQL数据库有Redis、MongBD、Hbase、Memcached等。 3、非关系型数据库的产生背景 High performance——对数据库高并发读写需求Huge Storage——对海量数据高效存储与访问需求High Scalability && High Availability——对数据库高可扩展性与高可用性需求 4、关系型数据库和非关系型数据库区别 (1)数据存储方式不同

关系型和非关系型数据库的主要差异是数据存储的方式。

关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。非关系型与其相反,数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。

关系型:依赖于关系模型E-R图,同时以表格式的方式存储数据 非关系型:除了以表格形式存储之外,通常会以大块的形式组合在一一起进行存储数据

(2)扩展方式不同

SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。

要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来客服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点) 来分担负载。

关系:纵向(天然表格式) 非关:横向(天然分布式)

(3)对事务性的支持不同 如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,那么传统的SQL数据库从性能和稳定性方面考虑是最佳选择。SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。虽然NoSQL数据库也可以使用事务操作,但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。关系型:特别适合高事务性要求和需要控制执行计划的任务 非关系:此处会稍显弱势,其价值点在于高扩展性和大数据量处理方面 5、归纳 关系型数据库: 实例->数据库->表(table)->记录行(row)、数据字段(column)非关系型数据库: 实例->数据库->集合(collection)–>键值对(key-value) 非关系型数据库不需要手动建数据库和集合(表)。 三、Redis介绍

官方网站:Redis

Redis是一个开源的、使用C语言编写的NoSOL数据库,Redis服务器程序是单进程模型。

Redis基于内存运行并支持持久化(支持存储在磁盘),采用key-value(键值对)的存储形式,是目前分布式架构中不可或缺的一环。

Redis服务在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。

若在服务器上只运行一个Redis进程, 当多个客户端同时访问时, 服务器的处理能力是会有一定程度的下降;若在同一台服务器上开启 多个Redis进程, Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。 即在实际生产环境中, 需要根据实际的需求来决定开启多少个Redis进程。 (一般建议开启2个,用作备份和抗高并发)

若对高并发要求更高一些, 可能会考虑在同一台服务器上开启多个进程。 若CPU资源比较紧张,采用单进程即可。

四、Redis优点 具有极高的数据读写速度:数据读取的速度最高可达到110000次/s,数据写入速度最高可达到81000次/s。、支持丰富的数据类型:支持key-value、 Strings、Lists、Hashes ( 散列值)、Sets及OrderedSets等数据类型操作。 pS : string 字符串(可以为整形、浮点和字符型,统称为元素) list列表:(实现队列,元素不唯一,先入先出原则) set 集合:(各不相同的元素) hash hash散列值:( hash的key必须是唯一的) set /ordered sets集合/有序集合支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。原子性: Redis所有 操作都是原子性的。支持数据备份:即master-salve 模式的数据备份。 五、单线程

Redis 6.0版本前一直是单线程方式处理用户的请求

单线程为何如此快?

纯内存非阻塞避免线程切换和竞态消耗 六、redis 对比 memcached 支持数据的持久化:可以将内存中的数据保持在磁盘中,重启redis服务或者服务器之后可以从备份文件中恢复数据到内存继续使用支持更多的数据类型:支持string(字符串)、hash(哈希数据)、list(列表)、set(集合)、zset(有序集合)支持数据的备份:可以实现类似于数据的master-slave模式的数据备份,另外也支持使用快照+AOF支持更大的value数据:memcache单个key value最大只支持1MB,而redis最大支持512MB(生产不建议超过2M,性能受影响)在Redis6版本前,Redis 是单线程,而memcached是多线程,所以单机情况下没有memcached 并发高,性能更好,但redis 支持分布式集群以实现更高的并发,单Redis实例可以实现数万并发支持集群横向扩展:基于redis cluster的横向扩展,可以实现分布式集群,大幅提升性能和数据安全性都是基于 C 语言开发 名称memcachedredis类型key-valuekey-value过期策略支持支持数据类型单一数据类型五大数据类型持久化不支持支持主从复制不支持支持虚拟内存不支持支持七、Redis安装部署 1、部署步骤 1)# 关闭防火墙和SElinux systemctl stop firewalldsystemctl disable firewalldsetenforce 0 2)#安装gcc gcc-c++ 编译器yum install -y gcc gcc-c++ make 3)#切换至/opt目录,把下载好的安装包上传进来并解压cd /opt/tar zxvf redis-5.0.7.tar.gz 4)#进入目录然后编译安装cd /opt/redis-5.0.7/makemake PREFIX=/usr/local/redis install #由于Redis源码包中直接提供了Makefile 文件,所以在解压完软件包后,不用先执行./configure 进行配置,可直接执行make与make install命令进行安装 5)#执行install_server.sh脚本cd /opt/redis-5.0.7/utils ./install_server.sh#一路回车,指导让你输入路径这一步#路径需要手动输入Please select the redis executable path [] /usr/local/redis/bin/redis-server Selected config:Port : 6379 #默认侦听端口为6379Config file: /etc/redis/6379.conf #配置文件路径Log file : /var/log/redis_6379.log#日志文件路径Data dir : /var/lib/ redis/6379 #数据文件路径Executable : /usr/local/redis/bin/redis-server#可执行文件路径Cli Executable : /usr/local/redis/bin/redis-cli #客户端命令工具 6)#优化路径并查端口是否打开#把redis的可执行程序文件放入路径环境变量的目录中便于系统识别ln -s /usr/local/redis/bin/* /usr/local/bin/ #当install_server.sh 脚本运行完毕,Redis 服务就已经启动,默认侦听端口为6379netstat -natp | grep redis 7)#修改配置文件vim /etc/redis/6379.confbind 127.0.0.1 192.168.200.50#70行,添加监听的主机地址port 6379#93行,Redis默认的监听端口daemonize yes #137行,启用守护进程pidfile /var/run/redis_6379.pid#159行,指定PID文件loglevel notice #167行,日志级别logfile /var/log/redis_6379.log#172行,指定日志文 8) #重启redis查看监听的地址/etc/init.d/redis_6379 restart#重启ss -antp|grep redis 9)##Redis服务控制/etc/init.d/redis_6379 stop #停止/etc/init.d/redis_6379 start#启动/etc/init.d/redis_6379 restart#重启/etc/init.d/redis_6379 status #状态

(1)关闭防火墙 在这里插入图片描述

(2)#安装gcc gcc-c++ 编译器

在这里插入图片描述 (3)#切换至/opt目录,把下载好的安装包上传进来并解压

在这里插入图片描述

在这里插入图片描述 (4)#进入目录然后编译安装

在这里插入图片描述 在这里插入图片描述 (5)#执行install_server.sh脚本

在这里插入图片描述

(6)#优化路径并查端口是否打开

在这里插入图片描述

(7)#修改配置文件

在这里插入图片描述

(8)#重启redis查看监听的地址

在这里插入图片描述

2、Redis命令工具 rdb 和 aof 是redis服务中持久化功能的两种形式redis-cli常用于登陆至redis数据库 Redis命令工具功能redis-server用于启动Redis的工具redi s-benchmark用于检测Redis在本机的运行效率redis-check-aof修复AOF持久化文件redis-check-rdb修复RDB持久化文件redis-cli:Redis命令行工具3、redis-cli命令行工具(远程登录) #语法: redis-cli -h host -p port -a password #选项:-h :指定远程主机-p :指定Redis 服务的端口号-a :指定密码,未设置数据库密码可以省略-a选项-n :指定进入库的序列号若不添加任何选项表示,则使用127.0.0.1:6379 连接本机上的 Redis 数据库, #示例redis-cli -h 172.16.10.70 -p 6379

在这里插入图片描述 在这里插入图片描述

4、redis-benchmark 测试工具

redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。

#语法redis-benchmark [选项] [选项值] 选项作用-h指定服务器主机名-p指定服务器端口-s指定服务器socket(套接字)-c指定并发连接数-n指定请求数-d以字节的形式指定SET/GET值的数据大小-k1=keep alive O=reconnect-rSET/GET/INCR使用随机key,SADD使用随机值-P通过管道传输请求-q强制退出redis。仅显示querylsec值-csv以csv格式输出- 1生成循环,永久执行测试- t仅运行以逗号分隔的测试命令列表-lldle模式。仅打开N个idle连接并等待

示例1: 向IP地址为172.16.10.70、端口为6379的Redis服务器发送100个并发连接与100000个请求测试性能

redis-benchmark -h 172.16.10.70 -p 6379 -c 100 -n 100000

在这里插入图片描述 在这里插入图片描述

示例2:测试存取大小为100字节的数据包的性能。

redis-benchmark -h 172.16.10.70 -p 6379 -q -d 100

在这里插入图片描述 示例3:测试本机上Redis 服务在进行set与lpush操作时的性能。

redis-benchmark -t set,lpush -n 100000 -q

在这里插入图片描述

八、Redis数据库常用命令 1、常用命令 set: 存放数据,命令格式为 set key valueget: 获取数据,命令格式为 get key 命令(红色命令)解释set存放数据get获取数据keys s *获取所有的keykeys s*以s开头的数据keys s?以s开头后面包含任意一位的数据exists aaa判断aaa 是否存在(存在:1,不存在:0)del key删除当前数据库的keytype key获取key对应的 value 值类型rename key1 key2将key1修改为key2renamenx key1 key2将key1修改为key2之前判断key2是否存在,不存在则重命名dbsize查看当前数据库中key的数目2、示例

在这里插入图片描述 在这里插入图片描述 在这里插入图片描述 在这里插入图片描述 在这里插入图片描述

# rename 命令是对已有key进行重命名。 (覆盖)命令格式: rename 源key目标key使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists命令查看目标key是否存在,然后再决定是否执行rename命令,以避免覆盖重要数据。

在这里插入图片描述

# renamenx 命令的作用是对已有key进行重命名,并检测新名是否存在,如果目标key存在则不进行重命名。 (不覆盖)命令格式: renamenx 源key目标key

在这里插入图片描述

dbsize命令的作用是查看当前数据库中key的数目。

在这里插入图片描述

九、Redis多数据库常用命令 Redis支持多数据库,Redis 默认情况下包含16个数据库,数据库名称是用数字0-15 来依次命名的。多数据库相互独立,互不干扰。 #多数据库间切换命令格式: select 序号使用 redis-cli 连接Redis数据库后,默认使用的是序号为 0 的数据库。127.0.0.1:6379> select 10#切换至序号为10的数据库127.0.0.1:6379[10]> select 15#切换至序号为15的数据库127.0.0.1:6379[15]> select 0 #切换至序号为0的数据库

在这里插入图片描述

#多数据库间移动数据格式: move键值序号127.0.0.1:6379> set tete1 100OK127.0.0.1:6379> get tete1"100"127.0.0.1:6379> select 1OK127.0.0.1:6379[1]> get tete1(nil)127.0.0.1:6379[1]> select 0#切换至目标数据库0OK127.0.0.1:6379> get tete1#查看目标数据是否存在"100"127.0.0.1:6379> move tete1 1#将数据库0中tete1移动到数据库1中(integer) 1127.0.0.1:6379> select 1 #切换至目标数据库1OK127.0.0.1:6379[1]> get tete1#查看被移动数据"100"127.0.0.1:6379[1]> select 0 OK127.0.0.1:6379> get tete1#在数据库0中无法查看到tete1的值(nil)#清除数据库内数据FLUSHDB:清空当前数据库数据FLUSHALL :清空所有数据库的数据,慎用!

在这里插入图片描述

十、Redis 高可用

在web服务器中,高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%、99.99%、99.999%等等)。但是在Redis语境中,高可用的含义似乎要宽泛一些,除了保证提供正常服务(如主从分离、快速容灾技术),还需要考虑数据容量的扩展,数据安全不会丢失等。

在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和集群,作用如下:

持久化 :持久化是最简单的高可用方法(有时甚至不被归为高可用的手段),主要作用是数据备份,即将数据存储在硬盘,保证数据不会因进程退出而丢失。主从复制 :主从复制是高可用Redis的基础,哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。哨兵 :在主从复制的基础上,哨兵实现了自动化的故障恢复。缺陷 :写操作无法负载均衡;存储能力受到单机的限制。集群 : 通过集群, Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善 的高可用方案。 十一、Redis持久化

持久化的功能 : Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置。

Redis提供两种方式进行持久化:

RDB持久化(Redis DataBase) :原理是将Reids在内存中的数据库记录定时保存到磁盘上。AOF持久化(append only file) :原理是将Reids的操作日志以追加的方式写入文件,类似于MySQL的binlog。

由于AOF持久化的实时性更好,即当进程意外退出时丢失的数据更少,因此AOF是目前主流的持久化方式,不过RDB持久化仍然有其用武之地。

十二、RDB持久化

RDB持久化是指在指定的时间间隔内将内存中当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化),用二进制压缩存储,保存的文件后缀是rdb;当Redis重新启动时,可以读取快照文件恢复数据。

1、触发条件

RDB持久化的触发分为:手动触发和自动触发两种。

(1)手动触发

save命令和bgsave命令都可以生成RDB文件。save命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在Redis服务器阻塞期间,服务器不能处理任何命令请求。bgsave命令会创建一个子进程,由子进程来负责创建RDB文件,父进程 (即Redis主进程) 则继续处理请求。bgsave命令执行过程中,只有fork 子进程时会阻塞服务器,而对于save命令,整个过程都会阻塞服务器,因此save已基本被废弃,线上环境要杜绝save的使用!!!

(2)自动触发

在自动触发RDB持久化时,Redis也 会选择bgsave而不是save来进行持久化。

save m n#通过配置设置触发

自动触发最常见的情况是在配置文件中通过save m n,指定当m秒内发生n次变化时,会触发bgsave。

vim /etc/redis/6379.conf-----219行--以下三个save条件满足任意一个时,都会引起bgsave的调用save 900 1 :当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsavesave 300 10 :当时间到300秒时, 如果redis数据发生了至少10次变化,则执行bgsavesave 60 10000 :当时间到60秒时,如果redis数据发生了至少10000次变化, 则执行bgsave-----242行--是否开启RDB文件压缩rdbcompression yes-----254行--指定RDB文件名dbfilename dump.rdb-----264行--指定RDB文件和AOF文件所在目录dir /var/lib/redis/6379

(3)其他自动触发机制 除了 savemn 以外,还有一些其他情况会触发bgsave:

在主从复制场景下,如果从节点执行全量复制操作,则主节点会执行bgsave命令,并将rdb文件发送给从节点。执行shutdown命令时,自动执行rdb持久化。 2、执行流程

在这里插入图片描述

Redis父进程首先判断 :当前是否在执行save,或bgsave/bgrewriteaof的子进程,如果在执行则bgsave命令直接返回。bgsave/bgrewriteaof 的子进程不能同时执行,主要是基于性能方面的考虑:两个并发的子进程同时执行大量的磁盘写操作,可能引起严重的性能问题。父进程执行fork操作创建子进程,这个过程中父进程是阻塞的,Redis不能执行来自客户端的任何命令父进程fork后,bgsave 命令返回”Background saving started" 信息并不再阻塞父进程,并可以响应其他命令子进程创建RDB文件,根据父进程内存快照生成临时快照文件,完成后对原有文件进行原子替换子进程发送信号给父进程表示完成,父进程更新统计信息 3、启动时加载 RDB文件的载入工作是在服务器启动时自动执行的,并没有专门的命令。但是由于A0F的优先级更高,因此当AOF开启时,Redis会优先载入AOF文件来恢复数据;只有当A0F关闭时,才会在Redis服务器启动时检测RDB文件,并自动载入。服务器载入RDB文件期间处于阻塞状态,直到载入完成为止。Redis载入RDB文件时,会对RDB文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败。 十三、AOF持久化 RDB持久化是将进程数据写入文件,而AOF持久化,则是将Redis执行的每次写、删除命令记录到单独的日志文件中,查询操作不会记录; 当Redis重启时再次执行AOF文件中的命令来恢复数据。与RDB相比,AOF的实时性更好,因此已成为主流的持久化方案。 1、开启AOF

Redis服务器默认开启RDB,关闭AOF的, 要开启AOF,需要在/etc/ redis/6379.conf配置文件中配置。

vim /etc/redis/6379.conf-----700行--修改, 开启AOFappendonly yes-----704行--指定A0F文件名称appendfilename "appendonly.aof"-----796行--是否忽略最后一条可能存在问题的指令aof-load-truncated yes/etc/init.d/redis_6379 restart#重启redis 2、 执行流程

由于需要记录Redis的每条写命令,因此A0F不需要触发,AOF的执行流程如下:

(1)AOF的执行流程包括:

命令追加(append): 将Redis的写命令追加到缓冲区aof_ buf;文件写入(write)和文件同步(sync):根据不同的同步策略将aof_buf中的内容同步到硬盘;文件重写(rewrite): 定期重写AOF文件,达到压缩的目的。

①命令追加 (append)

Redis先将写命令追加到缓冲区,而不是直接写入文件,主要是为了避免每次有写命令都直接写入硬盘,导致硬盘IO成为Redis负载的瓶颈。命令追加的格式是Redis命令请求的协议格式,它是一种纯文本格式,具有兼容性好、可读性强、容易处理、操作简单避免二次开销等优点。在A0F文件中,除了用于指定数据库的select命令 (如select0为选中0号数据库) 是由Redis添加的,其他都是客户端发送来的写命令。

②文件写入(write) 和文件同步 (sync)

Redis 提供了多种AOF缓存区的同步文件策略,策略涉及到操作系统的write函数和fsync函数,说明如下:

为了提高文件写入效率,在现代操作系统中,当用户调用write函数将数据写入文件时,操作系统通常会将数据暂存到一个内存缓冲区里,当缓冲区被填满或超过了指定时限后,才真正将缓冲区的数据写入到硬盘里。这样的操作虽然提高了效率,但也带来了安全问题:如果计算机停机,内存缓冲区中的数据会丢失;因此系统同时提供了fsync、fdatasync等同步函数,可以强制操作系统立刻将缓冲区中的数据写入到硬盘里,从而确保数据的安全性。

AOF缓存区的同步文件策略存在三种同步方式,它们分别是:

vim /etc/redis/6379.conf---729---● appendfsync always:解释:命令写入aof_ buf后立即调用系统fsync操作同步到AOF文件,fsync完成后线程返回。 这种情况下,每次有写命令都要同步到AOF文件,硬盘IO成为性能瓶颈,Redis只能支持大约几百TPS写入, 严重降低了Redis的性能;即便是使用固态硬盘(SSD),每秒大约也只能处理几万个命令,而且会大大降低SSD的寿命。● appendfsync no:解释:命令写入aof_ buf后调用系统write操作,不对AOF文件做fsync同步; 同步由操作系统负责,通常同步周期为30秒。这种情况下,文件同步的时间不可控, 且缓冲区中堆积的数据会很多,数据安全性无法保证。● appendfsynceverysec:解释:命令写入aof_ buf后调用系统write操作,write完成后线程返回; fsync同步文件操作由专门的线程每秒调用一次。 everysec是前述两种策略的折中,是性能和数据安全性的平衡, 因此是Redis的默认配置,也是我们推荐的配置。

③ 文件重写 (rewrite)

随着时间流逝,Redis服务器执行的写命令越来越多,AOF文件也会越来越大:过大的AOF文件不仅会影响服务器的正常运行,也会导致数据恢复需要的时间过长。文件重写是指定期重写AOF文件,减小AOF文件的体积。需要注意的是,AOF重写是把Redis进程内的数据转化为写命令,同步到新的AOF文件;不会对旧的AOF文件进行任何读取、写入操作!关于文件重写需要注意的另一点是:对于AOF持久化来说,文件重写虽然是强烈推荐的,但并不是必须的;即使没有文件重写,数据也可以被持久化并在Redis启动的时候导入:因此在一些实现中,会关闭自动的文件重写,然后通过定时任务在每天的某一时刻定时执行。

(2)、文件重写能压缩AOF文件的原因

过期的数据不再写入文件;无效的命令不再写入文件:如有些数据被重复设值(set mykey test1, set mykey test2)、有些数据被删除了(sadd myset vtest, del myset) 等。多条命令可以合并为一个:如sadd myset test1, sadd myset test2, sadd myset test3可以合并为sadd myset test1 test2 test3

通过上述内容可以看出,由于重写后AOF执行的命令减少了,文件重写既可以减少文件占用的空间,也可以加快恢复速度。

(3)文件重写的触发

文件重写的触发,分为手动触发和自动触发

手动触发:直接调用bgrewriteaof命令,该命令的执行与bgsave有些类似:都是fork子进程进行具体的工作,且都只有在fork时阻塞。自动触发:通过设置auto-aof - rewrite-min-size选项和auto- aof - rewrite- percentage选项来自动执行BGREWRITEAOF 只有当auto-aof- rewrite- -min-size和auto-aof -rewrite-percentage两个选项同时满足时,才会自动触发AOF重写,即bgrewriteaof操作。 vim /etc/redis/ 6379. conf----729----● auto-aof- rewrite-percentage 100当前AOF文件大小(即aof_current_size)是上次日志重写时AOF文件大小(aof_base_size)两倍时,发生BGREWRITEAOF操作● auto-aof - rewrite-min-size 64mb当前A0F文件执行BGREWRITEAOF命令的最小值,避免刚开始启动Reids时由于文件尺寸较小导致频繁的BGREWRITEAOF

(4)文件重写的流程

Redis父进程首先判断当前是否存在正在执行bgsave/bgrewriteaof的子进程,如果存在则bgrewriteaof命令直接返回,如果存在bgsave命令则等bgsave执行完成后再执行。父进程执行fork操作创建子进程,这个过程中父进程是阻塞的。父进程fork后,bgrewriteaof 命令返回"Background append only file rewrite started" 信息并不再阻塞父进程,并可以响应其他命令。Redis的所有写命令依然写入AOF缓冲区,并根据appendfsync策略同步到硬盘,保证原有A0F机制的正确。由于fork操作使用写时复制技术,子进程只能共享fork操作时的内存数据。由于父进程依然在响应命令,因此Redis使用AOF重写缓冲区(aof_ rewrite_buf) 保存这部分数据,防止新AOF文件生成期间丢失这部分数据。也就是说,bgrewriteaof执行 期间,Redis的写 命令同时追加到aof_ buf和aof_ rewirte_ buf两个缓冲区。子进程根据内存快照,按照命令合并规则写入到新的AOF文件。子进程写完新的AOF文件后,向父进程发信号,父进程更新统计信息,具体可以通过info persistence查看。父进程把AOF重写缓冲区的数据写入到新的AOF文件,这样就保证了新AOF文件所保存的数据库状态和服务器当前状态一致。使用新的AOF文件替换老文件,完成AOF重写。

(5)重写流程注意点

重写由父进程fork子进程进行;重写期间Redis执行的写命令,需要追加到新的AOF文件中,为此Redis引入了aof_ rewrite_buf缓存。 3、启动时加载 当AOF开启时,Redis启 动时会优先载入AOF文件来恢复数据;只有当AOF关闭时,才会载入RDB文件恢复数据。当AOF开启,但AOF文 件不存在时,即使RDB文件存在也不会加载。Redis载入AOF文件时,会对AOF文件进行校验,如果文件损坏,则日志中会打印错误,Redis启动失败。但如果是AOF文件结尾不完整 (机器突然宕机等容易导致文件尾部不完整),且aof-load- truncated参数开启,则日志中会输出警告,Redis 忽略掉AOF文件的尾部,启动成功。aof-load-truncated参数默认是开启的。 十四、RDB和AOF的优缺点 1、RDB持久化的优缺点 优点:RDB文件紧凑,体积小,网络传输快,适合全量复制;恢复速度比AOF快很多。当然,与AOF相比, RDB最 重要的优点之一是对性能的影响相对较小。缺点:RDB文件的致命缺点在于其数据快照的持久化方式决定了必然做不到实时持久化,而在数据越来越重要的今天,数据的大量丢失很多时候是无法接受的,因此AOF持久化成为主流。此外,RDB文件需要满足特定格式,兼容性差(如老版本的Redis不兼容新版本的RDB文件)。对于RDB持久化,一方面是bgsave在进行fork操作时Redis主进程会阻塞,另一方面,子进程向硬盘写数据也会带来IO压力。 2、AOF持久化的优缺点 与RDB持久化相对应,AOF的优点在于支持秒级持久化、兼容性好,缺点是文件大、恢复速度慢、对性能影响大。对于AOF持久化,向硬盘写数据的频率大大提高(everysec策略下为秒级),IO压力更大,甚至可能造成AOF追加阻塞问题。AOF文件的重写与RDB的bgsave类似,会有fork时的阻塞和子进程的I0压力问题。相对来说,由于AOF向硬盘中写数据的频率更高,因此对Redis主进程性能的影响会更大。 十五、Redis性能管理 查看Redis内存使用 192.168.9.236: 7001> info memory 内存碎片率 操作系统分配的内存值used_ memory_ rss除以Redis使用的内存值used_ memory计算得出内存碎片是由操作系统低效的分配/回收物理内存导致的 (不连续的物理内存分配)跟踪内存碎片率 跟踪内存碎片率对理解Redis实例的资源性能是非常重要的: 内存碎片率稍大于1是合理的,这个值表示内存碎片率比较低内存碎片率超过1.5,说明Redis消耗了实际需要物理内存的150号, 其中50号是内存碎片率。需要在redis-cli工具.上输入shutdown save命令,并重启Redis 服务器。内存碎片率低于1的,说明Redis内存分配超出了物理内存,操作系统正在进行内存交换。需要增加可用物理内存或减少Redis内存占用。 内存使用率

redis实例的内存使用率超过可用最大内存,操作系统将开始进行内存与swap空间交换。

避免内存交换发生的方法:

针对缓存数据大小选择安装Redis 实例尽可能的使用Hash数据结构存储设置key的过期时间 内回收key

保证合理分配redis有限的内存资源。

当达到设置的最大阀值时,需选择一种key的回收策略,默认情况下回收策略是禁止删除。 配置文件中修改maxmemory- policy属性值:

vim /etc/redis/6379.conf--598--maxmemory-policy noenvictionvolatile-lru :使用LRU算法从已设置过期时间的数据集合中淘汰数据volatile-ttl :从已设置过期时间的数据集合中挑选即将过期的数据淘汰volatile-random :从已设置过期时间的数据集合中随机挑选数据淘汰allkeys-lru :使用LRU算法从所有数据集合中淘汰数据allkeys-random :从数据集合中任意选择数据淘汰noenviction :禁止淘汰数据 总结

(1)数据库

关系型数据库:实例–>数据库–>表(table)–>记录行(row)、数据字段(column) 非关系型数据库:实例–>数据库–>集合(collection) -->键值对(key-value) 非关系型数据库不需要手动建数据库和集合(表) (2)redis测试工具

Redis命令工具中的 rdb 和 aof 是redis服务中持久化功能的两种形式! redis-cli命令行工具(远程登录); redis-benchmark 测试工具(有效的测试 Redis 服务的性能) (3)redis数据库命令

set 、get和del :存放、获取和删除数据 keys:获取key,可以结合通配符 * 和 ? exists和type:判断key是否存在和判断类型 rename和renamenx:重命名的两种,后者会进行判断,存在则不改 dbsize:查看当前数据库中key的数目 (4)Redis多数据库常用命令

select 序号 :切换库名(16个数据库,数据库名称是用数字0-15) move 键值 序号:多数据库间移动数据 FLUSHDB :清空当前数据库数据 FLUSHALL :清空所有数据库的数据,慎用! (5)Redis 高可用

含义:高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务。 组成:实现高可用的技术主要包括持久化、主从复制、哨兵和集群。 (6 ) 高可用中的持久化:RDB与AOF

持久化方式: ①RDB:周期性的快照 ②AOF:接近实时的持久化(以everysec方式)

redis启用的优先级 AOF > RDB 同时仅当AOF功能关闭的情况下,redis才会再重新启动时使用RDB的方式进行恢复

RDB和AOF中的持久化模式 ①RDB:由redis主进程(周期性)fork派生出子进程对redis内存中的数据进行持久化,生成到.rdb文件中. ②AOF:根据持久化策略(alawys、no、everysec(默认)),先将redis中的语句保存在缓存区中,再从缓冲区同步到.aof文件中.

(7 ) redis的恢复策略/优势 redis与其他常用非关数据库类似,都是将数据保存在内存中 而保存在内存中时,当redis重启,内存数据丢失,但redis通过RDB或AOF的持久化功能可以在redis进行重启之后,优先读取AOF文件,基于AOF文件进行数据恢复这种方式来“持久化保存”数据。

【簡單】4種方法解決SSD沒有顯示在Windows …如何重新将Win10安装到固态硬盘?(2种方法)搜索_华为云安装步骤 | 部署指南 | SUSE Linux Enterprise Server 15 SP4NoSQL之 Redis配置与优化_System_TuTu的博客-CSDN博客DiskBoss Pro磁盘数据管理软件与SSD Fresh2021(固态硬盘 ...MBR分区表与GPT分区表的关系_fighting_for_a_job的博客 ...Linux系统基础小白学习(更新中) - CSDN开发云机械硬盘和ssd固态硬盘的原理分析 | 科技文SSD差距有多大?两款主流NVMe固态硬盘测试,一就包懂详解电脑固态硬盘使用率经常出现百分百的解决方法【Ubuntu18.04】移动固态硬盘安装ubuntu18.04、NIVDIA、CUDA、CUDNN——01笔记本装固态硬盘和机械硬盘双硬盘安装固态硬盘笔记企业级硬盘和固态硬盘有什么区别重装系统将系统移动到固态硬盘,并修改为C盘进PE系统找不到硬盘怎么办?电脑大神怎么做的!SSD能用多久在哪 检测固态硬盘寿命方法如何检测固态硬盘是否损坏 - 卡饭网bcd 初始化库系统卷失败_固态硬盘安装后系统里不见如何解决【详细介绍】...三星970 evo固态硬盘了win10原因分析及解方法固态硬盘为什么建议分区?固态硬盘经常卡死什么情况固态硬盘要不要安装驱动?总算弄明白了固态硬盘容易坏吗 SSD固态硬盘坏掉前有什么征兆【详细介绍】解决办法:从U盘启动时找不到硬盘的解决方法将kali安装到U盘/固态移动硬盘2022超详细步骤windows10安装ubuntu16.04时能显示固态硬盘,机械硬盘显示一整块问题的解决方法10款高性能固态硬盘横向测试Xavier 开机闪屏 问题解决以及 安装固态硬盘并挂载笔记本升级固态硬盘后会怎样?秒懂戴尔(dell)计算机nvme固态硬盘安装win10系统和分区教程SSD固态硬盘,撸一把RAID0模式大提速固态硬盘买什么接口好?那么多接口到底选哪种?完这个秒懂win10将硬盘作为存储池删除读不到盘符_东芝的传承,我来延续:铠侠TC10 SATA固态硬盘上手评测...安装Deepin系统到硬盘分区部分没有发现硬盘数据的解决固态硬盘做缓存如何设置笔记本安装固态涉及的注意事项加装固态硬盘+安装win10系统
小说作者老西作品搜索引擎英文空间余弦定理求二面角公式象征手法的小诗自创 爱国梦见儿子头摔破了气血不足月子餐食谱做法俊美拼音怎么写一如既往和一如既往的意思11.12河南特大杀人案真菌感染的症状和体征栾树演过电视吗