千与千寻-Redis基础学习

Redis基础学习

1、Redis的特点：

(1) 速度快，因为数据存在内存中，类似于HashMap，HashMap的优势就是查找和操作的时间复杂度都是O(1)
(2) 支持丰富数据类型，支持string，list，set，sorted set，hash
(3) 支持事务，操作都是原子性，所谓的原子性就是对数据的更改要么全部执行，要么全部不执行
(4) 丰富的特性：可用于缓存，消息，按key设置过期时间，过期后将会自动删除

2. redis相比memcached有哪些优势？

(1) memcached所有的值均是简单的字符串，redis作为其替代者，支持更为丰富的数据类型，上面已经说了。
(2) redis的速度比memcached快很多。
(3) redis可以持久化其数据，持久化到文件rdb中。这里提到了持久化，就说一下持久化实现方式。
持久化方式：
缺省情况下，Redis会参照当前数据库中数据被修改的数量，在达到一定的阈值后会将数据库的快照存储到磁盘上，这一点我们可以通过配置文件来设定该阈值。通常情况下，我们也可以将Redis设定为定时保存。如当有1000个以上的键数据被修改时，Redis将每隔60秒进行一次数据持久化操作。缺省设置为，如果有9个或9个以下数据修改时，Redis将每15分钟持久化一次。这种方式为快照方式。
save 900 1
save 300 10
save 60 10000

另外，一定要设置最大内存，否则物理内存用爆了就会大量使用Swap，写RDB文件时的速度慢得你想死。置最大内存，达到最大内存设置后，Redis会先尝试清除已到期或即将到期的Key，当此方法处理后，任到达最大内存设置，将无法再进行写入操作。

value大小

redis最大可以达到1GB，而memcache只有1MB.

3. redis常见性能问题和解决方案：

(1) Master最好不要做任何持久化工作，如RDB内存快照和AOF日志文件
(2) 如果数据比较重要，某个Slave开启AOF备份数据，策略设置为每秒同步一次
(3) 为了主从复制的速度和连接的稳定性，Master和Slave最好在同一个局域网内
(4) 尽量避免在压力很大的主库上增加从库
(5) 主从复制不要用图状结构，用单向链表结构更为稳定，即：Master <- Slave1 <- Slave2 <- Slave3...
这样的结构方便解决单点故障问题，实现Slave对Master的替换。如果Master挂了，可以立刻启用Slave1做Master，其他不变。

4、Redis的使用初探。

1）设置密码在配置文件中 /etc/redis/redis.cnf中设置 requirepass passwd

2)Python操作。

例子：


import sys 
import redis
import cPickle as P
import time

class PyRedis():

    config={
             'local':{
                    'host':'127.0.0.1',
                    'port':6379,
                    'db':0,
                    'password':'admin'
                    },  
             'virtual':{
                    'host':'192.168.6.128',
                    'port':6379,
                    'db':0,
                    'password':'*******'
                    },  
            }   


    def __init__(self,host):
        self.host = host
       self.__connect()


    def __connect(self):
        # the rs can excute all operations for different data types
        self.rs = redis.Redis(host=self.config[self.host]['host'],
                              port=self.config[self.host]['port'],
                              db=self.config[self.host]['db'],
                              password=self.config[self.host]['password'])

def test(key):
    myredis = PyRedis('local')
    if myredis.rs.llen(key) >=5 and (time.time() - float(myredis.rs.lindex(key,4)))<=3600:
        print 'sorry,but you are forbidden'
        sys.exit(0)
    else:
        myredis.rs.lpush(key,time.time())
        print 'login success'

5、面试题：

MySQL里有2000w数据，redis中只存20w的数据，如何保证redis中的数据都是热点数据。说出几种策略。
解答：在redis.cnf配置文件中，已经给出了解释。
voltile-lru：从已设置过期时间的数据集（server.db[i].expires）中挑选最近最少使用的数据淘汰

volatile-ttl：从已设置过期时间的数据集（server.db[i].expires）中挑选将要过期的数据淘汰

volatile-random：从已设置过期时间的数据集（server.db[i].expires）中任意选择数据淘汰

allkeys-lru：从数据集（server.db[i].dict）中挑选最近最少使用的数据淘汰

allkeys-random：从数据集（server.db[i].dict）中任意选择数据淘汰

no-enviction（驱逐）：禁止驱逐数据

##6、Redis 常见的性能问题都有哪些？如何解决？

1).Master写内存快照，save命令调度rdbSave函数，会阻塞主线程的工作，当快照比较大时对性能影响是非常大的，会间断性暂停服务，所以Master最好不要写内存快照。

2).Master AOF持久化，如果不重写AOF文件，这个持久化方式对性能的影响是最小的，但是AOF文件会不断增大，AOF文件过大会影响Master重启的恢复速度。Master最好不要做任何持久化工作，包括内存快照和AOF日志文件，特别是不要启用内存快照做持久化,如果数据比较关键，某个Slave开启AOF备份数据，策略为每秒同步一次。

3).Master调用BGREWRITEAOF重写AOF文件，AOF在重写的时候会占大量的CPU和内存资源，导致服务load过高，出现短暂服务暂停现象。

4). Redis主从复制的性能问题，为了主从复制的速度和连接的稳定性，Slave和Master最好在同一个局域网内。

7、redis 最适合的场景

Redis最适合所有数据in-momory的场景，虽然Redis也提供持久化功能，但实际更多的是一个disk-backed的功能，跟传统意义上的持久化有比较大的差别，那么可能大家就会有疑问，似乎Redis更像一个加强版的Memcached，那么何时使用Memcached,何时使用Redis呢?

   如果简单地比较Redis与Memcached的区别，大多数都会得到以下观点：

 1 、Redis不仅仅支持简单的k/v类型的数据，同时还提供list，set，zset，hash等数据结构的存储。
 2 、Redis支持数据的备份，即master-slave模式的数据备份。
 3 、Redis支持数据的持久化，可以将内存中的数据保持在磁盘中，重启的时候可以再次加载进行使用。

（1）、会话缓存（Session Cache）

最常用的一种使用Redis的情景是会话缓存（session cache）。用Redis缓存会话比其他存储（如Memcached）的优势在于：Redis提供持久化。当维护一个不是严格要求一致性的缓存时，如果用户的购物车信息全部丢失，大部分人都会不高兴的，现在，他们还会这样吗？

幸运的是，随着 Redis 这些年的改进，很容易找到怎么恰当的使用Redis来缓存会话的文档。甚至广为人知的商业平台Magento也提供Redis的插件。

（2）、全页缓存（FPC）

除基本的会话token之外，Redis还提供很简便的FPC平台。回到一致性问题，即使重启了Redis实例，因为有磁盘的持久化，用户也不会看到页面加载速度的下降，这是一个极大改进，类似PHP本地FPC。

再次以Magento为例，Magento提供一个插件来使用Redis作为全页缓存后端。

此外，对WordPress的用户来说，Pantheon有一个非常好的插件 wp-redis，这个插件能帮助你以最快速度加载你曾浏览过的页面。

（3）、队列

Reids在内存存储引擎领域的一大优点是提供 list 和 set 操作，这使得Redis能作为一个很好的消息队列平台来使用。Redis作为队列使用的操作，就类似于本地程序语言（如Python）对 list 的 push/pop 操作。

如果你快速的在Google中搜索“Redis queues”，你马上就能找到大量的开源项目，这些项目的目的就是利用Redis创建非常好的后端工具，以满足各种队列需求。例如，Celery有一个后台就是使用Redis作为broker，你可以从这里去查看。

（4），排行榜/计数器

Redis在内存中对数字进行递增或递减的操作实现的非常好。集合（Set）和有序集合（Sorted Set）也使得我们在执行这些操作的时候变的非常简单，Redis只是正好提供了这两种数据结构。所以，我们要从排序集合中获取到排名最靠前的10个用户–我们称之为“user_scores”，我们只需要像下面一样执行即可：

当然，这是假定你是根据你用户的分数做递增的排序。如果你想返回用户及用户的分数，你需要这样执行：

ZRANGE user_scores 0 10 WITHSCORES

Agora Games就是一个很好的例子，用Ruby实现的，它的排行榜就是使用Redis来存储数据的，你可以在这里看到。

（5）、发布/订阅

最后（但肯定不是最不重要的）是Redis的发布/订阅功能。发布/订阅的使用场景确实非常多。我已看见人们在社交网络连接中使用，还可作为基于发布/订阅的脚本触发器，甚至用Redis的发布/订阅功能来建立聊天系统！（不，这是真的，你可以去核实）。

Redis提供的所有特性中，我感觉这个是喜欢的人最少的一个，虽然它为用户提供如果此多功能。

Redis持久化

Redis的持久化的两种方式是RDB和AOF两种模式。

RDB是记录的内存快照，即记录的是数据，和Mysql的基于Row的模式是一个意思。它的触发条件是手动触发，或者每个多长时间发生了多少数据的更改。

手动触发就是执行SAVE和BGSAVE，这两个区别是save是阻塞命令，即执行该命令时，不可以做任何读写操作；BGSAVE是fork子进程进行操作。

一般在数据库里配置化如下：

# Save the DB on disk:
#
#   save <seconds> <changes>
#
#   Will save the DB if both the given number of seconds and the given
#   number of write operations against the DB occurred.
#
#   In the example below the behavior will be to save:
#   after 900 sec (15 min) if at least 1 key changed
#   after 300 sec (5 min) if at least 10 keys changed
#   after 60 sec if at least 10000 keys changed
#
#   Note: you can disable saving completely by commenting out all "save" lines.
#
#   It is also possible to remove all the previously configured save
#   points by adding a save directive with a single empty string argument
#   like in the following example:
#
#   save ""

save 900 1
save 300 10
save 60 10000

达到了触发条件就会执行持久化操作。

另外一种持久化方式就是AOF，它和Mysql的binLog基于语句的模式是一样的。它记录的是每一个执行的语句。而它持久化的方式可以是每执行一个命令就写入一条或者每秒执行一次等等。默认是每秒执行一次。

那么，两者都有什么优缺点呢。

先说RDB，他记录的是某个时间的内存数据快照，RDB文件也是一个压缩后的文件。当我们想恢复数据时，直接导入RDB内的数据即可了，即恢复速度非常快。但是呢，它也有很多致命的缺点，即如果发生宕机，它可能会导致丢很多数据。因为在发生宕机的时候可能还没有触发RDB持久化操作。

而AOF就解决了RDB的文件，几乎每个Redis的命令都会追加到AOF文件中，因此AOF模式丢失的数据会非常少。但唯一的问题就是AOF记录每一个命令，导致AOF文件会非常大，在恢复数据过程中也回比RDB方式差很多。不过AOF模式也有很多优化操作，即它有AOF重写操作，它会在保证所有数据都会完全原样的前提下，将AOF文件的命令降低到最少。

默认情况下，AOF的策略是每秒同步一次。Redis会采用一个后台线程进程同步。它的入口就是：

/* Starts a background task that performs fsync() against the specified
 * file descriptor (the one of the AOF file) in another thread. */
void aof_background_fsync(int fd) {
    bioCreateBackgroundJob(BIO_AOF_FSYNC,(void*)(long)fd,NULL,NULL);
}

但如果系统导致fsync变慢，也回阻塞主线程，下面是一个流程图：

我们在实际使用中是可以同时使用两个持久化的方式的，只不过在重启时，Redis会优先选择AOF的方式，如果没有AOF，才会去找RDB文件。实际上，我们也应该两者都使用。

void loadDataFromDisk(void) {
    long long start = ustime();
    if (server.aof_state == AOF_ON) {
        if (loadAppendOnlyFile(server.aof_filename) == C_OK)
            serverLog(LL_NOTICE,"DB loaded from append only file: %.3f seconds",(float)(ustime()-start)/1000000);
    } else {
        rdbSaveInfo rsi = RDB_SAVE_INFO_INIT;
        errno = 0; /* Prevent a stale value from affecting error checking */
        if (rdbLoad(server.rdb_filename,&rsi,RDBFLAGS_NONE) == C_OK) {
            serverLog(LL_NOTICE,"DB loaded from disk: %.3f seconds",
                (float)(ustime()-start)/1000000);

            /* Restore the replication ID / offset from the RDB file. */
            if ((server.masterhost ||
                (server.cluster_enabled &&
                nodeIsSlave(server.cluster->myself))) &&
                rsi.repl_id_is_set &&
                rsi.repl_offset != -1 &&
                /* Note that older implementations may save a repl_stream_db
                 * of -1 inside the RDB file in a wrong way, see more
                 * information in function rdbPopulateSaveInfo. */
                rsi.repl_stream_db != -1)
            {
                memcpy(server.replid,rsi.repl_id,sizeof(server.replid));
                server.master_repl_offset = rsi.repl_offset;
                /* If we are a slave, create a cached master from this
                 * information, in order to allow partial resynchronizations
                 * with masters. */
                replicationCacheMasterUsingMyself();
                selectDb(server.cached_master,rsi.repl_stream_db);
            }
        } else if (errno != ENOENT) {
            serverLog(LL_WARNING,"Fatal error loading the DB: %s. Exiting.",strerror(errno));
            exit(1);
        }
    }
}

参考资料：

Redis持久化

面试中经常被问到的 Redis 持久化与恢复

--------EOF---------
微信分享/微信扫码阅读

Redis基础学习

Redis基础学习

1、Redis的特点：

2. redis相比memcached有哪些优势？

value大小

3. redis常见性能问题和解决方案：

4、Redis的使用初探。

1）设置密码 在配置文件中 /etc/redis/redis.cnf中设置 requirepass passwd

2)Python操作。

5、面试题：

7、redis 最适合的场景

Redis持久化

登录

Sign Up

Forgotten Password

1）设置密码在配置文件中 /etc/redis/redis.cnf中设置 requirepass passwd