使用python操作RabbitMQ,Redis,Memcache,SQLAlchemy 其一

一.概念

1.Memcached

     Memcached 是一个高性能的分布式内存对象缓存系统，用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象来减少读取数据库的次数，从而提高动态、数据库驱动网站的速度。Memcached基于一个存储键/值对的 hashmap 。其 守护进程 （daemon ）是用 C 写的，但是客户端可以用任何语言来编写，并通过memcached协议与守护进程通信。

2.RabbitMQ

    RabbitMQ是一个在AMQP基础上完整的，可复用的企业消息系统。他遵循Mozilla Public License开源协议。

    MQ全称为Message Queue, 消息队列（MQ）是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息（针对应用程序的数据）来通信，而无需专用连接来链接它们。消 息传递指的是程序之间通过在消息中发送数据进行通信，而不是通过直接调用彼此来通信，直接调用通常是用于诸如远程过程调用的技术。排队指的是应用程序通过队列来通信。队列的使用除去了接收和发送应用程序同时执行的要求。

3.Redis

     redis是一个key-value 存储系统 。和Memcached类似，它支持存储的value类型相对更多，包括string(字符串)、list( 链表 )、set(集合)、zset(sorted set --有序集合)和hash（哈希类型）。这些 数据类型 都支持push/pop、add/remove及取交集并集和差集及更丰富的操作，而且这些操作都是原子性的。在此基础上，redis支持各种不同方式的排序。与memcached一样，为了保证效率，数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件，并且在此基础上实现了master-slave(主从)同步。

4.SQLAlchemy

     SQLAlchemy是 Python 编程语言下的一款ORM框架，该框架建立在数据库API之上，使用关系对象映射进行数据库操作，简言之便是：将对象转换成SQL，然后使用数据API执行SQL并获取执行结果。

二.理解

Memcache一般是用来作为缓存服务使用的.通过这个工具,我们可以把经常使用的数据放置在读取速度非常快的内存里面,用户在访问的时候,就可以直接提取数据,而不用从缓慢的硬盘里面获取,提高了访问的效率.

Redis 在功能上和Memcache有相同的地方,也会把数据缓存在内存里面,所以提高访问的效率.

RabbitMQ是一个消息队列目的是用来给其他模块提供信息传输的功能,可以供其他的模块调用.

SQLAlchemy是一个工具,用来简化python到数据库的访问.

三.使用

3.1 Memcache

3.1.1 安装

wget http: / / memcached.org / latest
tar  - zxvf memcached - 1.x .x.tar.gz
cd memcached - 1.x .x
. / configure && make && make test && sudo make install

PS：依赖libevent
       yum install libevent - devel
       apt - get install libevent - dev

3.1.2 启动

memcached  - d  - m  10     - u root  - l  10.211 . 55.4  - p  12000  - c  256  - P  / tmp / memcached.pid

参数说明:
    - d 是启动一个守护进程
    - m 是分配给Memcache使用的内存数量，单位是MB
    - u 是运行Memcache的用户
    - l 是监听的服务器IP地址
    - p 是设置Memcache监听的端口,最好是 1024 以上的端口
    - c 选项是最大运行的并发连接数，默认是 1024 ，按照你服务器的负载量来设定
    - P 是设置保存Memcache的pid文件

3.1.3 操作

存储命令:  set / add / replace / append / prepend / cas
获取命令: get / gets
其他命令: delete / stats..

3.2 使用python来控制Memcache

3.2.1 安装API

python操作Memcached使用Python - memcached模块
下载安装：https: / / pypi.python.org / pypi / python - memcached

3.2.2 Example

import  memcache
mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
mc. set ( "foo" ,  "bar" )
ret  =  mc.get( 'foo' )
print  ret

3.2.3 集群

python-memcached模块原生支持集群操作，其原理是在内存维护一个主机列表，且集群中主机的权重值和主机在列表中重复出现的次数成正比

 主机    权重
    1.1 . 1.1    1
    1.1 . 1.2    2
    1.1 . 1.3    1

那么在内存中主机列表为：
    host_list  =  [ "1.1.1.1" ,  "1.1.1.2" ,  "1.1.1.2" ,  "1.1.1.3" , ]

如果用户根据如果要在内存中创建一个键值对（如：k1 = "v1"），那么要执行一下步骤：

• 根据算法将 k1 转换成一个数字
• 将数字和主机列表长度求余数，得到一个值 N（ 0 <= N < 列表长度 ）
• 在主机列表中根据 第2步得到的值为索引获取主机，例如：host_list[N]
• 连接 将第3步中获取的主机，将 k1 = "v1" 放置在该服务器的内存中

example:

mc  =  memcache.Client([( '1.1.1.1:12000' ,  1 ), ( '1.1.1.2:12000' ,  2 ), ( '1.1.1.3:12000' ,  1 )], debug = True )
mc. set ( 'k1' ,  'v1' )

3.2.4 增加值

添加一条键值对，如果已经存在的 key，重复执行add操作异常

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import  memcache

mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
mc.add( 'k1' ,  'v1' )
# mc.add('k1', 'v2') # 报错，对已经存在的key重复添加，失败！！！

3.2.5 修改值

replace 修改某个key的值，如果key不存在，则异常

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import  memcache

mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
# 如果memcache中存在kkkk，则替换成功，否则一场
mc.replace( 'kkkk' , '999' )

3.2.6 增加和修改的混合 set

set            设置一个键值对，如果key不存在，则创建，如果key存在，则修改
set_multi   设置多个键值对，如果key不存在，则创建，如果key存在，则修改

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import  memcache
mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
mc. set ( 'key0' ,  'wupeiqi' )
mc.set_multi({ 'key1' :  'val1' ,  'key2' :  'val2' })

3.2.7 删除

delete             在Memcached中删除指定的一个键值对
delete_multi    在Memcached中删除指定的多个键值对

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import  memcache
mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
mc.delete( 'key0' )
mc.delete_multi([ 'key1' ,  'key2' ])

3.2.8 获取信息

get            获取一个键值对
get_multi   获取多一个键值对

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import  memcache
mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
val  =  mc.get( 'key0' )
item_dict  =  mc.get_multi([ "key1" ,  "key2" ,  "key3" ])

3.2.9 追加

append    修改指定key的值，在该值 后面 追加内容
prepend   修改指定key的值，在该值 前面 插入内容

#!/usr/bin/env python
# -*- coding:utf-8 -*-
import  memcache
mc  =  memcache.Client([ '10.211.55.4:12000' ], debug = True )
# k1 = "v1"
mc.append( 'k1' ,  'after' )
# k1 = "v1after"
mc.prepend( 'k1' ,  'before' )
# k1 = "beforev1after"

来自为知笔记(Wiz)