• Python操作Memcache


    Memcached

    Memcached 是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象来减少读取数据库的次数,从而提高动态、数据库驱动网站的速度。Memcached基于一个存储键/值对的hashmap。其守护进程(daemon )是用C写的,但是客户端可以用任何语言来编写,并通过memcached协议与守护进程通信。

    Memcached安装和基本使用

    Memcached安装:

    1 yum -y install gcc gcc-c++
    2 PS:依赖libevent,需要提前安装
    3 yum install libevent-devel
    4 #apt-get install libevent-dev
    5 用wget 去http://memcached.org下载最新源码
    6 tar -zxvf memcached-x.x.x.tar.gz
    7 cd memcached-x.x.x
    8 ./configure && make && make test && sudo make install

    启动Memcached:

     1 memcached -d -m 10 -u root -l 0.0.0.0 -p 12000 -c 256 -P /tmp/memcached.pid
     2  
     3 参数说明:
     4     -d 是启动一个守护进程
     5     -m 是分配给Memcache使用的内存数量,单位是MB
     6     -u 是运行Memcache的用户
     7     -l 是监听的服务器IP地址
     8     -p 是设置Memcache监听的端口,最好是1024以上的端口
     9     -c 选项是最大运行的并发连接数,默认是1024,按照你服务器的负载量来设定
    10     -P 是设置保存Memcache的pid文件

    Memcached命令:

    1 存储命令: set/add/replace/append/prepend/cas
    2 获取命令: get/gets
    3 其他命令: delete/stats..

    Python操作Memcached

    安装API

    1 python操作Memcached使用Python-memcached模块
    2 下载安装:https://pypi.python.org/pypi/python-memcached
    3 win下面可以使用以下命令:
    4 pip3 install Python-Memcached

     1、第一次操作

    1 #!/usr/bin/ python
    2 # _*_ coding:utf-8 _*_
    3 import memcache
    4 mc = memcache.Client(['182.254.134.63'],debug=True)
    5 mc.set("foo","bar")
    6 ret = mc.get("foo")
    7 print(ret)

    Ps:debug = True 表示运行出现错误时,现实错误信息,上线后移除该参数。

    2、天生支持集群

    python-memcached模块原生支持集群操作,其原理是在内存维护一个主机列表,且集群中主机的权重值和主机在列表中重复出现的次数成正比

    1   主机    权重
    2     1.1.1.1   1
    3     1.1.1.2   2
    4     1.1.1.3   1
    5  
    6 那么在内存中主机列表为:
    7     host_list = ["1.1.1.1", "1.1.1.2", "1.1.1.2", "1.1.1.3", ]

    如果用户根据如果要在内存中创建一个键值对(如:k1 = "v1"),那么要执行一下步骤:

    • 根据算法将 k1 转换成一个数字
    • 将数字和主机列表长度求余数,得到一个值 N( 0 <= N < 列表长度 )
    • 在主机列表中根据 第2步得到的值为索引获取主机,例如:host_list[N]
    • 连接 将第3步中获取的主机,将 k1 = "v1" 放置在该服务器的内存中
    1 mc = memcache.Client([('1.1.1.1:12000', 1), ('1.1.1.2:12000', 2), ('1.1.1.3:12000', 1)], debug=True)
    2 
    3 mc.set('k1', 'v1')

    3、add
    添加一条键值对,如果已经存在的 key,重复执行add操作异常

    1 #!/usr/bin/env python
    2 # -*- coding:utf-8 -*-
    3 import memcache
    4  
    5 mc = memcache.Client(['10.211.55.4:12000'], debug=True)
    6 mc.add('k1', 'v1')
    7 # mc.add('k1', 'v2') # 报错,对已经存在的key重复添加,失败!!!

    4、replace
    replace 修改某个key的值,如果key不存在,则异常

    1 #!/usr/bin/ python
    2 # _*_ coding:utf-8 _*_
    3 import memcache
    4  
    5 mc = memcache.Client(['10.211.55.4:12000'], debug=True)
    6 # 如果memcache中存在kkkk,则替换成功,否则异常
    7 mc.replace('kkkk','999')

    5、set 和 set_multi

    set            设置一个键值对,如果key不存在,则创建,如果key存在,则修改
    set_multi   设置多个键值对,如果key不存在,则创建,如果key存在,则修改

    1 #!/usr/bin/ python
    2 # _*_ coding:utf-8 _*_
    3 import memcache
    4  
    5 mc = memcache.Client(['10.211.55.4:12000'], debug=True)
    6  
    7 mc.set('key0', 'wupeiqi')
    8  
    9 mc.set_multi({'key1': 'val1', 'key2': 'val2'})

    6、delete 和 delete_multi

    delete             在Memcached中删除指定的一个键值对
    delete_multi    在Memcached中删除指定的多个键值对

    #!/usr/bin/ python
    # _*_ coding:utf-8 _*_
    import memcache
     
    mc = memcache.Client(['10.211.55.4:12000'], debug=True)
     
    mc.delete('key0')
    mc.delete_multi(['key1', 'key2'])

    7、get 和 get_multi

    get            获取一个键值对
    get_multi   获取多一个键值对

    1 #!/usr/bin/ python
    2 # _*_ coding:utf-8 _*_
    3 import memcache
    4  
    5 mc = memcache.Client(['10.211.55.4:12000'], debug=True)
    6  
    7 val = mc.get('key0')
    8 item_dict = mc.get_multi(["key1", "key2", "key3"])

    8、append 和 prepend

    append    修改指定key的值,在该值 后面 追加内容
    prepend   修改指定key的值,在该值 前面 插入内容

     1 #!/usr/bin/ python
     2 # _*_ coding:utf-8 _*_
     3 import memcache
     4  
     5 mc = memcache.Client(['10.211.55.4:12000'], debug=True)
     6 # k1 = "v1"
     7  
     8 mc.append('k1', 'after')
     9 # k1 = "v1after"
    10  
    11 mc.prepend('k1', 'before')
    12 # k1 = "beforev1after"

    9、decr 和 incr  

    incr  自增,将Memcached中的某一个值增加 N ( N默认为1 )
    decr 自减,将Memcached中的某一个值减少 N ( N默认为1 )

     1 #!/usr/bin/ python
     2 # _*_ coding:utf-8 _*_
     3 import memcache
     4  
     5 mc = memcache.Client(['10.211.55.4:12000'], debug=True)
     6 mc.set('k1', '777')
     7  
     8 mc.incr('k1')
     9 # k1 = 778
    10  
    11 mc.incr('k1', 10)
    12 # k1 = 788
    13  
    14 mc.decr('k1')
    15 # k1 = 787
    16  
    17 mc.decr('k1', 10)
    18 # k1 = 777

    10、gets 和 cas

    如商城商品剩余个数,假设改值保存在memcache中,product_count = 900
    A用户刷新页面从memcache中读取到product_count = 900
    B用户刷新页面从memcache中读取到product_count = 900

    如果A、B用户均购买商品

    A用户修改商品剩余个数 product_count=899
    B用户修改商品剩余个数 product_count=899

    如此一来缓存内的数据便不在正确,两个用户购买商品后,商品剩余还是 899
    如果使用python的set和get来操作以上过程,那么程序就会如上述所示情况!

    如果想要避免此情况的发生,只要使用 gets 和 cas 即可,如:

    1 #!/usr/bin/ python
    2 # _*_ coding:utf-8 _*_
    3 import memcache
    4 mc = memcache.Client(['10.211.55.4:12000'], debug=True, cache_cas=True)
    5  
    6 v = mc.gets('product_count')
    7 # ...
    8 # 如果有人在gets之后和cas之前修改了product_count,那么,下面的设置将会执行失败,剖出异常,从而避免非正常数据的产生
    9 mc.cas('product_count', "899")

    Ps:本质上每次执行gets时,会从memcache中获取一个自增的数字,通过cas去修改gets的值时,会携带之前获取的自增值和memcache中的自增值进行比较,如果相等,则可以提交,如果不想等,那表示在gets和cas执行之间,又有其他人执行了gets(获取了缓冲的指定值), 如此一来有可能出现非正常数据,则不允许修改。

  • 相关阅读:
    【转】大数据求职者说
    【转】大数据东西辣么多,我该如何给自己一个清晰的定位呢?
    【转】大数据工程师需要学习哪些?
    【English】 Re-pick up English for learning big data (not updated regularly)
    【spark】spark应用(分布式估算圆周率+基于Spark MLlib的贷款风险预测)
    【idea】scala&sbt+idea+spark使用过程中问题汇总(不定期更新)
    【idea】scala&sbt+idea安装配置与测试
    spring boot热部署
    网段判断
    【转】python测试框架--doctest
  • 原文地址:https://www.cnblogs.com/xb88/p/8045885.html
Copyright © 2020-2023  润新知