Memcached使用getMulti造成的性能问题
本文由发表于3年前 | J2EE | 暂无评论 |  被围观 2,832 views+
解决方法有两个:

有这样一个场景:使用getMulti一次性读取一个系列的所有手机100个key,请求了100万次,系统最初只有一个MC服务器,随着访问量的增加,负载加大了,于是增加了几个MC服务器,但结果负载反而更加大了。

原因是开始那100个key在一台服务器上获取,现在分不到了几MC服务器,需要访问的服务器增多了,而关键性的因素是我们用到的MC客户端memcached-client,其中的AscIIClient如下:

public Map<String, Object> getMulti(String[] keys, Integer[] hashCodes, boolean asString)
  {
    if ((keys == null) || (keys.length == 0)) {
      if (log.isErrorEnabled())
        log.error("missing keys for getMulti()");
      return null;
    }

    Map cmdMap = new HashMap();
    String[] cleanKeys = new String[keys.length];
    for (int i = 0; i < keys.length; i++) {
      String key = keys[i];
      if (key == null) {
        if (log.isErrorEnabled())
          log.error("null key, so skipping");
      }
      else
      {
        Integer hash = null;
        if ((hashCodes != null) && (hashCodes.length > i)) {
          hash = hashCodes[i];
        }
        cleanKeys[i] = key;
        try {
          cleanKeys[i] = sanitizeKey(key);
        }
        catch (UnsupportedEncodingException e) {
          if (this.errorHandler != null)
            this.errorHandler.handleErrorOnGet(this, e, key);
          if (log.isErrorEnabled())
            log.error("failed to sanitize your key!", e);
          continue;
        }

        SchoonerSockIO sock = this.pool.getSock(cleanKeys[i], hash);

        if (sock == null) {
          if (this.errorHandler != null) {
            this.errorHandler.handleErrorOnGet(this, new IOException("no socket to server available"), key);
          }
        }
        else
        {
          if (!cmdMap.containsKey(sock.getHost())) {
            cmdMap.put(sock.getHost(), new StringBuilder("get"));
          }
          ((StringBuilder)cmdMap.get(sock.getHost())).append(new StringBuilder().append(" ").append(cleanKeys[i]).toString());

          sock.close();
        }
      }
    }
    if (log.isDebugEnabled()) {
      log.debug(new StringBuilder().append("multi get socket count : ").append(cmdMap.size()).toString());
    }

    Map ret = new HashMap(keys.length);

    new NIOLoader(this).doMulti(asString, cmdMap, keys, ret);

    for (int i = 0; i < keys.length; i++)
    {
      if ((!keys[i].equals(cleanKeys[i])) && (ret.containsKey(cleanKeys[i]))) {
        ret.put(keys[i], ret.get(cleanKeys[i]));
        ret.remove(cleanKeys[i]);
      }

    }

    if (log.isDebugEnabled())
      log.debug(new StringBuilder().append("++++ memcache: got back ").append(ret.size()).append(" results").toString());
    return ret;
  }   

请求多台服务器是串行的,结果导致客户端操作时间累加,请求堆积,最终导致性能下降。

解决方法有两个:

一是把串行请求改为并行请求,可以参考spymemcached的并行实现:

  • 第一步,将本次操作构造成一个针对每个 node 的 Operation 对象,加入连接对象中;
  • 第二步,在连接对象中,将所有的 node 操作放入 addedQueue 队列,然后触发 Selector 方式异步非阻塞的执行;

一是把key根据一个系列的手机散列不同的MC服务器上,这样就达到请求一台服务器获取所有的内容了,不过根据就不同的业务场景散列方法也不同,比较不好处理。

或者不使用getMulti这个方法了

必须使用getMulti方法的时候可以把缓存数据复制到另一个memcache集群上,一个集群负责读取一半的keys,但是又会引发需要更多的CPU的问题。

旁观者的博客也分析了这类分析,很透彻,提供给大家参考下

除了文章中有特别说明,均为IT宅原创文章,转载请以链接形式注明出处。
本文链接:http://www.itzhai.com/mc-use-getmulti-problem.html
关键字: ,
arthinking Java技术交流群:280755654,入门群:428693174 more
分享到:
 
2015 3/13
如果您有更好的原创技术博文或者观点,欢迎投稿:admin@itzhai.com,或者关注订阅左侧浮动面板的微信号订阅IT宅itread)发送消息。
文章评论
    没有评论
给我留言

有人回复时邮件通知我
J2EE的相关文章
随机文章 本月热门 热评
1 JVM 类加载器介绍及其父亲委托机制 Parent Delegation 2011/11/5
2 Javascript笔记 – 函数式的Javascript 2012/5/31
3 ubuntu下安装Bochs虚拟机的方法及其可能遇到的make问题 2011/4/29
4 Javascript笔记 – Javascript中的JSON和对象 2012/5/22
5 Java基础笔记 – 数组 二维数组 三维数组 Arrays类 2011/10/29
6 Linux shell的使用和几个常见的实例解析 2011/6/11
友情推荐 更多
破博客 文官洗碗安天下,武将打怪定乾坤。多么美好的年代,思之令人泪落。
Mr.5's Life 白天是一名程序员,晚上就是个有抱负的探索者
行知-追寻技术之美 关注大数据,分布式系统
我爱编程 编程成长轨迹
Cynthia's Blog 学习笔记 知识总结 思考感悟
 
猜您喜欢
欢迎关注我的公众号 IT宅
关于IT宅 文章归档

IT宅中的文章除了标题注明转载或有特别说明的文章,均为IT宅的技术知识总结,学习笔记或随笔。如果喜欢,请使用文章下面提供的分享组件。转载请注明出处并加入文章的原链接。 感谢大家的支持。

联系我们:admin@itzhai.com

Theme by arthinking. Copyright © 2011-2015 IT宅.com 保留所有权利.