注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

软件大铺的博客

IT技术共享

 
 
 

日志

 
 

C#实现缓存冷热数据  

2012-06-19 22:04:24|  分类: .Net |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

最近做项目时需要实现数据冷热分离功能,现在的NOSQL框架(redis,memcached,mongodb)均已实现了这个功能,直接拿过来用就Ok了,(知其然还要知其所以然吧,呵呵)

分析如下:

这个功能核心词:“最近(远)最少使用的缓存项”移除缓存就OK了。

A.最近(远):第一感觉不就是时间排序(正序,倒序)么。

B.最少使用:就是缓存项的get频率了 。

C.这个功能的理论支撑就是大名鼎鼎的LRU算法了,核心思想:“在前面几条指令中使用频繁的页面很可能在后面的几条指令中频繁使用。反过来说,已经很久没有使用的 页面很可能在未来较长的一段时间内不会被用到。这个,就是著名的局部性原理——比内存速度还要快的 cache,也是基于同样的原理运行的。因此,我们只需要在每次 调换时,找到最近最少使用的那个页面调出内存 ” ,这个算法的详细介绍网上都有我也不贴了。

实现:

A. 最近(远),实现方式有这么几种:

1),排序最快的当然是快速排序了,快速排序的时间复杂度:平均O(nlogn),最坏O(n^2),在一个大访问量的站点实时运用这个排序可行性不高;

2),顺序添加缓存项,自然而然老的数据就在前面新的数据就在后面了,可用的数据结构:数组,链表(单练,双链)我用链表,理由:链表,添加,删除都  为O(1),添加Dictionary字典作辅助缓存管理器,弥补链表查找缺点(链表查找速度比较慢)

B.最少使用:get缓存项给个计数器(这个计数器不是必须?原因:我们只要每次把get的缓存项添加到链表的最后面就可了,我添加计数器的理由是:使用频率超过既定值时再移动该缓存项,否则不移动。),当集合大小超过阀值要做的就是删除链表头部的缓存项就可以了。

C.结构图如下:

 

D.代码

internal class CacheItem<K, V>
     {
         public CacheItem(K k, V v)
         {
             UseCount = 0;
             Key = k;
             Value = v;
         }
 
         public int UseCount = 0;
         public K Key;
         public V Value;
     }
 
     //Hot and cold
     public class HCCache<K, V>
     {
         private int maxSize;
         private int hot;
         private Dictionary<K, LinkedListNode<CacheItem<K, V>>> cacheDic;
         private LinkedList<CacheItem<K, V>> chacheList;
         private volatile bool init = false;
 
         public HCCache(int maxSize, int hot = 10)
         {
             if (!init)
             {
                 this.init = true;
                 this.hot = hot;
                 this.maxSize = maxSize;
                 this.cacheDic = new Dictionary<K, LinkedListNode<CacheItem<K, V>>>(maxSize);
                 this.chacheList = new LinkedList<CacheItem<K, V>>();
             }
         }
      
         public V Get(K key)
         {
             LinkedListNode<CacheItem<K, V>> node;
             if (cacheDic.TryGetValue(key, out node))//0(1)  
             {
                 V value = node.Value.Value;
                 Interlocked.Add(ref  node.Value.UseCount, 1);
                 //node.Value.UseCount++;  //这里按需要可改为原子递增操作
                 if (node.Value.UseCount >= hot && node.Next != null)
                 {
                     lock (chacheList)
                     {
                         chacheList.Remove(node); //O(1)           
                         chacheList.AddLast(node); //O(1)
                     }
                     Console.WriteLine("移动:{0}", node.Value.Value);
                 }
                 Console.WriteLine("{0}:,使用:{1},线程:{2}", value, node.Value.UseCount,System.Threading.Thread.CurrentThread.Name);
                 return value;
             }
             return default(V);
         }
 
         public void Add(K key, V val)
         {
             if (cacheDic.Count >= maxSize)
             {
                 RemoveOldItem();
             }
             CacheItem<K, V> cacheItem = new CacheItem<K, V>(key, val);
             LinkedListNode<CacheItem<K, V>> node = new LinkedListNode<CacheItem<K, V>>(cacheItem);
             chacheList.AddLast(node);//O(1)         
             cacheDic.Add(key, node);//0(1) -->O(n);
         }
 
         public void ClearAll()
         {
             chacheList.Clear();
             cacheDic.Clear();
             init = false;
         }
 
         private void RemoveOldItem()
         {
             lock (chacheList)
             {
                 //移除老的数据 链表头部都为老的数据
                 LinkedListNode<CacheItem<K, V>> node = chacheList.First;
                 if (node == null) return;
                 Console.WriteLine("移除:{0}使用:{1}", node.Value.Value, node.Value.UseCount);
                 // chacheList.Remove(node);
                 chacheList.RemoveFirst();
                 cacheDic.Remove(node.Value.Key);
             }
 
         }

E.测试

//初始化
             HCCache<int, int> cache = new HCCache<int, int>(100);
 
             var th1 = new System.Threading.Thread(() =>
             {
                 for (var i = 0; i < 200; i++)
                 {
                     cache.Add(i, i);
                 }
             }) { IsBackground = true, Name = "add_th1" };
 
             var th2 = new System.Threading.Thread(() =>
             {
                 for (var i = 0; i < 5; i++)
                 {
                     var countLRU = 10;//r.Next(0, 200);
                     for (var k = 0; k < countLRU; k++)
                     {
                         var item = cache.Get(100);
                         if (k == countLRU - 1)
                         {
                             Console.WriteLine("获取:{0},", item);
                         }
                     }
                 }
             }) { IsBackground = true, Name = "get_th2" };
 
             var th3 = new System.Threading.Thread(() =>
             {
                 for (var i = 0; i < 5; i++)
                 {
                     var countLRU = 10;//r.Next(0, 200);
                     for (var k = 0; k < countLRU; k++)
                     {
                         var item = cache.Get(101);
                         if (k == countLRU - 1)
                         {
                             Console.WriteLine("获取:{0},", item);
                         }
                     }
                 }
             }) { IsBackground = true, Name = "get_th3" };
           
             //启动
             th1.Start();
             th2.Start();
             th3.Start();
 
             //等待完成
             th1.Join();
             th2.Join();
             th3.Join();

     Console.ReadLine(); 

 F:这是个模拟缓存冷热分离实验,可以扩展的地方为:

     1),冷数据的处理策略,删除亦或是移到其他介质中去而当前缓存只保留其引用 。

     2),冷数据的判定标准。(我使用get平率,因为简单啊 )

 

转自:http://www.cnblogs.com/liguo/archive/2012/06/19/2554840.html

  评论这张
 
阅读(844)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017