Python缓存技术实现过程详解

  

<强>一段非常简单代码
  

  

普通调用方式
  

        def console1 (a, b):   打印(“进入函数”)   返回(a, b)      打印(console1 (3, ' '))   print (console1 (2 b))   print (console1 (3.0 a))      

很简单的一段代码,传入两个参数,然后打印输出。输出结果
  

        进入函数   (3,' ')   进入函数   (2,' b ')   进入函数   (3.0 a)      

<强>使用某个装饰器后
  

  

接下来我们引入functools模块的lru_cache, python3自带模块。
  

        从functools进口lru_cache   @lru_cache ()   def console2 (a, b):   打印(“进入函数”)   返回(a, b)   打印(console2 (3, ' '))   print (console2 (2 b))   print (console2 (3.0 a))      

ほら,惊喜来了。
  

        进入函数   (3,' ')   进入函数   (2,' b ')   (a)      

我们发现,少了一次进入函数的打印,这是怎么回事呢?这就是接下来要说的LRU缓存技术了。
  

  

<强>我们理解下什么是LRU
  

  

LRU(最近最少使用)是缓存置换策略中的一种常用的算法。当缓存队列已满时,新的元素加入队列时,需要从现有队列中移除一个元素,LRU策略就是将最近最少被访问的元素移除,从而腾出空间给新的元素。
  

  

<强> python中的实现
  

  

python3中的functools模块的lru_cache实现了这个功能,lru_cache装饰器会记录以往函数运行的结果,实现了备忘(记忆)功能,避免参数重复时反复调用,达到提高性能的作用,在递归函数中作用特别明显。这是一项优化技术,它把耗时的函数的结果保存起来,避免传入相同的参数时重复计算。
  

  

<>强带参数的lru_cache
  

  

使用方法lru_cache(最大容量=128,输入=False)最大容量可以缓存最多个此函数的调用结果,从而提高程序执行的效率,特别适合于耗时的函数。参数最大容量为最多缓存的次数,如果为None,则无限制,设置为2的n次幂时,性能最佳;如果类型=True,则不同参数类型的调用将分别缓存,例如(3)和f(3.0),默认假来一段综合代码:
  

        从functools进口lru_cache      def console1 (a, b):   打印(“进入函数”)   返回(a, b)         @lru_cache ()   def console2 (a, b):   打印(“进入函数”)   返回(a, b)         类型=True @lru_cache(最大容量=256)   def console3 (a, b):   “‘      :参数:   :param b:   返回:   “‘   打印(“进入函数”)   返回(a, b)         打印(console1 (3, ' '))   print (console1 (2 b))   print (console1 (3.0 a))   打印(“*”* 40)   打印(console2 (3, ' '))   print (console2 (2 b))   print (console2 (3.0 a))   打印(“*”* 40)   打印(console3 (3, ' '))   print (console3 (2 b))   print (console3 (3.0 a))      

同样的可以用到爬虫的去重操作上,避免网页的重复请求。在后期存储的时候做判断即可。
  

        从functools进口lru_cache   从requests_html进口HTMLSession   会话=HTMLSession ()   @lru_cache ()   def get_html (url):   要求=session.get (url)   打印(url)   返回请求      urllist=" https://www.baidu.com ", " https://pypi.org/project/pylru/1.0.9/", " https://www.baidu.com ")      if __name__==癬_main__”:   因为我在urllist:   print (get_html(我)      

输出
  

        https://www.baidu.com   & lt;响应[200]比;   https://pypi.org/project/pylru/1.0.9/& lt;响应[200]比;   & lt;响应[200]在      

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。

Python缓存技术实现过程详解