• 如何用python最快的获取大文件的最后几行


            工作中经常会遇到处理日志文件的问题:为了得到日志的最新状态,我们需要获取日志文件的最后部分行来做判断。那么,这种情况下我们应该怎么做呢?

             1)常规方法:从前往后依次读取

                  步骤:open打开日志文件。

                              读取文件,获取文件的总行数。

                              遍历所有行,提取指定行的数据。

                  优点:简单,方便

                  缺点:当文件大了以后时间太慢,无法忍受

             2)推荐方法:

                   步骤:open打开日志文件。

                              移动文件读取指针到文件末尾。

                              从后往前移动指针直到合适的位置。

                              读取文件,提取指定行的数据。

                  优点:时间相对固定,适合处理大文件

             示例:

        logFile = open('logFilePath.log', 'r')
        logFile.seek(0,2)
        logFile.seek(-1000000,2)
        rowCount = 0
        for row in logFile.readlines()[1:]:
             pass
    


     seek():移动文件读取指针到指定位置

    tell():返回文件读取指针的位置

    seek()的三种模式:

        (1)f.seek(p,0)  移动当文件第p个字节处,绝对位置

        (2)f.seek(p,1)  移动到相对于当前位置之后的p个字节

        (3)f.seek(p,2)  移动到相对文章尾之后的p个字节


  • 相关阅读:
    《c++primer》笔记 第3章 字符串、向量和数组
    如何下载Jason2测高数据
    《c++primer》笔记 第2章 变量和基本类型
    《c++primer》笔记 第1章 开始
    VMware打开vmx文件无响应
    Qt5.6.0连接SQL Server 2008
    Qt5.6.0(32位)编译SQLServer驱动(ODBC)(vs2013)
    Qt中操作数据库例子-插入数据
    《UNIX网络编程卷1》第一例及问题
    UVa 1225 Digit Counting
  • 原文地址:https://www.cnblogs.com/chenjianhong/p/4144472.html
Copyright © 2020-2023  润新知