PHP讀取大文件的幾種方法

場景：PHP讀取超大文件，例如1G的日志文件，我這裡使用的是400M的access.log文件

1、使用file直接讀取

<?php
$starttime=microtime_float();

ini_set('memory_limit', '-1');
$file = 'testfile.txt';

$data = file($file);
$line = $data[count($data) - 1000];
$endtime=microtime_float();

echo count($data),"<br/>";
echo $endtime-$starttime;

function microtime_float(){
list($usec, $sec) = explode(" ", microtime());
return ((float)$usec + (float)$sec);
}
?>


運行結果：10127784 行 共使用了，7.8764359951s
我的電腦是3G內存，此方法不是推薦使用，因為需要把文件全部載入內存


2、使用linux命令 tail

<?php

$starttime=microtime_float();

$file = 'testfile.txt';
$file = escapeshellarg($file); // 對命令行參數進行安全轉義
$line = `tail -n 100 $file`;

echo $line,"<br/>";

$endtime=microtime_float();
echo $endtime-$starttime;

function microtime_float(){
list($usec, $sec) = explode(" ", microtime());
return ((float)$usec + (float)$sec);
}

//end
?>

運行結果：只使用了幾毫秒、輕松搞定、這種方法不能在windows下使用


3、使用fseek函數

這種方式是最為普遍的方式，它不需要將文件的內容全部讀入內容，因為PHP是C寫的，所以實現的時候也類似C讀取文件，通過指針的移動，所以效率是相當高效的。在使用fseek來對文件進行操作時，也有多種不同的方法，效率可能也是略有差別的，下面是常用的幾種方法
方法一：使用fopen打開文件（從文件指針資源句柄）

<?php
$starttime=microtime_float();

$file = 'testfile.txt';
$fp = fopen($file, "r+");

$line = 100;
$pos = -2;
$t =$data="";

while ($line > 0)
{
while ($t != "\n") //換行符
{
fseek($fp, $pos, SEEK_END);//移動指針
$t = fgetc($fp);//獲取一個字符
$pos--;//向前偏移
}

$t = "";
$data = fgets($fp);//獲取當前行的數據
$line--;
}
fclose($fp);
echo $data,"<br/>";
$endtime=microtime_float();

echo $endtime-$starttime;

function microtime_float(){
list($usec, $sec) = explode(" ", microtime());
return ((float)$usec + (float)$sec);
}
?>


運行結果：0.338493108749




方法二：一塊一塊的讀取

<?php
$starttime=microtime_float();

$file = 'testfile.txt';
$fp = fopen($file, "r");
$num = 10;
$chunk = 4096;//4K的塊
$fs = sprintf("%u", filesize($file));
$readData='';
$max = (intval($fs) == PHP_INT_MAX) ? PHP_INT_MAX : $fs;

for($len = 0; $len < $max; $len += $chunk){

$seekSize = ($max - $len > $chunk) ? $chunk : $max - $len;
fseek($fp, ($len + $seekSize) * -1, SEEK_END);
$readData = fread($fp, $seekSize) . $readData;

if (substr_count($readData, "\n") >= $num + 1) {

$ns=substr_count($readData, "\n")-$num+2;
preg_match('/(.*?\n){'.$ns.'}/',$readData,$match);
$data = $match[1];
break;
}
}
fclose($fp);
echo $data,"<br/>";


$endtime=microtime_float();

echo $endtime-$starttime;

function microtime_float(){
list($usec, $sec) = explode(" ", microtime());
return ((float)$usec + (float)$sec);
}
?>

運行時間：0.00199198722839