HTTP文件上傳服務器：支持超大文件HTTP斷點續傳的實現辦法 - 網安

Part1前言

最近由于筆者所在的研發集團產品需要，需要支持高性能的大文件（大都數是4GB以上）的http上傳，并且要求支持http斷點續傳。筆者在以前的博客如何實現支持大文件的高性能HTTP文件上傳服務器已經介紹了實現大文件上傳的一些基本概念，其實非常簡單，這里在簡要歸納一下，方便記憶：

服務器端由C語言實現，而不是用java、PHP這種解釋型語言來實現；服務器端即時寫入硬盤，因此無需再次調用move_uploaded_file、InputStreamReader 這種需要緩存的技術來避免服務器內存占用與瀏覽器請求超時；支持HTML5與IFRAME（針對老瀏覽器），并且支持獲取文件上傳進度。為了更好的適應當前的移動互聯網，要求對上傳服務支持斷點續傳，斷線重連。因為移動互聯網并不非常穩定；再者，上傳一個大文件發生異常掉線的可能性非常大，為了避免重新上傳，支持斷點續傳就變得非常必要了。

Part2實現思路

支持斷點續傳的思路是：

客戶端（通常是瀏覽器）向服務器端上傳某個文件，服務器端不斷記錄上傳的進度，如果一旦掉線或發生其它異常，客戶端可以向服務器查詢某個文件已經上傳的狀態，從上次上傳的文件位置接著上傳。

網上也有大師采用分片文件上傳方式來實現大文件上傳，方法是將文件切成小片，例如4MB一個片段，服務器端每次接收一小片文件保存成一個臨時文件，等待所有片段傳輸完畢后，再執行合并。筆者認為，如果原始文件足夠小，這種方式是可以的，但一旦文件有幾百兆或者幾個GB或者幾十個GB，則合并文件的時間會非常長，常常導致瀏覽器響應超時或服務器阻塞。

如果自己實現獨立客戶端（或瀏覽器的ActiveX插件）來上傳文件，則支持斷點續傳將是一件非常簡單的事情，只需在客戶端記錄文件上傳狀態。而支持瀏覽器斷點續傳（無需安裝第三方插件）一般來說是要比自己做獨立客戶端上傳難度大一些，但也不難。

我的實現思路如下：

1 瀏覽器在上傳某個文件時候，先給這個文件生成一個HASH值，必須在瀏覽器端生成這個HASH值。

不能單循地依據文件名來查詢文件上傳記錄，文件名的重復性很大，文件名 + 文件尺寸組成的值重復性縮小，如果再加上文件修改時間，則重復性進一步縮小，如果再加上一個瀏覽器的 ID可以進一步縮小重復性沖突。最好的HASH值的計算方法是用文件的內容進行MD5計算，但計算量極大（其實也沒有必要這么做），過多的耗時會影響上傳的體驗。

基于上述理由，我的HASH值計算思路如下：

首先給瀏覽器賦予一個ID，這個ID保存在Cookie里；

瀏覽器的 ID+ 文件的修改時間 + 文件名 + 文件尺寸的結果進行MD5來計算一個文件的HASH值；

瀏覽器的ID 是系統在瀏覽器訪問文件上傳站點時自動給瀏覽器授予的。

//簡單的Cookie幫助函數
function setCookie(cname,cvalue,exdays)
{
var d = new Date();
d.setTime(d.getTime()+(exdays*24*60*60*1000));
var expires = "expires="+d.toGMTString();
document.cookie = cname + "=" + cvalue + "; " + expires;
}

function getCookie(cname)
{
var name = cname + "=";
var ca = document.cookie.split(';');
for(var i=0; i{
var c = ca[i].trim();
if (c.indexOf(name)==0) return c.substring(name.length,c.length);
}
return "";
}
//
//簡單的文件HASH值計算，如果您不是十分考究，應該可以用于產品。
//由于計算文件HASH值用到了多種數據，因此在HYFileUploader系統范圍內發生HASH沖突的可能性應該非常小，應該可以放心使用。
//獲取文件的ID可以用任何算法來實現，只要保證做到同一文件的ID是相同的即可，獲取的ID長度不要超過32字節
//
function getFileId (file)
{
//給瀏覽器授予一個唯一的ID用于區分不同的瀏覽器實例（不同機器或者相同機器不同廠家的瀏覽器）
var clientid = getCookie("HUAYIUPLOAD");
if (clientid == "") {
//用一個隨機值來做瀏覽器的ID，將作為文件HASH值的一部分
var rand = parseInt(Math.random() * 1000);
var t = (new Date()).getTime();
clientid =rand+'T'+t;

setCookie("HUAYIUPLOAD",clientid,365);
}

var info = clientid;
if (file.lastModified)
    info += file.lastModified;
if (file.name)
    info += file.name;
if (file.size)
    info += file.size;
//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js
var fileid = md5(info);
return fileid;
}

筆者認為：不必通過讀取文件的內容來計算HASH值，這樣會非常慢的。如果確實需要實現HTTP秒傳，可能得這么做，這樣如果不同的人上傳的文件內容一致，就可避免重復上傳，直接返回結果即可。

只所以給瀏覽器賦予一個ID，這樣可以進一步避免別的計算機的同名同尺寸文件的HASH值沖突。

2 查詢文件的HASH值

在文件上傳支持，先通過文件的HASH值從上傳服務器查詢文件的上傳進度信息，然后從上傳進度位置開始上傳，代碼如下：

var fileObj = currentfile;
var fileid = getFileId(fileObj);
var t = (new Date()).getTime();
//通過以下URL獲取文件的斷點續傳信息，必須的參數為fileid，后面追加t參數是避免瀏覽器緩存
var url = resume_info_url + '?fileid='+fileid + '&t='+t;

var ajax = new XMLHttpRequest();

ajax.onreadystatechange = function () { 
    if(this.readyState == 4){
        if (this.status == 200){
            var response = this.responseText;
            
            var result = JSON.parse(response);
            if (!result) {
                alert('服務器返回的數據不正確，可能是不兼容的服務器');
                return;
            }
            //斷點續傳信息返回的文件對象包含已經上傳的尺寸
            var uploadedBytes = result.file && result.file.size;
            if (!result.file.finished && uploadedBytes < fileObj.size) {
                upload_file(fileObj,uploadedBytes,fileid);
            }
            else {
                //文件已經上傳完成了，就不要再上傳了，直接返回結果就可以了
                showUploadedFile(result.file);
                //模擬進度完成
                //var progressBar = document.getElementById('progressbar');
                //progressBar.value = 100;
            }
            
        }else {
            alert('獲取文件斷點續傳信息失敗');
        }  
    } 
}




ajax.open('get',url,true);
ajax.send(null);

以上是通過 jQuery-file-upload組件的實現，通過原始Javascript的實現代碼請參見demos目錄的h4resume.html樣本代碼。

3 執行上傳

在查詢完文件的斷點續傳信息后，如果文件確實以前已經上傳，服務器將返回已經上傳過的文件尺寸，我們接著從已經上傳的文件尺寸位置開始上傳數據即可。

html5的File對象的 slice 可以用于從文件切取片段來上傳。

定義和用法

slice() 方法可提取字文件的某個部分，并以新的字符串返回被提取的部分。

語法

File.slice(start,end)

參數描述start要抽取的片斷的起始下標。如果是負數，則該參數規定的是從字符串的尾部開始算起的位置。也就是說，-1 指字符串的最后一個字符，-2 指倒數第二個字符，以此類推。end緊接著要抽取的片段的結尾的下標。若未指定此參數，則要提取的子串包括 start 到原字符串結尾的字符串。如果該參數是負數，那么它規定的是從字符串的尾部開始算起的位置。

實現分片文件上傳的代碼如下：

/*
文件上傳處理代碼
fileObj : html5 File 對象
start_offset: 上傳的數據相對于文件頭的起始位置
fileid: 文件的ID，這個是上面的getFileId 函數獲取的，
*/
function upload_file(fileObj,start_offset,fileid)
{
var xhr = new XMLHttpRequest();
var formData = new FormData();

var blobfile;

if(start_offset >= fileObj.size){
 return false;
}

var bitrateDiv = document.getElementById("bitrate");
var finishDiv = document.getElementById("finish");
var progressBar = document.getElementById('progressbar');
var progressDiv = document.getElementById('percent-label');

var oldTimestamp = 0;
var oldLoadsize = 0;
var totalFilesize = fileObj.size;
if (totalFilesize == 0) return;

var uploadProgress = function (evt) {
 if (evt.lengthComputable) {
  var uploadedSize = evt.loaded + start_offset; 
  var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);

  var timestamp = (new Date()).valueOf();
  var isFinish = evt.loaded == evt.total;

  if (timestamp > oldTimestamp || isFinish) {
   var duration = timestamp - oldTimestamp;
   if (duration > 500 || isFinish) {
    var size = evt.loaded - oldLoadsize;

    var bitrate = (size * 8 / duration /1024) * 1000; //kbps
    if (bitrate > 1000)
     bitrate = Math.round(bitrate / 1000) + 'Mbps';
    else
     bitrate = Math.round(bitrate) + 'Kbps';

    var finish = evt.loaded + start_offset;

    if (finish > 1048576)
     finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB';
    else
     finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB';

    progressBar.value = percentComplete;
    progressDiv.innerHTML = percentComplete.toString() + '%';
    bitrateDiv.innerHTML = bitrate;
    finishDiv.innerHTML = finish;

    oldTimestamp = timestamp;
    oldLoadsize = evt.loaded;
   }
  }
 }
 else {
  progressDiv.innerHTML = 'N/A';
 }
}

xhr.onreadystatechange = function(){
    if ( xhr.readyState == 4 && xhr.status == 200 ) {
      console.log( xhr.responseText );

    }
else if (xhr.status == 400) {
}
};
var uploadComplete = function (evt) {
 progressDiv.innerHTML = '100%';

 var result = JSON.parse(evt.target.responseText);
 if (result.result == 'success') {
  showUploadedFile(result.files[0]);
 }
 else {
  alert(result.msg);
 }
}

var uploadFailed = function (evt) {
 alert("上傳文件失敗！");
}

var uploadCanceled = function (evt) {
 alert("上傳被取消或者瀏覽器斷開了連接！");
}

//設置超時時間,由于是上傳大文件，因此千萬不要設置超時
//xhr.timeout = 20000;
//xhr.ontimeout = function(event){
  //  alert('文件上傳時間太長，服務器在規定的時間內沒有響應！');
  //}

xhr.overrideMimeType("application/octet-stream"); 

var filesize = fileObj.size;
var blob = fileObj.slice(start_offset,filesize);
var fileOfBlob = new File([blob], fileObj.name);
//附加的文件數據應該放在請求的前面
formData.append('filename', fileObj.name);
//必須將fileid信息傳送給服務器，服務器只有在獲得了fileid信息后才對文件做斷點續傳處理
formData.append('fileid', fileid);
//請將文件數據放在最后的域
//formData.append("file",blob, fileObj.name);
formData.append('file', fileOfBlob);

xhr.upload.addEventListener("progress", uploadProgress, false);

xhr.addEventListener("load", uploadComplete, false);
xhr.addEventListener("error", uploadFailed, false);
xhr.addEventListener("abort", uploadCanceled, false);
xhr.open('POST', upload_file_url);
//
xhr.send(formData);
}

為了驗證文件斷點續傳，筆者做了一個簡單的界面，用于顯示文件上傳的過程中的狀態信息，界面如下：

通過HTML可以計算文件上傳的進度，文件已經上傳的尺寸，文件上傳的位率等信息，如果在上傳過程中出現任何異常，則重新上傳即可，已經上傳的部分將不需要重新上傳。

Part3驗證

為了驗證HTML5斷點續傳，可以通過 github來下載這個文件上傳服務器來進行測試。

https://github.com/wenshui2008/UploadServer