最近由于筆者所在的研發(fā)集團(tuán)產(chǎn)品需要,需要支持高性能的大文件http上傳,并且要求支持http斷點(diǎn)續(xù)傳。這里在簡(jiǎn)要?dú)w納一下,方便記憶:
服務(wù)器端由C語(yǔ)言實(shí)現(xiàn),而不是用java、PHP這種解釋型語(yǔ)言來(lái)實(shí)現(xiàn);
服務(wù)器端即時(shí)寫(xiě)入硬盤(pán),因此無(wú)需再次調(diào)用move_uploaded_file、InputStreamReader 這種需要緩存的技術(shù)來(lái)避免服務(wù)器內(nèi)存占用與瀏覽器請(qǐng)求超時(shí);
支持HTML5與IFRAME(針對(duì)老瀏覽器),并且支持獲取文件上傳進(jìn)度。
為了更好的適應(yīng)當(dāng)前的移動(dòng)互聯(lián)網(wǎng),要求對(duì)上傳服務(wù)支持?jǐn)帱c(diǎn)續(xù)傳,斷線重連。因?yàn)橐苿?dòng)互聯(lián)網(wǎng)并不非常穩(wěn)定;再者,上傳一個(gè)大文件發(fā)生異常掉線的可能性非常大,為了避免重新上傳,支持?jǐn)帱c(diǎn)續(xù)傳就變得非常必要了。
支持?jǐn)帱c(diǎn)續(xù)傳的思路是:
客戶端(通常是瀏覽器)向服務(wù)器端上傳某個(gè)文件,并不斷記錄上傳的進(jìn)度,如果一旦掉線或發(fā)生其它異常,客戶端可以向服務(wù)器查詢某個(gè)文件已經(jīng)上傳的狀態(tài),從上次上傳的文件位置接著上傳。
網(wǎng)上也有大師采用分片文件上傳方式來(lái)實(shí)現(xiàn)大文件上傳,方法是將文件切成小片,例如4MB一個(gè)片段,服務(wù)器端每次接收一小片文件保存成一個(gè)臨時(shí)文件,等待所有片段傳輸完畢后,再執(zhí)行合并。
筆者認(rèn)為,如果原始文件足夠小,這種方式是可以的,但一旦文件有幾百兆或者幾個(gè)GB或者幾十個(gè)GB,則合并文件的時(shí)間會(huì)非常長(zhǎng),常常導(dǎo)致瀏覽器響應(yīng)超時(shí)或服務(wù)器阻塞。
如果自己實(shí)現(xiàn)獨(dú)立客戶端(或?yàn)g覽器的ActiveX插件)來(lái)上傳文件,則支持?jǐn)帱c(diǎn)續(xù)傳將是一件非常簡(jiǎn)單的事情,只需在客戶端記錄文件上傳狀態(tài)。而支持瀏覽器斷點(diǎn)續(xù)傳(無(wú)需安裝第三方插件)一般來(lái)說(shuō)是要比自己做獨(dú)立客戶端上傳難度大一些,但也不難。我的實(shí)現(xiàn)思路如下:
一、瀏覽器在上傳某個(gè)文件時(shí)候,先給這個(gè)文件生成一個(gè)HASH值,必須在瀏覽器端生成這個(gè)HASH值。
不能單循地依據(jù)文件名來(lái)查詢文件上傳記錄,文件名的重復(fù)性很大,文件名 + 文件尺寸組成的值重復(fù)性縮小,如果再加上文件修改時(shí)間,則重復(fù)性進(jìn)一步縮小,如果再加上一個(gè)瀏覽器的 ID可以進(jìn)一步縮小重復(fù)性沖突。最好的HASH值的計(jì)算方法是用文件的內(nèi)容進(jìn)行MD5計(jì)算,但計(jì)算量極大(其實(shí)也沒(méi)有必要這么做),過(guò)多的耗時(shí)會(huì)影響上傳的體驗(yàn)。
基于上述理由,我的HASH值計(jì)算思路如下:
首先給瀏覽器賦予一個(gè)ID,這個(gè)ID保存在Cookie里;
瀏覽器的 ID+ 文件的修改時(shí)間 + 文件名 + 文件尺寸 的結(jié)果進(jìn)行MD5來(lái)計(jì)算一個(gè)文件的HASH值;
瀏覽器的ID 是系統(tǒng)在瀏覽器訪問(wèn)文件上傳站點(diǎn)時(shí)自動(dòng)給瀏覽器授予的。
//簡(jiǎn)單的Cookie幫助函數(shù) function setCookie(cname,cvalue,exdays)
{
var d = new Date();
d.setTime(d.getTime()+(exdays*24*60*60*1000));
var expires = “expires=”+d.toGMTString();
document.cookie = cname + “=” + cvalue + “; ” + expires;
}
function getCookie(cname)
{
var name = cname + “=”;
var ca = document.cookie.split(‘;’);
for(var i=0; i《ca.length; i++)
{
var c = ca[i].trim();
if (c.indexOf(name)==0) return c.substring(name.length,c.length);
}
return “”;
}
// //簡(jiǎn)單的文件HASH值計(jì)算,如果您不是十分考究,應(yīng)該可以用于產(chǎn)品。 //由于計(jì)算文件HASH值用到了多種數(shù)據(jù),因此在HYFileUploader系統(tǒng)范圍內(nèi)發(fā)生HASH沖突的可能性應(yīng)該非常小,應(yīng)該可以放心使用。 //獲取文件的ID可以用任何算法來(lái)實(shí)現(xiàn),只要保證做到同一文件的ID是相同的即可,獲取的ID長(zhǎng)度不要超過(guò)32字節(jié) // function getFileId (file)
{
//給瀏覽器授予一個(gè)唯一的ID用于區(qū)分不同的瀏覽器實(shí)例(不同機(jī)器或者相同機(jī)器不同廠家的瀏覽器)
var clientid = getCookie(“HUAYIUPLOAD”);
if (clientid == “”) {
//用一個(gè)隨機(jī)值來(lái)做瀏覽器的ID,將作為文件HASH值的一部分
var rand = parseInt(Math.random() * 1000);
var t = (new Date()).getTime();
clientid =rand+‘T’+t;
setCookie(“HUAYIUPLOAD”,clientid,365);
}
var info = clientid;
if (file.lastModified)
info += file.lastModified;
if (file.name)
info += file.name;
if (file.size)
info += file.size;
//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js
var fileid = md5(info);
return fileid;
}
筆者認(rèn)為:不必通過(guò)讀取文件的內(nèi)容來(lái)計(jì)算HASH值,這樣會(huì)非常慢的。如果確實(shí)需要實(shí)現(xiàn)HTTP秒傳,可能得這么做,這樣如果不同的人上傳的文件內(nèi)容一致,就可避免重復(fù)上傳,直接返回結(jié)果即可。
之所以給瀏覽器賦予一個(gè)ID,這樣可以進(jìn)一步避免別的計(jì)算機(jī)的同名同尺寸文件的HASH值沖突。
二、查詢文件的HASH值
在文件上傳支持,先通過(guò)文件的HASH值從上傳服務(wù)器查詢文件的上傳進(jìn)度信息,然后從上傳進(jìn)度位置開(kāi)始上傳,代碼如下:
var fileObj = currentfile;
var fileid = getFileId(fileObj);
var t = (new Date()).getTime();
//通過(guò)以下URL獲取文件的斷點(diǎn)續(xù)傳信息,必須的參數(shù)為fileid,后面追加t參數(shù)是避免瀏覽器緩存 var url = resume_info_url + ‘?fileid=’+fileid + ‘&t=’+t;
var ajax = new XMLHttpRequest();
ajax.onreadystatechange = function () {
if(this.readyState == 4){
if (this.status == 200){
var response = this.responseText;
var result = JSON.parse(response);
if (!result) {
alert(‘服務(wù)器返回的數(shù)據(jù)不正確,可能是不兼容的服務(wù)器’);
return;
}
//斷點(diǎn)續(xù)傳信息返回的文件對(duì)象包含已經(jīng)上傳的尺寸
var uploadedBytes = result.file && result.file.size;
if (!result.file.finished && uploadedBytes 《 fileObj.size) {
upload_file(fileObj,uploadedBytes,fileid);
}
else {
//文件已經(jīng)上傳完成了,就不要再上傳了,直接返回結(jié)果就可以了
showUploadedFile(result.file);
//模擬進(jìn)度完成
//var progressBar = document.getElementById(‘progressbar’);
//progressBar.value = 100;
}
}else {
alert(‘獲取文件斷點(diǎn)續(xù)傳信息失敗’);
}
}
}
ajax.open(‘get’,url,true);
ajax.send(null);
以上是通過(guò) jQuery-file-upload組件的實(shí)現(xiàn),通過(guò)原始Javascript的實(shí)現(xiàn)代碼請(qǐng)參見(jiàn)demos目錄的h4resume.html樣本代碼。
三、執(zhí)行上傳
在查詢完文件的斷點(diǎn)續(xù)傳信息后,如果文件確實(shí)以前已經(jīng)上傳,服務(wù)器將返回已經(jīng)上傳過(guò)的文件尺寸,我們接著從已經(jīng)上傳的文件尺寸位置開(kāi)始上傳數(shù)據(jù)即可。
html5的File對(duì)象的 slice 可以用于從文件切取片段來(lái)上傳。
定義和用法
slice() 方法可提取字文件的某個(gè)部分,并以新的字符串返回被提取的部分。
語(yǔ)法
File.slice(start,end)
參數(shù) 描述
start 要抽取的片斷的起始下標(biāo)。如果是負(fù)數(shù),則該參數(shù)規(guī)定的是從字符串的尾部開(kāi)始算起的位置。也就是說(shuō),-1 指字符串的最后一個(gè)字符,-2 指倒數(shù)第二個(gè)字符,以此類(lèi)推。
end 緊接著要抽取的片段的結(jié)尾的下標(biāo)。若未指定此參數(shù),則要提取的子串包括 start 到原字符串結(jié)尾的字符串。另外,關(guān)注Java知音公眾號(hào),回復(fù)“后端面試”,送你一份面試題寶典!
如果該參數(shù)是負(fù)數(shù),那么它規(guī)定的是從字符串的尾部開(kāi)始算起的位置。
實(shí)現(xiàn)分片文件上傳的代碼如下:
/*
文件上傳處理代碼
fileObj : html5 File 對(duì)象
start_offset: 上傳的數(shù)據(jù)相對(duì)于文件頭的起始位置
fileid: 文件的ID,這個(gè)是上面的getFileId 函數(shù)獲取的,
*/
function upload_file(fileObj,start_offset,fileid)
{
var xhr = new XMLHttpRequest();
var formData = new FormData();
var blobfile;
if(start_offset 》= fileObj.size){
return false;
}
var bitrateDiv = document.getElementById(“bitrate”);
var finishDiv = document.getElementById(“finish”);
var progressBar = document.getElementById(‘progressbar’);
var progressDiv = document.getElementById(‘percent-label’);
var oldTimestamp = 0;
var oldLoadsize = 0;
var totalFilesize = fileObj.size;
if (totalFilesize == 0) return;
var uploadProgress = function (evt) {
if (evt.lengthComputable) {
var uploadedSize = evt.loaded + start_offset;
var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);
var timestamp = (new Date()).valueOf();
var isFinish = evt.loaded == evt.total;
if (timestamp 》 oldTimestamp || isFinish) {
var duration = timestamp - oldTimestamp;
if (duration 》 500 || isFinish) {
var size = evt.loaded - oldLoadsize;
var bitrate = (size * 8 / duration /1024) * 1000; //kbps
if (bitrate 》 1000)
bitrate = Math.round(bitrate / 1000) + ‘Mbps’;
else
bitrate = Math.round(bitrate) + ‘Kbps’;
var finish = evt.loaded + start_offset;
if (finish 》 1048576)
finish = (Math.round(finish / (1048576/100)) / 100).toString() + ‘MB’;
else
finish = (Math.round(finish / (1024/100) ) / 100).toString() + ‘KB’;
progressBar.value = percentComplete;
progressDiv.innerHTML = percentComplete.toString() + ‘%’;
bitrateDiv.innerHTML = bitrate;
finishDiv.innerHTML = finish;
oldTimestamp = timestamp;
oldLoadsize = evt.loaded;
}
}
}
else {
progressDiv.innerHTML = ‘N/A’;
}
}
xhr.onreadystatechange = function(){
if ( xhr.readyState == 4 && xhr.status == 200 ) {
console.log( xhr.responseText );
}
else if (xhr.status == 400) {
}
};
var uploadComplete = function (evt) {
progressDiv.innerHTML = ‘100%’;
var result = JSON.parse(evt.target.responseText);
if (result.result == ‘success’) {
showUploadedFile(result.files[0]);
}
else {
alert(result.msg);
}
}
var uploadFailed = function (evt) {
alert(“上傳文件失??!”);
}
var uploadCanceled = function (evt) {
alert(“上傳被取消或者瀏覽器斷開(kāi)了連接!”);
}
//設(shè)置超時(shí)時(shí)間,由于是上傳大文件,因此千萬(wàn)不要設(shè)置超時(shí)
//xhr.timeout = 20000;
//xhr.ontimeout = function(event){
// alert(‘文件上傳時(shí)間太長(zhǎng),服務(wù)器在規(guī)定的時(shí)間內(nèi)沒(méi)有響應(yīng)!’);
//}
xhr.overrideMimeType(“application/octet-stream”);
var filesize = fileObj.size;
var blob = fileObj.slice(start_offset,filesize);
var fileOfBlob = new File([blob], fileObj.name);
//附加的文件數(shù)據(jù)應(yīng)該放在請(qǐng)求的前面
formData.append(‘filename’, fileObj.name);
//必須將fileid信息傳送給服務(wù)器,服務(wù)器只有在獲得了fileid信息后才對(duì)文件做斷點(diǎn)續(xù)傳處理
formData.append(‘fileid’, fileid);
//請(qǐng)將文件數(shù)據(jù)放在最后的域
//formData.append(“file”,blob, fileObj.name);
formData.append(‘file’, fileOfBlob);
xhr.upload.addEventListener(“progress”, uploadProgress, false);
xhr.addEventListener(“l(fā)oad”, uploadComplete, false);
xhr.addEventListener(“error”, uploadFailed, false);
xhr.addEventListener(“abort”, uploadCanceled, false);
xhr.open(‘POST’, upload_file_url);
//
xhr.send(formData);
}
為了驗(yàn)證文件斷點(diǎn)續(xù)傳,筆者做了一個(gè)簡(jiǎn)單的界面,用于顯示文件上傳的過(guò)程中的狀態(tài)信息。
通過(guò)HTML可以計(jì)算文件上傳的進(jìn)度,文件已經(jīng)上傳的尺寸,文件上傳的位率等信息,如果在上傳過(guò)程中出現(xiàn)任何異常,則重新上傳即可,已經(jīng)上傳的部分將不需要重新上傳。
為了驗(yàn)證HTML5斷點(diǎn)續(xù)傳,可以通過(guò) github來(lái)下載 這個(gè)文件上傳服務(wù)器來(lái)進(jìn)行測(cè)試。
https://github.com/wenshui2008/UploadServer
來(lái)源:blog.csdn.net/ababab12345/article/details/80490621
編輯:jq
-
JAVA
+關(guān)注
關(guān)注
19文章
2977瀏覽量
105227 -
C語(yǔ)言
+關(guān)注
關(guān)注
180文章
7616瀏覽量
137887 -
PHP
+關(guān)注
關(guān)注
0文章
454瀏覽量
26811 -
Hash
+關(guān)注
關(guān)注
0文章
32瀏覽量
13265
原文標(biāo)題:大文件上傳服務(wù)器、支持超大文件HTTP斷點(diǎn)續(xù)傳實(shí)踐總結(jié)
文章出處:【微信號(hào):harmonyos_developer,微信公眾號(hào):harmonyos_developer】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
服務(wù)器數(shù)據(jù)恢復(fù)—Zfs文件系統(tǒng)服務(wù)器數(shù)據(jù)恢復(fù)案例
通過(guò)瀏覽器訪問(wèn)文件——P2Link內(nèi)置HTTP服務(wù)
![通過(guò)瀏覽<b class='flag-5'>器</b>訪問(wèn)<b class='flag-5'>文件</b>——P2Link內(nèi)置<b class='flag-5'>HTTP</b><b class='flag-5'>服務(wù)</b>](https://file1.elecfans.com/web1/M00/F5/08/wKgaoWc1WJqAc-qvAAS2BTBZtAk639.png)
如何使用SFTP傳輸大文件
Windows連接P2Link的FTP服務(wù)——遠(yuǎn)程操作文件
![Windows連接P2Link的FTP<b class='flag-5'>服務(wù)</b>——遠(yuǎn)程操作<b class='flag-5'>文件</b>](https://file1.elecfans.com/web1/M00/F4/F7/wKgaoWc0H2yAO6_vAADQsEwzxts759.png)
P2Link是什么?——免費(fèi)讓你體驗(yàn)高效智聯(lián)的新方式
網(wǎng)關(guān)斷點(diǎn)續(xù)傳可以實(shí)現(xiàn)什么功能
服務(wù)器數(shù)據(jù)恢復(fù)—V7000存儲(chǔ)NTFS文件系統(tǒng)數(shù)據(jù)恢復(fù)案例
![<b class='flag-5'>服務(wù)器</b>數(shù)據(jù)恢復(fù)—V7000存儲(chǔ)NTFS<b class='flag-5'>文件</b>系統(tǒng)數(shù)據(jù)恢復(fù)案例](https://file1.elecfans.com/web2/M00/8D/64/wKgaomS6HOGAa4cnAASobP8Fp0c848.png)
使用NS1串口服務(wù)器HTTP模式上傳服務(wù)器數(shù)據(jù)
![使用NS1串口<b class='flag-5'>服務(wù)器</b><b class='flag-5'>HTTP</b>模式<b class='flag-5'>上傳</b><b class='flag-5'>服務(wù)器</b>數(shù)據(jù)](https://file.elecfans.com/web2/M00/3E/6A/pYYBAGJhBGGAGyDYAACBPQuBZQI711.png)
服務(wù)器數(shù)據(jù)恢復(fù)—xfs文件系統(tǒng)服務(wù)器數(shù)據(jù)恢復(fù)案例
wifi配網(wǎng)模塊用到了httpd,單獨(dú)開(kāi)http服務(wù)器會(huì)沖突報(bào)錯(cuò)怎么解決?
如何修改buildroot和debian文件系統(tǒng)
![如何修改buildroot和debian<b class='flag-5'>文件</b>系統(tǒng)](https://file1.elecfans.com/web2/M00/FD/B9/wKgZomaeKpCAeS1mAAJr5bnMFl8719.png)
如何使用httpclient.c中的ESP8266和http_post將文件上傳到服務(wù)器?
esp32如何一次性讀取大文件數(shù)據(jù)?
使用ESP32-S3開(kāi)發(fā)板http post請(qǐng)求發(fā)送SD卡上的大文件,如何循環(huán)邊讀取文件邊分塊發(fā)送文件呢?
服務(wù)器數(shù)據(jù)恢復(fù)—KVM虛擬機(jī)raw格式磁盤(pán)文件數(shù)據(jù)恢復(fù)案例
![<b class='flag-5'>服務(wù)器</b>數(shù)據(jù)恢復(fù)—KVM虛擬機(jī)raw格式磁盤(pán)<b class='flag-5'>文件</b>數(shù)據(jù)恢復(fù)案例](https://file.elecfans.com/web2/M00/A3/D5/poYBAGRZ6kOAAPRJAANo3SqJ5yk832.png)
評(píng)論