国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大文件上傳服務器、支持超大文件HTTP斷點如何續傳教程

5jek_harmonyos ? 來源:CSDN技術社區 ? 作者:大飛飛魚 ? 2021-08-26 15:36 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近由于筆者所在的研發集團產品需要,需要支持高性能的大文件http上傳,并且要求支持http斷點續傳。這里在簡要歸納一下,方便記憶:

服務器端由C語言實現,而不是用java、PHP這種解釋型語言來實現;

服務器端即時寫入硬盤,因此無需再次調用move_uploaded_file、InputStreamReader 這種需要緩存的技術來避免服務器內存占用與瀏覽器請求超時;

支持HTML5與IFRAME(針對老瀏覽器),并且支持獲取文件上傳進度。

為了更好的適應當前的移動互聯網,要求對上傳服務支持斷點續傳,斷線重連。因為移動互聯網并不非常穩定;再者,上傳一個大文件發生異常掉線的可能性非常大,為了避免重新上傳,支持斷點續傳就變得非常必要了。

支持斷點續傳的思路是:

客戶端(通常是瀏覽器)向服務器端上傳某個文件,并不斷記錄上傳的進度,如果一旦掉線或發生其它異常,客戶端可以向服務器查詢某個文件已經上傳的狀態,從上次上傳的文件位置接著上傳。

網上也有大師采用分片文件上傳方式來實現大文件上傳,方法是將文件切成小片,例如4MB一個片段,服務器端每次接收一小片文件保存成一個臨時文件,等待所有片段傳輸完畢后,再執行合并。

筆者認為,如果原始文件足夠小,這種方式是可以的,但一旦文件有幾百兆或者幾個GB或者幾十個GB,則合并文件的時間會非常長,常常導致瀏覽器響應超時或服務器阻塞。

如果自己實現獨立客戶端(或瀏覽器的ActiveX插件)來上傳文件,則支持斷點續傳將是一件非常簡單的事情,只需在客戶端記錄文件上傳狀態。而支持瀏覽器斷點續傳(無需安裝第三方插件)一般來說是要比自己做獨立客戶端上傳難度大一些,但也不難。我的實現思路如下:

一、瀏覽器在上傳某個文件時候,先給這個文件生成一個HASH值,必須在瀏覽器端生成這個HASH值。

不能單循地依據文件名來查詢文件上傳記錄,文件名的重復性很大,文件名 + 文件尺寸組成的值重復性縮小,如果再加上文件修改時間,則重復性進一步縮小,如果再加上一個瀏覽器的 ID可以進一步縮小重復性沖突。最好的HASH值的計算方法是用文件的內容進行MD5計算,但計算量極大(其實也沒有必要這么做),過多的耗時會影響上傳的體驗。

基于上述理由,我的HASH值計算思路如下:

首先給瀏覽器賦予一個ID,這個ID保存在Cookie里;

瀏覽器的 ID+ 文件的修改時間 + 文件名 + 文件尺寸 的結果進行MD5來計算一個文件的HASH值;

瀏覽器的ID 是系統在瀏覽器訪問文件上傳站點時自動給瀏覽器授予的。

//簡單的Cookie幫助函數 function setCookie(cname,cvalue,exdays)

{

var d = new Date();

d.setTime(d.getTime()+(exdays*24*60*60*1000));

var expires = “expires=”+d.toGMTString();

document.cookie = cname + “=” + cvalue + “; ” + expires;

}

function getCookie(cname)

{

var name = cname + “=”;

var ca = document.cookie.split(‘;’);

for(var i=0; i《ca.length; i++)

{

var c = ca[i].trim();

if (c.indexOf(name)==0) return c.substring(name.length,c.length);

}

return “”;

}

// //簡單的文件HASH值計算,如果您不是十分考究,應該可以用于產品。 //由于計算文件HASH值用到了多種數據,因此在HYFileUploader系統范圍內發生HASH沖突的可能性應該非常小,應該可以放心使用。 //獲取文件的ID可以用任何算法來實現,只要保證做到同一文件的ID是相同的即可,獲取的ID長度不要超過32字節 // function getFileId (file)

{

//給瀏覽器授予一個唯一的ID用于區分不同的瀏覽器實例(不同機器或者相同機器不同廠家的瀏覽器)

var clientid = getCookie(“HUAYIUPLOAD”);

if (clientid == “”) {

//用一個隨機值來做瀏覽器的ID,將作為文件HASH值的一部分

var rand = parseInt(Math.random() * 1000);

var t = (new Date()).getTime();

clientid =rand+‘T’+t;

setCookie(“HUAYIUPLOAD”,clientid,365);

}

var info = clientid;

if (file.lastModified)

info += file.lastModified;

if (file.name)

info += file.name;

if (file.size)

info += file.size;

//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js

var fileid = md5(info);

return fileid;

}

筆者認為:不必通過讀取文件的內容來計算HASH值,這樣會非常慢的。如果確實需要實現HTTP秒傳,可能得這么做,這樣如果不同的人上傳的文件內容一致,就可避免重復上傳,直接返回結果即可。

之所以給瀏覽器賦予一個ID,這樣可以進一步避免別的計算機的同名同尺寸文件的HASH值沖突。

二、查詢文件的HASH值

在文件上傳支持,先通過文件的HASH值從上傳服務器查詢文件的上傳進度信息,然后從上傳進度位置開始上傳,代碼如下:

var fileObj = currentfile;

var fileid = getFileId(fileObj);

var t = (new Date()).getTime();

//通過以下URL獲取文件的斷點續傳信息,必須的參數為fileid,后面追加t參數是避免瀏覽器緩存 var url = resume_info_url + ‘?fileid=’+fileid + ‘&t=’+t;

var ajax = new XMLHttpRequest();

ajax.onreadystatechange = function () {

if(this.readyState == 4){

if (this.status == 200){

var response = this.responseText;

var result = JSON.parse(response);

if (!result) {

alert(‘服務器返回的數據不正確,可能是不兼容的服務器’);

return;

}

//斷點續傳信息返回的文件對象包含已經上傳的尺寸

var uploadedBytes = result.file && result.file.size;

if (!result.file.finished && uploadedBytes 《 fileObj.size) {

upload_file(fileObj,uploadedBytes,fileid);

}

else {

//文件已經上傳完成了,就不要再上傳了,直接返回結果就可以了

showUploadedFile(result.file);

//模擬進度完成

//var progressBar = document.getElementById(‘progressbar’);

//progressBar.value = 100;

}

}else {

alert(‘獲取文件斷點續傳信息失敗’);

}

}

}

ajax.open(‘get’,url,true);

ajax.send(null);

以上是通過 jQuery-file-upload組件的實現,通過原始Javascript的實現代碼請參見demos目錄的h4resume.html樣本代碼。

三、執行上傳

在查詢完文件的斷點續傳信息后,如果文件確實以前已經上傳,服務器將返回已經上傳過的文件尺寸,我們接著從已經上傳的文件尺寸位置開始上傳數據即可。

html5的File對象的 slice 可以用于從文件切取片段來上傳。

定義和用法

slice() 方法可提取字文件的某個部分,并以新的字符串返回被提取的部分。

語法

File.slice(start,end)

參數 描述

start 要抽取的片斷的起始下標。如果是負數,則該參數規定的是從字符串的尾部開始算起的位置。也就是說,-1 指字符串的最后一個字符,-2 指倒數第二個字符,以此類推。

end 緊接著要抽取的片段的結尾的下標。若未指定此參數,則要提取的子串包括 start 到原字符串結尾的字符串。另外,關注Java知音公眾號,回復“后端面試”,送你一份面試題寶典!

如果該參數是負數,那么它規定的是從字符串的尾部開始算起的位置。

實現分片文件上傳的代碼如下:

/*

文件上傳處理代碼

fileObj : html5 File 對象

start_offset: 上傳的數據相對于文件頭的起始位置

fileid: 文件的ID,這個是上面的getFileId 函數獲取的,

*/

function upload_file(fileObj,start_offset,fileid)

{

var xhr = new XMLHttpRequest();

var formData = new FormData();

var blobfile;

if(start_offset 》= fileObj.size){

return false;

}

var bitrateDiv = document.getElementById(“bitrate”);

var finishDiv = document.getElementById(“finish”);

var progressBar = document.getElementById(‘progressbar’);

var progressDiv = document.getElementById(‘percent-label’);

var oldTimestamp = 0;

var oldLoadsize = 0;

var totalFilesize = fileObj.size;

if (totalFilesize == 0) return;

var uploadProgress = function (evt) {

if (evt.lengthComputable) {

var uploadedSize = evt.loaded + start_offset;

var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);

var timestamp = (new Date()).valueOf();

var isFinish = evt.loaded == evt.total;

if (timestamp 》 oldTimestamp || isFinish) {

var duration = timestamp - oldTimestamp;

if (duration 》 500 || isFinish) {

var size = evt.loaded - oldLoadsize;

var bitrate = (size * 8 / duration /1024) * 1000; //kbps

if (bitrate 》 1000)

bitrate = Math.round(bitrate / 1000) + ‘Mbps’;

else

bitrate = Math.round(bitrate) + ‘Kbps’;

var finish = evt.loaded + start_offset;

if (finish 》 1048576)

finish = (Math.round(finish / (1048576/100)) / 100).toString() + ‘MB’;

else

finish = (Math.round(finish / (1024/100) ) / 100).toString() + ‘KB’;

progressBar.value = percentComplete;

progressDiv.innerHTML = percentComplete.toString() + ‘%’;

bitrateDiv.innerHTML = bitrate;

finishDiv.innerHTML = finish;

oldTimestamp = timestamp;

oldLoadsize = evt.loaded;

}

}

}

else {

progressDiv.innerHTML = ‘N/A’;

}

}

xhr.onreadystatechange = function(){

if ( xhr.readyState == 4 && xhr.status == 200 ) {

console.log( xhr.responseText );

}

else if (xhr.status == 400) {

}

};

var uploadComplete = function (evt) {

progressDiv.innerHTML = ‘100%’;

var result = JSON.parse(evt.target.responseText);

if (result.result == ‘success’) {

showUploadedFile(result.files[0]);

}

else {

alert(result.msg);

}

}

var uploadFailed = function (evt) {

alert(“上傳文件失敗!”);

}

var uploadCanceled = function (evt) {

alert(“上傳被取消或者瀏覽器斷開了連接!”);

}

//設置超時時間,由于是上傳大文件,因此千萬不要設置超時

//xhr.timeout = 20000;

//xhr.ontimeout = function(event){

// alert(‘文件上傳時間太長,服務器在規定的時間內沒有響應!’);

//}

xhr.overrideMimeType(“application/octet-stream”);

var filesize = fileObj.size;

var blob = fileObj.slice(start_offset,filesize);

var fileOfBlob = new File([blob], fileObj.name);

//附加的文件數據應該放在請求的前面

formData.append(‘filename’, fileObj.name);

//必須將fileid信息傳送給服務器,服務器只有在獲得了fileid信息后才對文件做斷點續傳處理

formData.append(‘fileid’, fileid);

//請將文件數據放在最后的域

//formData.append(“file”,blob, fileObj.name);

formData.append(‘file’, fileOfBlob);

xhr.upload.addEventListener(“progress”, uploadProgress, false);

xhr.addEventListener(“load”, uploadComplete, false);

xhr.addEventListener(“error”, uploadFailed, false);

xhr.addEventListener(“abort”, uploadCanceled, false);

xhr.open(‘POST’, upload_file_url);

//

xhr.send(formData);

}

為了驗證文件斷點續傳,筆者做了一個簡單的界面,用于顯示文件上傳的過程中的狀態信息。

通過HTML可以計算文件上傳的進度,文件已經上傳的尺寸,文件上傳的位率等信息,如果在上傳過程中出現任何異常,則重新上傳即可,已經上傳的部分將不需要重新上傳。

為了驗證HTML5斷點續傳,可以通過 github來下載 這個文件上傳服務器來進行測試。

https://github.com/wenshui2008/UploadServer

來源:blog.csdn.net/ababab12345/article/details/80490621

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • JAVA
    +關注

    關注

    20

    文章

    3001

    瀏覽量

    116419
  • C語言
    +關注

    關注

    183

    文章

    7644

    瀏覽量

    145567
  • PHP
    PHP
    +關注

    關注

    0

    文章

    462

    瀏覽量

    28621
  • Hash
    +關注

    關注

    0

    文章

    33

    瀏覽量

    13682

原文標題:大文件上傳服務器、支持超大文件HTTP斷點續傳實踐總結

文章出處:【微信號:harmonyos_developer,微信公眾號:harmonyos_developer】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    對比分析電能質量在線監測裝置支持斷點續傳文件傳輸協議的優缺點

    為了清晰區分各斷點續傳文件傳輸協議的適配性,下面從 安全性、斷點能力、傳輸效率、配置難度、兼容性 等核心維度,對電能質量在線監測裝置支持的 FTP、SFTP、FTPS、
    的頭像 發表于 12-05 17:49 ?3400次閱讀
    對比分析電能質量在線監測裝置<b class='flag-5'>支持</b>的<b class='flag-5'>斷點續傳</b><b class='flag-5'>文件</b>傳輸協議的優缺點

    電能質量在線監測裝置支持斷點續傳文件傳輸協議有哪些?

    電能質量在線監測裝置針對 文件斷點續傳 (如故障錄波文件、歷史數據報表、諧波頻譜文件等),主要支持以下專用
    的頭像 發表于 12-05 17:46 ?3057次閱讀
    電能質量在線監測裝置<b class='flag-5'>支持</b><b class='flag-5'>斷點續傳</b>的<b class='flag-5'>文件</b>傳輸協議有哪些?

    電能質量在線監測裝置支持哪些通信協議以實現斷點續傳

    電能質量在線監測裝置支持多種通信協議實現斷點續傳,核心協議覆蓋電力行業標準、工業通用協議與文件傳輸協議,可滿足不同場景的數據完整性需求。 一、電力行業標準協議(核心支持) ? DL/T
    的頭像 發表于 12-05 17:45 ?1163次閱讀
    電能質量在線監測裝置<b class='flag-5'>支持</b>哪些通信協議以實現<b class='flag-5'>斷點續傳</b>?

    工業網關的斷點續傳有哪些作用

    工業網關的斷點續傳功能在工業場景中具有重要作用,它通過在數據傳輸中斷后能夠從中斷點續傳輸,而非重新開始,顯著提升了數據傳輸的可靠性、效率和靈活性。以下是其核心作用及具體應用場景的詳細分析: 1.
    的頭像 發表于 10-10 13:58 ?556次閱讀

    InModbus2 APP支持斷點續傳”嗎,是如何工作的?

    InModbus2 APP支持斷點續傳”嗎,是如何工作的
    發表于 08-07 08:29

    大文件高效傳輸不求人!Ymodem協議實戰示例與核心技巧揭秘

    無需復雜網絡環境,Ymodem協議即可實現可靠的大文件傳輸!通過其簡潔的通信機制(如SOH幀頭、數據分塊、ACK/NACK反饋),無論是單片機通信還是跨平臺傳輸,本文示例將演示如何快速部署,并
    的頭像 發表于 07-28 17:38 ?1123次閱讀
    <b class='flag-5'>大文件</b>高效傳輸不求人!Ymodem協議實戰示例與核心技巧揭秘

    產品圖片上傳API接口

    ? 在電商平臺、內容管理系統或移動應用中,產品圖片上傳API接口是核心功能之一。它允許用戶或第三方應用通過HTTP請求將圖片文件上傳服務器
    的頭像 發表于 07-25 14:30 ?681次閱讀
    產品圖片<b class='flag-5'>上傳</b>API接口

    主流版本控制工具Git vs Perforce P4:架構模式、性能、大文件管理及分支管理對比詳解

    Git vs Perforce P4,如何選型?架構模式、性能、大文件管理、分支策略四大維度對比,幫你全面了解兩者的核心差異,選擇更合適你團隊需求的版本控制系統。
    的頭像 發表于 06-13 14:52 ?814次閱讀
    主流版本控制工具Git vs Perforce P4:架構模式、性能、<b class='flag-5'>大文件</b>管理及分支管理對比詳解

    服務器數據恢復—ocfs2文件系統被格式化為Ext4文件系統的數據恢復案例

    服務器存儲數據恢復環境&故障: 人為誤操作將Ext4文件系統誤裝入一臺服務器存儲上的Ocfs2文件系統數據卷上,導致原Ocfs2文件系統被
    的頭像 發表于 06-10 12:03 ?725次閱讀
    <b class='flag-5'>服務器</b>數據恢復—ocfs2<b class='flag-5'>文件</b>系統被格式化為Ext4<b class='flag-5'>文件</b>系統的數據恢復案例

    HarmonyOS優化應用文件上傳下載慢問題性能優化三

    之后的文件 Range: bytes=1024- 服務器收到請求后,正確處理請求會回復206 Partial Content,未正常處理則會回復其他響應碼。下表是服務器回復的常見響應碼:
    發表于 05-28 15:06

    HarmonyOS優化應用文件上傳下載慢問題性能優化二

    ):用于實現文件MD5的計算,將計算的MD5值預先傳到服務器端進行預處理,實現文件秒傳,同時確保傳輸的準確性和可靠性。 request(上傳下載):用于實現
    發表于 05-27 16:19

    邊緣計算網關支持斷點續傳

    邊緣計算網關通常支持斷點續傳功能 。斷點續傳功能是邊緣計算網關的重要特性之一,它能夠在網絡中斷或設備故障時,將采集到的數據暫存在本地存儲空間中,待網絡恢復后再將數據上傳至云平臺,從而保
    的頭像 發表于 05-27 15:25 ?771次閱讀

    HarmonyOS優化應用文件上傳下載慢問題性能優化一

    查詢指定任務信息、用戶查詢指定隱藏任務信息、系統查詢指定任務信息、系統清理指定任務等。 任務自動恢復:網絡條件不滿足時任務不啟動或者暫停,滿足后自動啟動或者恢復(需要HTTP服務器支持斷點續傳
    發表于 05-26 15:50

    HarmonyOS優化應用文件上傳下載慢問題性能優化二

    ):用于實現文件MD5的計算,將計算的MD5值預先傳到服務器端進行預處理,實現文件秒傳,同時確保傳輸的準確性和可靠性。 request(上傳下載):用于實現
    發表于 05-22 10:54

    鴻蒙文件傳輸三方庫上線開源鴻蒙社區 十行代碼實現大文件高速傳輸

    斷點續下、分片上傳斷點續傳、自動重試等多個特性的高性能文件傳輸解決方案,讓開發者開箱即用,輕松實現高效穩定的文件傳輸功能。 在應用開發
    發表于 03-06 10:29