解決nginx+lua搭建文件上傳下載服務問題
導語
項目需要做一個文件上傳下載服務，利用 nginx＋lua 做一個代理服務，上傳入口統(tǒng)一，分發(fā)到不同的機器存儲，下載鏈接和物理存儲隔離，支持添加 agent 的方式擴容，這里主要講一下思路和搭建配置過程，大神勿噴。
主要邏輯
上傳
前端請求 nginx 服務， nginx 調用 upload 腳本，腳本通過查找配置，找到對應的邏輯存儲路徑和物理存儲機器的 agent 的 ip 和端口，通過 tcp 發(fā)包到對應 agent ，部署在對應機器的 agent 接受數(shù)據(jù)，并寫到本地文件。
下載
http下載請求 nginx ， nginx 調用 download 腳本，腳本解析鏈接參數(shù)，根據(jù)參數(shù)找到對應的 agent 地址，請求返回文件二進制內容，腳本接受到 agent 返回的數(shù)據(jù)，返回給請求端。
配置Nginx＋lua
接下來主要講一下 nginx 安裝配置（這里包括lua的二進制流處理 lpack， md5計算， mysql 操作， json 操作）
1、安裝 nginx
下載http://nginx.org/en/download.html
解壓tar -xvf nginx-1.10.3.tar.gz
2、安裝 luajit（輕量級 lua）
http://luajit.org/download.html
修改 makefile 里面的安裝路徑export PREFIX= /usr/local/luajit
然后安裝make &make install
3、安裝nginx_lua_module
下載https://github.com/openresty/lua-nginx-module
解壓
4、 安裝ngx_devel_kit （NDK提供函數(shù)和宏處理一些基本任務，減輕第三方模塊開發(fā)的代碼量）
下載https://github.com/simpl/ngx_devel_kit/
5、 安裝編譯，導入
export LUAJIT_LIB=/usr/local/luajit/lib export LUAJIT_INC=/usr/local/luajit/include/luajit-2.0 ./configure --prefix=/usr/local/nginx --with-http_stub_status_module --with-http_ssl_module --add-module=/home/oicq/jeffzhuang/ngx_devel_kit-0.3.0 --add-module=/home/oicq/jeffzhuang/lua-nginx-module-0.10. make -j2 make install
啟動/usr/local/nginx/sbin/nginx 重啟命令` usr/local/nginx/sbin/nginx -s reload v
如果報錯找不到luajit庫ln -s /usr/local/lib/libluajit-5.1.so.2 /lib64/libluajit-5.1.so.2
測試nginx直接打開瀏覽器就可以了http:10.x.x.x:8080就可以看到歡迎界面了
6 、配置conf/nginx.conf運行 lua 腳本
增加lua庫的查找路徑lua_package_path，lua_package_cpath
7、增加mysql.lua下載 https://github.com/openresty/lua-resty-mysql 拷貝到lua_package_path 目錄下就可以了
8、增加 csjon http://www.kyne.com.au/~mark/software/download/lua-cjson-2.1.0.tar.gz
修改 Makefile 里面的 PREFIX＝/usr/local/luajit就是luajit 的安裝路徑，make后將生成的 cjson.so拷貝到
lua_package_cpath目錄下
9、安裝lpack 可以用現(xiàn)成的 lpack.lua 拷貝到 lua_package_path 或者用 https://github.com/LuaDist/lpack 編譯生成 lpack.so拷貝到 lua_package_cpath 64位需要增加編譯命令 -fPIC
10、upload.lua下載https://github.com/openresty/lua-resty-upload
11、md5下載 https://github.com/openresty/lua-resty-string
主要代碼
1、前端上傳頁面代碼
<!DOCTYPE html> <html> <head> <title>File upload example</title> </head> <body> <form action="emer_upload/order_system_storage" method="post" enctype="multipart/form-data"> <input type="file" name="testFileName"/> <input type="submit" name="upload" value="Upload" /> </form> </body> </html>
2、upload上傳代碼，該模塊在解析文件上傳請求的過程中，主要采用了簡單的類似有限狀態(tài)機的算法來實現(xiàn)的，在不同的狀態(tài)由相應的 handler 進行處理。
--文件下載服務寫到 saveRootPath .."/" .. filename 下面
function DownLoad()
local chunk_size = 4096
local form,err=upload:new(chunk_size)
if not form then
ngx.log(ngx.ERR, "failed to new upload: ", err)
ngx.exit(ngx.HTTP_INTERNAL_SERVER_ERROR)
end
form:set_timeout(100000)
while true do
local typ,res,err=form:read()
if not typ then
ErrorMsg="failed to read :"..err
return 1
end
if typ =="header" then
local key=res[1]
local value=res[2]
if key =="Content-Disposition" then
local kvlist=string.split(value,';')
for _, kv in ipairs(kvlist) do
local seg = string.trim(kv)
if seg:find("filename") then
local kvfile = string.split(seg, "=")
filename = string.sub(kvfile[2], 2, -2)
if filename then
--獲取文件后綴名字
fileExtension=getExtension(filename)
local linuxTime=tostring(os.time())
filePath=saveRootPath .."/" ..linuxTime..filename
fileToSave,errmsg = io.open(filePath, "w+")
--存儲的文件路徑
--ngx.say("failed to open file ", filePath)
if not fileToSave then
--ngx.say("failed to open file ", filePath .. errmsg)
ErrorMsg="打開文件失敗"..filePath .. errmsg
return 1
end
else
ErrorMsg="請求參數(shù)找不到文件名字"
return 1
end
--跳出循環(huán)
break
end
end
end
elseif typ =="body" then
if fileToSave then
fileToSave:write(res)
fileMd5:update(res)
end
elseif typ =="part_end" then
if fileToSave then
local md5_sum=fileMd5:final()
--ngx.say("md5: ", str.to_hex(md5_sum))
fileMD532=str.to_hex(md5_sum)
fileToSave:close()
fileToSave = nil
end
elseif typ =="eof" then
break
else
ngx.log(ngx.INFO, "do other things")
end
end
return 0
end
3、tcp接收二進制數(shù)據(jù)
-- 讀取byte function readInt8(tcp) local next, val = string.unpack(tcp:receive(1), "b") return tonumber(val); end -- 讀取int16 function readInt16(tcp) local next, val = string.unpack(tcp:receive(2), "h"); return tonumber(val); end -- 讀取int32 function readInt32(tcp) local next, val = string.unpack(tcp:receive(4), ">i"); return tonumber(val); end -- 讀取字符串 function readString(tcp,len) return tostring(tcp:receive(len)); end
4、tcp寫二進制數(shù)據(jù)，這里和 agent 的通信協(xié)議是：開始標志位＋包長度＋json 字符串＋結束標志位，所以對應 pack 用的參數(shù)就是 bIAb ，> 就是轉化為大端
jsonData["filename"]=fileMD532 .. "." .. fileExtension
jsonData["cmd"]="write"
jsonData["fileSize"]=tostring(filelen)
jsonData["path"]=System.."/"..StorageDate
local Jsonstr=cjson.encode(jsonData)
local uiLen=string.len(Jsonstr)
senddata=bpack(">b1IAb",startIndex,uiLen,Jsonstr,endIndex)
socket:send(senddata)
5、下載錯誤的時候，使用了 redirect 直接跳轉到錯誤頁面，方便輸出錯誤信息，其實這里還可以做用戶 token 校驗
local ErrorUrl="/downloadError.html" ErrorMsg="url 參數(shù)解析有問題 "..index return ngx.redirect(ErrorUrl.."?msg="..ErrorMsg,``` ngx.HTTP_MOVED_TEMPORARILY)
總結
以上所述是小編給大家介紹的解決nginx+lua搭建文件上傳下載服務問題，希望對大家有所幫助，如果大家有任何疑問請給我留言，小編會及時回復大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持！
相關文章
為什么Nginx在處理高并發(fā)方面要優(yōu)于httpd，我們先從兩種web服務器的工作原理以及工作模式說起。對Nginx對比 Apache的相關知識感興趣的朋友跟隨小編一起看看吧2021-02-02
本文主要介紹了nginx?host繞過的三種方式，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2023-03-03
通過查看Nginx的并發(fā)連接，我們可以更清除的知道網(wǎng)站的負載情況。下面這篇文章主要給大家介紹了關于nginx限速之連接數(shù)限制技巧的相關資料，文中通過示例代碼介紹的非常詳細，需要的朋友可以參考借鑒，下面來一起看看吧。2018-01-01
本文主要給大家介紹了如何解決Nginx訪問php文件直接下載,這種情況通常是因為nginx沒有將PHP文件交給PHP解釋器處理,文中通過代碼示例給大家介紹的非常詳細,需要的朋友可以參考下2023-12-12
這篇文章主要給大家介紹了關于Nginx代理時header頭中帶"_"信息丟失問題的解決方法，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面來一起學習學習吧2019-02-02
在項目開發(fā)過程中,總是離不開日志解析的工作,雖然有些時候覺得確實挺繁瑣的,但是靜下心來會發(fā)現(xiàn)有時候也是挺有趣的1件工作。 下面這篇文章主要介紹了使用MongoDB分析Nginx日志的方法,需要的朋友可以參考借鑒，一起來看看吧。2017-01-01
如果你已經(jīng)安裝過Nginx并在生產(chǎn)環(huán)境中使用，那么Nginx配置優(yōu)化你一定也要做，這樣才能看到Nginx性能，本文就從基本配置優(yōu)化開始到高層配置教你如何優(yōu)化Nginx2013-11-11
這篇文章主要介紹了windows下nginx如何操作命令，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2023-06-06
nginx之virtual host虛擬主機的配置實現(xiàn)
虛擬主機（vhost）技術允許一臺物理服務器托管多個獨立網(wǎng)站或應用,每個虛擬主機擁有獨立的域名、配置文件等,實現(xiàn)資源隔離管理,Nginx服務器通過配置文件實現(xiàn)虛擬主機設置,感興趣的可以了解一下2024-11-11
對于前端項目來說,nginx是必須了解和熟悉的,本文對nginx整體的概念進行了重新梳理,同時幫讀者理清nginx配置思路,文中通過代碼示例和圖文講解的非常詳細,具有一定的參考價值,需要的朋友可以參考下2024-11-11