可攜帶式的protable LLM

llamafile 免安裝直接執行LLM

 

原文參考：https://today.line.me/tw/v2/article/Vx7pB6g

至GitHub 專案網址：https://github.com/Mozilla-Ocho/llamafile?tab=readme-ov-file

選擇下方想要使用的模型檔案直接下載

將副檔名改成.exe 即可直接啟動

模型會視你的設備狀況，設備不足以啟動會告失敗

手機版可安裝此APP 測試

https://play.google.com/store/apps/details?id=com.DGDev91.LLMPortable&hl=en_IE