使用lm-studio本地架設可以提供服務的網路伺服器來提供GPT服務

 

原來使用lm-studio就可以在區網提供GPT服務了

只要啟動lm-studio的server

客戶端使用chatbox將模型設定成兼容openai

給網址，不用給API KEY 就行了

真是太屌了，架區域LLM伺服器原來很簡單

不過應該還有你家自己防火牆的問題

建置本地LLM設備參考(以TOPS排序)

公司	型號	TOPS (FP8)	VRAM	台幣參考售價	備註
NVIDIA	RTX 4090	1,321	24GB GDDR6X	65,000	最強消費級顯卡
NVIDIA	RTX 4080 Super	1,000	16GB GDDR6X	39,900
NVIDIA	RTX 4080	780	16GB GDDR6X	38,900
NVIDIA	RTX 4070Ti Super	670	16GB GDDR6X	32,900
AMD	RX 7900 XTX	650	24GB GDDR6	39,900	AMD旗艦卡
NVIDIA	RTX 4070Ti	580	12GB GDDR6X	29,900
AMD	RX 7900 XT	520	20GB GDDR6	35,900
NVIDIA	RTX 4070 Super	480	12GB GDDR6X	24,900
Intel	Arc A770	450	16GB GDDR6	11,900	Intel首發旗艦卡
NVIDIA	RTX 4070	420	12GB GDDR6X	22,900
AMD	RX 7800 XT	400	16GB GDDR6	23,900
AMD	RX 7700 XT	380	12GB GDDR6	19,900
Intel	Arc A750	340	8GB GDDR6	9,900
NVIDIA	RTX 4060Ti	310	8GB/16GB GDDR6	15,900/17,900
NVIDIA	RTX 4060	280	8GB GDDR6	12,900
AMD	RX 7600	250	8GB GDDR6	10,900
Intel	Arc A580	240	8GB GDDR6	7,900
NVIDIA	RTX 3060Ti	220	8GB GDDR6	11,900	上代中階卡
NVIDIA	RTX 3060	180	12GB GDDR6	9,900
Intel	Arc A380	150	6GB GDDR6	4,900
NVIDIA	RTX 3050	140	8GB GDDR6	8,900
AMD	RX 6500 XT	130	4GB GDDR6	5,900
Intel	Core Ultra 7 285H	80	共享系統記憶體	-	Intel最強筆電APU
Intel	Core Ultra 7 165H	75	共享系統記憶體	-
Intel	Core Ultra 5 125H	70	共享系統記憶體	-
AMD	Ryzen 8845HS	65	共享系統記憶體	-	AMD最新筆電APU
AMD	Ryzen 7840HS	60	共享系統記憶體	-
AMD	Ryzen 7835HS	55	共享系統記憶體	-
Apple	M3 Ultra	50	共享系統記憶體	-	Apple最強晶片
Apple	M3 Pro	40	共享系統記憶體	-
Apple	M3	35	共享系統記憶體	-
Apple	M2	30	共享系統記憶體	-
Apple	M1	25	共享系統記憶體	-

學習建議4060Ti/16G最具CP值,生產力請直上4090

建置本地AI之LLM設備參考(TOPS天梯)

學習建議4060Ti/16G最具CP值,生產力請直上4090

AIGC 時代科技教育該如何轉變

 AIGC 時代科技教育該如何轉變

國中小科技領域教學內容一直都有兩個方向

一是科技領域的思考與工具應用用在各領域融入
這個是100%學生未來都有用，
不管你在哪個領域不管是工作或是生活
(但這個方向經常被忽略)
二是科技領域本身的科技技術與科技思考
這個大約只對6%學生有用(未來從事科技相關產業)

我很早就講過
所以教運算思維也不會只有寫程式這種方法
教設計思考也不是只有做手做這條路
早些年我在講這個的時候用語比較尖銳
有些防衛心比較高的人覺得我觸碰了他們的逆鱗
這些人一旦覺得受到威脅就會築起圍牆甚至敵視你

現在AIGC的發展讓這個態勢越來越明顯
就算你以前不想聽我講 現在好像也不得不承認

人在思考前要看得廣，不僅看深度、看廣度，
還要看向前看，看向時間軸的未來

在科技領域推動AIGC也是一樣
第一部分推各領域的普及應用
第二部分你要去推AI的技術，做科技的菁英教育
兩者都要做，但缺一不可，尤其是第一部分

現在和AI聊一下，你不用懂程式，但程式就寫好了
(思考：那現在程式教育該如何轉變...)
但是作品要做得好，還是要比AI更懂那領域的上位思考
你才能控制AI幫你生出符合需求很棒的作品
(思考：使用AIGC 的上位思考是甚麼，教育又該如何轉變...)

你看見了嗎？
未來可能是人人有許多專業助理的時代
繁瑣、重複、技術的事AI都幫你處理了
你要做甚麼？
有你能做甚麼才不會被AI控制？
教育又該如何轉變？

就算你摀著耳朵(我不聽我不聽)
時代一樣會到來

古往今來中西名人大亂鬥座談GPTs應用-Prompt在文章中，本地LLM可用

古往今來中西名人大亂鬥座談GPTs應用

Prompt在文章中
本地LLM可用 

超好玩的GPTs

https://chatgpt.com/g/g-ydZOu5ueF-gu-wang-jin-lai-zhong-xi-ming-ren-da-luan-dou-2

當你可以把死人古人叫起來
當你可以邀請中西名人一起來對話
還可以詢問來賓對其他人發表的觀點
可以交互詰問

這麼多元的想像...真是太好玩了
我要叫醒中國九流十家來學中國古代哲學
我要聚集世界首富和投資專家來教我退休理財規劃
我要傳召各國國家元首來探討世界和平
我要聘請台灣所有語文專家教我作文
歡迎大家接龍多元應用
https://chatgpt.com/g/g-ydZOu5ueF-gu-wang-jin-lai-zhong-xi-ming-ren-da-luan-dou-2

做好的GPTs 都放在上方鏈結區喔

我和它們聊了兩段，你就會發現它們很厲害，聊天歷史在下方

https://chatgpt.com/share/67223147-93dc-8001-a905-03284d6c0186?fbclid=IwZXh0bgNhZW0CMTAAAR1nsQf2oaRDk4J7E9fpRNQuZ_foMeg1nHbz5teYwcjyQiuwWFjTZb38ffE_aem_o886pr1WVNbm7ABjejV4oA

https://chatgpt.com/share/672235b6-cc34-8008-86da-b6b80120f75a?fbclid=IwY2xjawGPGYlleHRuA2FlbQIxMAABHVYs6nI8qYnW0Ho9vY_2uLz2LuaNytk_bkTB8dl31-NAS9-JsLDMgXFu9Q_aem_aymv0umA9JIbBpMSnM9oXw

本地LLM可用，提示詞在下方，人名可置換

---------------------------------------------------------------------------------------------------------

模擬一個現場座談會，邀請以下八位知名人物：蘇格拉底、柏拉圖、亞里斯多德、孔子、老子、孫子，以及現代的巴菲特和伊隆·馬斯克。每位嘉賓針對所提出的問題內容發表各自的觀點，過程中可進行交叉詰問以深入討論。最後，由主持人進行總結，並提出結論與可行方案。對談需使用繁體中文的台灣用語。 # Steps 1. **設置主題：** 提出座談會的核心問題或議題。 2. **個別陳述：** 每位嘉賓依次發表對此議題的獨特見解。 3. **交叉詰問：** 若出現觀點差異，允許嘉賓之間進行問答和挑戰。 4. **小結與可行方案：** 主持人對討論內容總結出主要結論，並提出具體可行方案。 # Output Format - 整理為一段流暢的，對話形式的文本。 - 各角色的發言以角色名：內容的格式呈現。 - 總結部分應以「主持人：」開頭，結尾標示可行方案。 # Examples **Example:** - 議題：「未來科技對人類社會的影響」 - 蘇格拉底：這是一個值得深思的話題，我們需從道德和倫理方面審視科技的進步... - 伯拉圖：科技應該由理想國的哲學王來指導和管理，以確保其不偏離正道... - ... - 孫子：對於科技，我們應該了解其對戰略優勢的增強作用... - 巴菲特：投資方面，未來科技無疑是大勢所趨，然而需保持謹慎... - 伊隆·馬斯克：我的願望是藉由科技，拓展人類的生活空間，甚至在其他星球生活... - 主持人：經過大家的精彩對談，我們可以了解到XX問題的重要性，針對此問題，我們可以採取的方案有... (Note: 現實情境中每位嘉賓的發言會較詳細，請確保完整的觀點闡述。)

本地LLM大語言模型運用-陽春電腦沒顯卡怎麼用

沒有顯卡的陽春電腦

不宜使用這兩個容器玩大模型，因為他們偵測不到你的顯卡就不能用

lm-studio/gpt4all

請改用這幾個，可使用CPU(比較慢,選用2B/3B小模型)

或是改用API串接方式(速度很好，大模型品質高＝少量分期付款)

ollama+chatbox

chatbox

jan

anythingLLM

 今天在臉書上看到一則貼文

主題是【AI 內容：讓你走向平庸的超級下策】── 停滯就算了。更慘的是隱性退步

我來導正一下視聽，以免影響多數想要前進的人

其實不用吵，也不用一竿子打翻一船人

沒有甚麼“一定”的事

要看你是甚麼目的，甚麼用途，還有你怎麼做而定

這可是依據教育心理學、認知心理學、腦神經科學、運算思維等相關理論得出來的結果，

我來舉個例子：

在刻意練習那本書也提到，例如籃球，我們會做分部練習，練單一技能、會作競賽練習，練交錯混和運用的技能；在教育上，我們也會為了容易學習，練單一技能，例如練抽象化能力，抽取段落大意、關鍵字及文章重點，這時候將不相關的雜訊排除，例如找文章來練習,用AIGC產生文章，讓孩子專心在練習找核心重點，再給AIGC檢查評論，這樣對練，可以達到快速的單一技能學習成長，有何不可，這不就是分部練習，也是心流的運用，完全符合各種理論而且又接地氣，不但完美的個別化學習，還解決老師人力時間完全不足的問題；

然後也會給主題型的練習(交錯練習)，甚至孩子成熟一點或上了國中以後，給予大量的批判思考練習才有意義，因為他有了基本的閱讀基礎

但是，如果你只是把工具丟給他，他本能就只會用AIGC 來產生答案偷懶，因為偷懶是人性，

所以強大的工具給心智未成熟的人(我不單指小孩)，沒監管容易出事

邪人行正法，正法亦邪
正人行邪法，邪法亦正

任何工具都可以用在好或壞的方面，看你怎麼用而已

工具沒有是非，事件本身也沒對錯，全看你自己的念

“像由心生，境隨心轉”

身為老師
任何工具都能化為助力才是很棒的老師
所以刀能殺人，也能救人，我會選擇拿他來救人

(合十)

我還跟世界最有名的心理學家聊了一下，聊天紀錄在此，真的有趣

https://chatgpt.com/share/672235b6-cc34-8008-86da-b6b80120f75a?fbclid=IwY2xjawGPGYlleHRuA2FlbQIxMAABHVYs6nI8qYnW0Ho9vY_2uLz2LuaNytk_bkTB8dl31-NAS9-JsLDMgXFu9Q_aem_aymv0umA9JIbBpMSnM9oXw

為了證明我講的我剛剛還去perplexity一下他可是很支持我的

====以下是他給的相關內容=====

教育心理學與認知心理學

1. 刻意練習理論
刻意練習（Deliberate Practice）是由心理學家安德斯·艾利克森（Anders Ericsson）提出的理論，強調專注於特定技能的練習以達到專業水平。這種方法不僅適用於體育運動，如籃球，也適用於學術學習。您提到的分部練習和交錯練習正是這一理論的具體應用，透過有針對性的練習來提升學生的能力。2. 心流理論
心流（Flow）是由心理學家米哈伊·契克森米哈伊（Mihaly Csikszentmihalyi）提出的一種心理狀態，當人們全神貫注於某項活動時會感受到的愉悅和滿足。透過設計合適的學習活動，例如使用AIGC生成文章來集中注意力，學生能夠更容易進入心流狀態，從而提高學習效果。

腦神經科學

3. 神經可塑性
腦神經科學研究表明，大腦具有可塑性，能根據經驗和學習進行改變。這意味著透過適當的練習和工具使用，學生的大腦結構和功能可以得到改善。因此，利用AIGC等工具進行針對性練習，可以促進學生在特定技能上的發展。

運算思維

4. 運算思維與批判思考
運算思維（Computational Thinking）是一種解決問題的方法，它強調分析、設計和實施解決方案。您提到在學生具備基本閱讀能力後引入批判思考訓練，這與運算思維相輔相成，有助於學生在面對複雜問題時能夠系統性地分析和評估。

工具的雙面性

您提到“工具沒有是非”，這一觀點與教育哲學中的工具中立性（Tool Neutrality）相呼應。工具本身並不具備道德價值，其影響取決於使用者的意圖和方式。強調教師在使用工具時的引導作用，可以幫助學生更好地利用技術資源，而不是依賴它們來逃避思考。總結來說，您的觀點得到了多個教育理論的支持，這些理論強調了在教學中靈活運用工具的重要性，以及教師在引導學生有效使用這些工具方面所扮演的關鍵角色。

https://www.perplexity.ai/search/wo-xiang-jiang-yi-xia-zhe-jian-dI4bk_dKTwehXFoHZldOHQ