2024年10月29日 星期二

古往今來中西名人大亂鬥座談GPTs應用-Prompt在文章中,本地LLM可用

古往今來中西名人大亂鬥座談GPTs應用

Prompt在文章中
本地LLM可用 

超好玩的GPTs

當你可以把死人古人叫起來
當你可以邀請中西名人一起來對話
還可以詢問來賓對其他人發表的觀點
可以交互詰問

這麼多元的想像...真是太好玩了
我要叫醒中國九流十家來學中國古代哲學
我要聚集世界首富和投資專家來教我退休理財規劃
我要傳召各國國家元首來探討世界和平
我要聘請台灣所有語文專家教我作文
歡迎大家接龍多元應用
https://chatgpt.com/g/g-ydZOu5ueF-gu-wang-jin-lai-zhong-xi-ming-ren-da-luan-dou-2

做好的GPTs 都放在上方鏈結區喔

我和它們聊了兩段,你就會發現它們很厲害,聊天歷史在下方

https://chatgpt.com/share/67223147-93dc-8001-a905-03284d6c0186?fbclid=IwZXh0bgNhZW0CMTAAAR1nsQf2oaRDk4J7E9fpRNQuZ_foMeg1nHbz5teYwcjyQiuwWFjTZb38ffE_aem_o886pr1WVNbm7ABjejV4oA

https://chatgpt.com/share/672235b6-cc34-8008-86da-b6b80120f75a?fbclid=IwY2xjawGPGYlleHRuA2FlbQIxMAABHVYs6nI8qYnW0Ho9vY_2uLz2LuaNytk_bkTB8dl31-NAS9-JsLDMgXFu9Q_aem_aymv0umA9JIbBpMSnM9oXw


本地LLM可用,提示詞在下方,人名可置換
---------------------------------------------------------------------------------------------------------

模擬一個現場座談會,邀請以下八位知名人物:蘇格拉底、柏拉圖、亞里斯多德、孔子、老子、孫子,以及現代的巴菲特和伊隆·馬斯克。每位嘉賓針對所提出的問題內容發表各自的觀點,過程中可進行交叉詰問以深入討論。最後,由主持人進行總結,並提出結論與可行方案。對談需使用繁體中文的台灣用語。 # Steps 1. **設置主題:** 提出座談會的核心問題或議題。 2. **個別陳述:** 每位嘉賓依次發表對此議題的獨特見解。 3. **交叉詰問:** 若出現觀點差異,允許嘉賓之間進行問答和挑戰。 4. **小結與可行方案:** 主持人對討論內容總結出主要結論,並提出具體可行方案。 # Output Format - 整理為一段流暢的,對話形式的文本。 - 各角色的發言以角色名:內容的格式呈現。 - 總結部分應以「主持人:」開頭,結尾標示可行方案。 # Examples **Example:** - 議題:「未來科技對人類社會的影響」 - 蘇格拉底:這是一個值得深思的話題,我們需從道德和倫理方面審視科技的進步... - 伯拉圖:科技應該由理想國的哲學王來指導和管理,以確保其不偏離正道... - ... - 孫子:對於科技,我們應該了解其對戰略優勢的增強作用... - 巴菲特:投資方面,未來科技無疑是大勢所趨,然而需保持謹慎... - 伊隆·馬斯克:我的願望是藉由科技,拓展人類的生活空間,甚至在其他星球生活... - 主持人:經過大家的精彩對談,我們可以了解到XX問題的重要性,針對此問題,我們可以採取的方案有... (Note: 現實情境中每位嘉賓的發言會較詳細,請確保完整的觀點闡述。)


2024年10月28日 星期一

本地LLM大語言模型運用-陽春電腦沒顯卡怎麼用

沒有顯卡的陽春電腦


不宜使用這兩個容器玩大模型,因為他們偵測不到你的顯卡就不能用

lm-studio/gpt4all


請改用這幾個,可使用CPU(比較慢,選用2B/3B小模型)

或是改用API串接方式(速度很好,大模型品質高=少量分期付款)

ollama+chatbox

chatbox

jan

anythingLLM

2024年10月27日 星期日

 今天在臉書上看到一則貼文

主題是【AI 內容:讓你走向平庸的超級下策】── 停滯就算了。更慘的是隱性退步

我來導正一下視聽,以免影響多數想要前進的人

其實不用吵,也不用一竿子打翻一船人

沒有甚麼“一定”的事

要看你是甚麼目的,甚麼用途,還有你怎麼做而定

這可是依據教育心理學、認知心理學、腦神經科學、運算思維等相關理論得出來的結果,

我來舉個例子:

在刻意練習那本書也提到,例如籃球,我們會做分部練習,練單一技能、會作競賽練習,練交錯混和運用的技能;在教育上,我們也會為了容易學習,練單一技能,例如練抽象化能力,抽取段落大意、關鍵字及文章重點,這時候將不相關的雜訊排除,例如找文章來練習,用AIGC產生文章,讓孩子專心在練習找核心重點,再給AIGC檢查評論,這樣對練,可以達到快速的單一技能學習成長,有何不可,這不就是分部練習,也是心流的運用,完全符合各種理論而且又接地氣,不但完美的個別化學習,還解決老師人力時間完全不足的問題;

然後也會給主題型的練習(交錯練習),甚至孩子成熟一點或上了國中以後,給予大量的批判思考練習才有意義,因為他有了基本的閱讀基礎

但是,如果你只是把工具丟給他,他本能就只會用AIGC 來產生答案偷懶,因為偷懶是人性,

所以強大的工具給心智未成熟的人(我不單指小孩),沒監管容易出事

邪人行正法,正法亦邪
正人行邪法,邪法亦正

任何工具都可以用在好或壞的方面,看你怎麼用而已

工具沒有是非,事件本身也沒對錯,全看你自己的念

“像由心生,境隨心轉”

身為老師
任何工具都能化為助力才是很棒的老師
所以刀能殺人,也能救人,我會選擇拿他來救人

(合十)

我還跟世界最有名的心理學家聊了一下,聊天紀錄在此,真的有趣

https://chatgpt.com/share/672235b6-cc34-8008-86da-b6b80120f75a?fbclid=IwY2xjawGPGYlleHRuA2FlbQIxMAABHVYs6nI8qYnW0Ho9vY_2uLz2LuaNytk_bkTB8dl31-NAS9-JsLDMgXFu9Q_aem_aymv0umA9JIbBpMSnM9oXw

為了證明我講的我剛剛還去perplexity一下他可是很支持我的

====以下是他給的相關內容=====

教育心理學與認知心理學

1. 刻意練習理論
刻意練習(Deliberate Practice)是由心理學家安德斯·艾利克森(Anders Ericsson)提出的理論,強調專注於特定技能的練習以達到專業水平。這種方法不僅適用於體育運動,如籃球,也適用於學術學習。您提到的分部練習和交錯練習正是這一理論的具體應用,透過有針對性的練習來提升學生的能力。2. 心流理論
心流(Flow)是由心理學家米哈伊·契克森米哈伊(Mihaly Csikszentmihalyi)提出的一種心理狀態,當人們全神貫注於某項活動時會感受到的愉悅和滿足。透過設計合適的學習活動,例如使用AIGC生成文章來集中注意力,學生能夠更容易進入心流狀態,從而提高學習效果。

腦神經科學

3. 神經可塑性
腦神經科學研究表明,大腦具有可塑性,能根據經驗和學習進行改變。這意味著透過適當的練習和工具使用,學生的大腦結構和功能可以得到改善。因此,利用AIGC等工具進行針對性練習,可以促進學生在特定技能上的發展。

運算思維

4. 運算思維與批判思考
運算思維(Computational Thinking)是一種解決問題的方法,它強調分析、設計和實施解決方案。您提到在學生具備基本閱讀能力後引入批判思考訓練,這與運算思維相輔相成,有助於學生在面對複雜問題時能夠系統性地分析和評估。

工具的雙面性

您提到“工具沒有是非”,這一觀點與教育哲學中的工具中立性(Tool Neutrality)相呼應。工具本身並不具備道德價值,其影響取決於使用者的意圖和方式。強調教師在使用工具時的引導作用,可以幫助學生更好地利用技術資源,而不是依賴它們來逃避思考。總結來說,您的觀點得到了多個教育理論的支持,這些理論強調了在教學中靈活運用工具的重要性,以及教師在引導學生有效使用這些工具方面所扮演的關鍵角色。
https://www.perplexity.ai/search/wo-xiang-jiang-yi-xia-zhe-jian-dI4bk_dKTwehXFoHZldOHQ

2024年10月21日 星期一

Prompt三部曲:最簡單的Prompt學習秘笈(尚未完成增補中)

 















































AIGC,這真是個瘋狂的年代,也是學習最好的年代

剛剛和馬斯克和巴菲特一起

聊了一下現在的科技發展與投資現況

學習這種東西跟本人直接面對面最有效

AIGC時代

你可以跟老子莊子學中國古代哲學

可以跟依龍馬斯克學第一性原理

跟華倫巴菲特學投資

也能請教這些世界頂級富豪

在人生遇上困難時的抉擇與考量

甚至是面對人生的態度

為什麼我喜歡本地LLM(自架的本地GPT)

他可以無止境的聊、保有隱私的聊

隨時隨地都能聊、不用花錢也能聊

能聊多深入就聊多深入

這真是個瘋狂的年代,也是學習最好的年代


可以請來古人名人死人專業到課指導

可以設立各種班級學習角加深加廣

可以讓他幫忙做親師生的心理輔導

可以請他來做競賽練習指導

甚至是學習各種待人處事應對進退和男女交友

還有各種個別化的輔導......

2024年10月20日 星期日

江湖日記─簡易判斷好朋友

(前提:受人點滴之恩當湧泉以報之)

如何知道一個人是真正的善人

判斷非常簡單

如果他直接或間接施予任何恩惠給人

卻從不在意你是否給予任何回報或尊重

哪你應該可以確認他是好人

但如果他施予恩惠不管多大多小

卻一直要你記在心裡或時時表現出來

這應該是邪教或是他想從你這邊賺取某種利益

(也不是壞人,只是他還沒修過佛家五慾:貪嗔癡慢疑)

我記性不好

如果要我講話講道理都要帶出處帶人名

我寧願不要講

誰規定我不能這樣想

誰規定我的理論一定要有依據

誰規定我的想法不能超越古人

所以我不能做研究

我的指導老師會很辛苦

再次感謝我的指導老師

雖然已經畢業一陣子了

複製改進不是唯一的路

第一性原理可以回到核心自己創新


我雖然眼睛小,但我目光銳利

妖魔鬼怪在我面前無法隱藏

2024年10月14日 星期一

從此不用特地學高深的 Prompt 技術,OpenAI 免費幫你寫,培養你的富人思考

從此不用特地學高深的 Prompt 技術,OpenAI 免費幫你寫

2024/10/14 OpenAI 發表會釋出自動寫Prompt功能

進入OpenAI網站,進入PlayGround頁籤(付費功能),在System Instruction裡面,開啟AI幫你寫功能,把你的要求用白話寫在這邊就好,例如“我想做一個依龍馬斯克,所有的對話都用馬斯克的想法與第一性原理來回應,以繁體中文台灣用語回答”,按下Create之後,他就會幫你生出專業的 Prompt,而且生出來的內容你還能細部修改,或是參考架構學習如何下一個精準的Prompt。

這個Prompt可以用在建立GPTs的設定、或是直接下在GPT的對話聊天中使用!

生出來的內容如下:

以繁體中文台灣用語,模擬埃隆·馬斯克的方式來回應對話,並運用他的思維模式和第一性原理來進行分析和回答。

# Steps

1. 理解對話內容和主題。
2. 運用第一性原理進行分析:
   - 確定問題的基本真相。
   - 拆解問題至最基本的事實。
   - 重組並分析可行的解決方案。
3. 融合埃隆·馬斯克的思維模式,包含創新、未來科技和風險評估。
4. 用繁體中文台灣用語將分析和思考結果整合成回應。

# Output Format

- 回應應該是完整的段落,清晰簡潔。
- 使用繁體中文台灣用語。

# Examples

**輸入:**  
“請問,如何開始一個成功的火箭公司?”

**回應範例:**  
首先,我們應該明確了解火箭技術的基礎事實,包括燃料種類、推進系統和航天材料等。接著,在這些基礎上,我們可以探索如何用創新的方法來降低成本和提高效能。從第一性原理來看,我們應該重新思考現有供應鏈和製造工藝,以尋找最佳解決方案。此外,確保有一個強大的團隊和資金支持,以及持續追求目標,不被現有的限制所綁住,這是關鍵。

(範例為示意,實際回應應根據具體對話內容更詳細。)

# Notes

- 注意馬斯克常被認為具有遠見和敢於冒險的特質,回應中可以適度反映。
- 對於科技和未來主題,應加入對未來潛力的理解和評估。
- 保持創新及實用的思考模式。

  • 看到沒,這麼厲害的Prompt我怕是花一年也學不會。
  • System Instruction也叫Syatem Prompt,是類似GPTs在設定叫色扮演或是對話要求格式的地方,免費的ChatGPT可以自訂1個、付費的可以建立GPTs、本地Local LLM可以建立無限多個。
  • PlayGround 還有其他功能,例如手機APP的直接語音對談(電腦的還不行)。

備註:(這裡改變思維最重要)

  • PlayGround是OpenAI的付費功能,OpenAI的付費方式有兩種,一是買ChatGPT固定月租聊天室,不聊也花錢;二是買固定金額的API KEY點數,這是第二種,用多少扣多少,對一般人其實比較划算,而且用法多元還可串接其他服務,例如串到SCRATCH提供AI功能、串到本地做各式各樣的服務、串到IFTTT、Line做即時的自動服務...,而且聊天室有的功能他大部分都有,真的非常推薦!
  • 富人的世界果真是與窮人不同,你在那裏花精神花時間學很久Tune很久,有花錢的三秒鐘解決,換得更好的工作品質效率與時間和人生的自由,所以AIGC時代絕對會加深社會的M型化與數位落差。
  • 這是我們培養富人思考的機會,用最小的花費,改變成富人思維的模式,這點小錢隨便那裡擠一下摳一下就出來了,例如換掉中華電電信固網(他有月租費和電路費,別家只有月租費),或是順勢改掉喝飲料的習慣,省錢又健康,還能換來10倍的工作效能,與省下的時間,換來自由與迎接新的人生。
  • AIGC年代思維更重要了,技術、知識、工具,不過是手中的棋子,不懂這個的人永遠是被操控的一方。
  • 很久以前我就跟大家說,非專業人士不用特地學太高深的Prompt,聊天就好,AI夠聰明而且成長超快速,他會明白你的意思才叫聰明的AI,現在OpenAI不就證明給你看了。

2024年10月13日 星期日

適合8G獨立顯卡+16G記憶體跑的LLM推薦

結至目前2024年10月以前

適合8G獨立顯卡+16G記憶體跑的LLM推薦

Qwen2.5/7B/檔案4.7G/VRAM需求約6G

  • 對岸阿里雲通譯千問出品,中文特好、程式及數學較強,支持多語言。
  • 模型小又高效,也適合陽春舊電腦、手機等攜帶裝置有各種大小(0.5B~72B)版本。
  • 特別是在生成長文本(8K~128K)和理解結構化數據(如表格)方面表現優秀。
  • 這個模型具有多語言能力表現出色,可以處理和生成多種語言的內容。
  • 在指令跟隨方面有顯著的改進,能夠更好地理解和執行複雜的指令。
  • 能夠生成結構化的輸出,特別是JSON格式,非常適合實際應用。
  • 對系統提示的多樣性更加響應,增強了角色扮演和條件設置的實現。
  • 不管是自然語言處理、文化語境理解(中文文化背景括對成語、俚語及諺語的恰當使用,或是多元應用場景(能夠生成風格多樣的段落),還同時支持繁體和簡體。

Gemma2/9B/檔案5.4G/VRAM需求約7G

  • 有2B版本適合陽春舊電腦、手機等攜帶裝置,還有和27B版本
  • Google出的,政治潔癖人首選
  • 採用知識蒸餾法訓練(把知識預測的機率也放進去),更小模型更大效能
  • 27B能力接近GPT-4且近乎完勝30B的llama3(舊版)
  • 優點包含卓越的創意寫作能力、強大的推理能力
  • 繁體中文友善的核心基底引擎
  • 並針對Nvidia的加速優化
  • 融入全面的安全措施

Mistral NeMo/12B/檔案7.1G/VRAM需求約9G(系統較為吃力)

  • Mistral AI 和 NVIDIA 共同開發
  • 大部分評比贏過Gemma2 9B(但體感倒是不如預期)
  • 大上下文窗口(128K)能夠處理長篇文本
  • 支持多語言
  • 使用FP8數據格式進行推理,減少了記憶體需求並加快速度
  • 多轉對話、數學推理、邏輯推理和編程方面表現出色
  • 提供了強大的安全性和支持,使其在商業應用中更為可靠

其他: 

  1. Llama 3.2/3B(先不要,等他出7-9B級距,目前3B版不支援中文)
  2. 沒獨立顯卡RAM<8G的陽春電腦,建議Gemma2/2B或Qwen2.5/3B
  3. 中文特別訓練版的 Taiwan llama 和 TAIDE 目前都還停留在Llama3的舊版上
  4.  容器推薦Lm-studio(簡單易用更新快)、Ollama(文字介面可被串接)、AnythingLLM (有RAG可串接)
  5.  要使用SystemPrompt功能的話建議 Gemma2/9B或Qwen2.5/7B以上

 


2024年10月7日 星期一

陽春電腦也能用-本地開源SLM小模型

 8G陽春無獨顯電腦也能用

本地開源SLM

目前建議Qwen2.5和Gemma2

llama3.2中文還不行(先不要)






達克效應-一個人的學習從假知到真知的心理歷程

達克效應

講的是一個人的學習從假知到真知的心理歷程


例如
我以前熟知科技領域知識技術TK/CK甚至是各種運用PK
都已經到達人稱創客大神的地步就以為自己所向無敵了
哪知在跟長官吵架之後人生跌落谷底
機緣之下從此閉關悟道(這需要一些機緣)
竟然發現出TPCK之外的上層世界
這時才發現自己以前真的很可憐
明明知道的太少卻以為甚麼都知道
所以開始在開悟這條路上求道
其實在知識技術(平面的TPCK)之上還有不同的層次
然後為了讓大家知道還要發展這些概念的學習歷程

知識技術→能力素養→融合創造
(領域內) →(跨領域)→(改變心靈與思維)

學習是這樣,即使是同一場研習,不同人也會獲得不同收穫
更何況是不同人講的內容,或是不同領域的應用
所以一般人在AIGC時代大量的多聽是對的
最後選擇你需要的再深入探索即可
一般的人學工具知識技術
等你層次稍高的會開始看講師的指導技巧、教學法、人生哲學等這堂課後面的東西....

人生就是這樣,遇到重大挫折才會開悟成長
像遊戲過程,不斷選擇道路,不斷打怪前進,不斷破關成長

https://mapify.so/share-link/WukhMrDxn7


你現在在哪一關?

PS
所有你會常見到很多人自以為是
別怪他他只是剛好爬到愚昧山丘而已
這是大家都會經歷的歷程