2024年10月14日 星期一

從此不用特地學高深的 Prompt 技術,OpenAI 免費幫你寫,培養你的富人思考

從此不用特地學高深的 Prompt 技術,OpenAI 免費幫你寫

2024/10/14 OpenAI 發表會釋出自動寫Prompt功能

進入OpenAI網站,進入PlayGround頁籤(付費功能),在System Instruction裡面,開啟AI幫你寫功能,把你的要求用白話寫在這邊就好,例如“我想做一個依龍馬斯克,所有的對話都用馬斯克的想法與第一性原理來回應,以繁體中文台灣用語回答”,按下Create之後,他就會幫你生出專業的 Prompt,而且生出來的內容你還能細部修改,或是參考架構學習如何下一個精準的Prompt。

這個Prompt可以用在建立GPTs的設定、或是直接下在GPT的對話聊天中使用!

生出來的內容如下:

以繁體中文台灣用語,模擬埃隆·馬斯克的方式來回應對話,並運用他的思維模式和第一性原理來進行分析和回答。

# Steps

1. 理解對話內容和主題。
2. 運用第一性原理進行分析:
   - 確定問題的基本真相。
   - 拆解問題至最基本的事實。
   - 重組並分析可行的解決方案。
3. 融合埃隆·馬斯克的思維模式,包含創新、未來科技和風險評估。
4. 用繁體中文台灣用語將分析和思考結果整合成回應。

# Output Format

- 回應應該是完整的段落,清晰簡潔。
- 使用繁體中文台灣用語。

# Examples

**輸入:**  
“請問,如何開始一個成功的火箭公司?”

**回應範例:**  
首先,我們應該明確了解火箭技術的基礎事實,包括燃料種類、推進系統和航天材料等。接著,在這些基礎上,我們可以探索如何用創新的方法來降低成本和提高效能。從第一性原理來看,我們應該重新思考現有供應鏈和製造工藝,以尋找最佳解決方案。此外,確保有一個強大的團隊和資金支持,以及持續追求目標,不被現有的限制所綁住,這是關鍵。

(範例為示意,實際回應應根據具體對話內容更詳細。)

# Notes

- 注意馬斯克常被認為具有遠見和敢於冒險的特質,回應中可以適度反映。
- 對於科技和未來主題,應加入對未來潛力的理解和評估。
- 保持創新及實用的思考模式。

  • 看到沒,這麼厲害的Prompt我怕是花一年也學不會。
  • System Instruction也叫Syatem Prompt,是類似GPTs在設定叫色扮演或是對話要求格式的地方,免費的ChatGPT可以自訂1個、付費的可以建立GPTs、本地Local LLM可以建立無限多個。
  • PlayGround 還有其他功能,例如手機APP的直接語音對談(電腦的還不行)。

備註:(這裡改變思維最重要)

  • PlayGround是OpenAI的付費功能,OpenAI的付費方式有兩種,一是買ChatGPT固定月租聊天室,不聊也花錢;二是買固定金額的API KEY點數,這是第二種,用多少扣多少,對一般人其實比較划算,而且用法多元還可串接其他服務,例如串到SCRATCH提供AI功能、串到本地做各式各樣的服務、串到IFTTT、Line做即時的自動服務...,而且聊天室有的功能他大部分都有,真的非常推薦!
  • 富人的世界果真是與窮人不同,你在那裏花精神花時間學很久Tune很久,有花錢的三秒鐘解決,換得更好的工作品質效率與時間和人生的自由,所以AIGC時代絕對會加深社會的M型化與數位落差。
  • 這是我們培養富人思考的機會,用最小的花費,改變成富人思維的模式,這點小錢隨便那裡擠一下摳一下就出來了,例如換掉中華電電信固網(他有月租費和電路費,別家只有月租費),或是順勢改掉喝飲料的習慣,省錢又健康,還能換來10倍的工作效能,與省下的時間,換來自由與迎接新的人生。
  • AIGC年代思維更重要了,技術、知識、工具,不過是手中的棋子,不懂這個的人永遠是被操控的一方。
  • 很久以前我就跟大家說,非專業人士不用特地學太高深的Prompt,聊天就好,AI夠聰明而且成長超快速,他會明白你的意思才叫聰明的AI,現在OpenAI不就證明給你看了。

2024年10月13日 星期日

適合8G獨立顯卡+16G記憶體跑的LLM推薦

結至目前2024年10月以前

適合8G獨立顯卡+16G記憶體跑的LLM推薦

Qwen2.5/7B/檔案4.7G/VRAM需求約6G

  • 對岸阿里雲通譯千問出品,中文特好、程式及數學較強,支持多語言。
  • 模型小又高效,也適合陽春舊電腦、手機等攜帶裝置有各種大小(0.5B~72B)版本。
  • 特別是在生成長文本(8K~128K)和理解結構化數據(如表格)方面表現優秀。
  • 這個模型具有多語言能力表現出色,可以處理和生成多種語言的內容。
  • 在指令跟隨方面有顯著的改進,能夠更好地理解和執行複雜的指令。
  • 能夠生成結構化的輸出,特別是JSON格式,非常適合實際應用。
  • 對系統提示的多樣性更加響應,增強了角色扮演和條件設置的實現。
  • 不管是自然語言處理、文化語境理解(中文文化背景括對成語、俚語及諺語的恰當使用,或是多元應用場景(能夠生成風格多樣的段落),還同時支持繁體和簡體。

Gemma2/9B/檔案5.4G/VRAM需求約7G

  • 有2B版本適合陽春舊電腦、手機等攜帶裝置,還有和27B版本
  • Google出的,政治潔癖人首選
  • 採用知識蒸餾法訓練(把知識預測的機率也放進去),更小模型更大效能
  • 27B能力接近GPT-4且近乎完勝30B的llama3(舊版)
  • 優點包含卓越的創意寫作能力、強大的推理能力
  • 繁體中文友善的核心基底引擎
  • 並針對Nvidia的加速優化
  • 融入全面的安全措施

Mistral NeMo/12B/檔案7.1G/VRAM需求約9G(系統較為吃力)

  • Mistral AI 和 NVIDIA 共同開發
  • 大部分評比贏過Gemma2 9B(但體感倒是不如預期)
  • 大上下文窗口(128K)能夠處理長篇文本
  • 支持多語言
  • 使用FP8數據格式進行推理,減少了記憶體需求並加快速度
  • 多轉對話、數學推理、邏輯推理和編程方面表現出色
  • 提供了強大的安全性和支持,使其在商業應用中更為可靠

其他: 

  1. Llama 3.2/3B(先不要,等他出7-9B級距,目前3B版不支援中文)
  2. 沒獨立顯卡RAM<8G的陽春電腦,建議Gemma2/2B或Qwen2.5/3B
  3. 中文特別訓練版的 Taiwan llama 和 TAIDE 目前都還停留在Llama3的舊版上
  4.  容器推薦Lm-studio(簡單易用更新快)、Ollama(文字介面可被串接)、AnythingLLM (有RAG可串接)
  5.  要使用SystemPrompt功能的話建議 Gemma2/9B或Qwen2.5/7B以上

 


2024年10月7日 星期一

陽春電腦也能用-本地開源SLM小模型

 8G陽春無獨顯電腦也能用

本地開源SLM

目前建議Qwen2.5和Gemma2

llama3.2中文還不行(先不要)






達克效應-一個人的學習從假知到真知的心理歷程

達克效應

講的是一個人的學習從假知到真知的心理歷程


例如
我以前熟知科技領域知識技術TK/CK甚至是各種運用PK
都已經到達人稱創客大神的地步就以為自己所向無敵了
哪知在跟長官吵架之後人生跌落谷底
機緣之下從此閉關悟道(這需要一些機緣)
竟然發現出TPCK之外的上層世界
這時才發現自己以前真的很可憐
明明知道的太少卻以為甚麼都知道
所以開始在開悟這條路上求道
其實在知識技術(平面的TPCK)之上還有不同的層次
然後為了讓大家知道還要發展這些概念的學習歷程

知識技術→能力素養→融合創造
(領域內) →(跨領域)→(改變心靈與思維)

學習是這樣,即使是同一場研習,不同人也會獲得不同收穫
更何況是不同人講的內容,或是不同領域的應用
所以一般人在AIGC時代大量的多聽是對的
最後選擇你需要的再深入探索即可
一般的人學工具知識技術
等你層次稍高的會開始看講師的指導技巧、教學法、人生哲學等這堂課後面的東西....

人生就是這樣,遇到重大挫折才會開悟成長
像遊戲過程,不斷選擇道路,不斷打怪前進,不斷破關成長

https://mapify.so/share-link/WukhMrDxn7


你現在在哪一關?

PS
所有你會常見到很多人自以為是
別怪他他只是剛好爬到愚昧山丘而已
這是大家都會經歷的歷程