身為貓派的妖孽，對於 AI 說出上帝是一隻貓其實是可以接受的。猶記得 ChatGPT 剛推出時因為對話情況讓我覺得很差，所以就這樣放著兩年沒有用。現在幻覺依舊，但就像愛講話的小孩一樣，隨著時間過去，編故事的品質也上升了不少。而且網路貓派勢力壯大，AI 又是網路教出來的，老師偷渡自己的信仰洗腦小孩也不是什麼稀奇的事情(?)
AI 幻覺就是它的運作方式
AI 曾把太陽系外行星照片歸功給錯誤的望遠鏡，還幫律師編造虛構判例害人吃上官司。OpenAI 大神Andrej Karpathy 也比喻：「AI 的本質就是在作夢！」其實 AI 的運作比一般人所知道的還要數學，不信你去讀那一大堆的論文，一大堆的機率、加權.....，最後就出現了幻覺。說來也蠻有趣的，這麼數學的東西最後竟然會出現幻覺，但是理解之後也不意外，AI 給的是「最有可能的答案」而不是「最正確的答案」。回頭看看人類哲學的歷史，認知邊界之外的領域，哲學家也常常用幻覺的方式在討論啊。
免費治百病，幻覺其實很好用
現在有很多低成本的方式可以在自己的電腦上運行 AI，但是也能看到很多人說參數過低的 AI 其實不好用。根據不同使用情境，小模型也能發揮不錯的效果。一般來說，如果你的工作需要的是正確答案，例如數學解答、程式碼能不能運作、科學議題等等，確實不建議小模型（大模型也常力有未逮），但是不需要正確答案的問題就無關大小模型了。先想想一個情境，當大家聚在一起開會，主持人說了「大家有沒有什麼想法」的時候一片安靜，除了尷尬還沒效率。但是你可以問 AI「關於XX，你有沒有什麼想法」，AI 絕對不會假裝喝水、低頭或者用眼角餘光瞄同事，一定會給你一些答案。很多時候最困難的就是從 0 到 1，AI 幫我們度過這段不是很讚嗎（光是能避免無聲的尷尬就值了）。
免費模型推薦
最後推薦幾個妖孽最常用的模型：
1. deepseek-r1-abliterated：越獄版 deepseek，妖孽最常用的模型，中文應對最適當
2. llama-3.2ft_flux-prompting：幫忙生提示詞的模型，可惜他不懂中文
3. llama, qwen：湊聊天人數的時候用，常常看到奇怪的回應
hugging face 上面還有數不盡的模型，我試過幾個掛 coder 關鍵字的模型都不甚滿意。如前所述，這類工作還是大模型比較可靠一點。至於要挑哪個參數就看顯卡的 Vram，模型容量不要超過 Vram 都有不錯的速度。超過的話會變很慢，不過系統記憶體只要夠還是能運作，就是要等很久。
喜歡這類文章的話幫我點個反應，有問題也歡迎提問。
本篇文章 25% 參考 AI 資料，圖片 90% 由 AI 生成，這次題目 100% 是我自己想的
沒有留言:
張貼留言