ai寫文的一些思路探討book18.org
最近頻繁使用大模型工作，深感大模型目前進展確實厲害，拋磚引玉一些感受，期望可以給論壇一些用ai寫文的朋友一些思路。我自己平時沒有模型創作的經驗，主要是有一些想法，想和大家探討一下。book18.org
1. 大模型的本質book18.org
大模型的本質就是機率，輸入上文，大模型根據所有上文，作為輸入，經過一段訓練好以後的黑盒邏輯，計算出下一個字最大機率應該是哪個字，直到推測出停止字符，就停止輸出。所有大模型的本質都是這樣，沒啥區別。book18.org
2.大模型的記憶book18.org
從上面的本質可以看出來，無論再怎麼鼓吹，當你的輸入超過一定長度的時候，下文產出機率的準確率一定會下降。book18.org
3.現有技術手段的優化book18.org
基於12，現有的技術優化，主要就是不斷增加一些外置的工具，讓大模型能更理解用戶訴求book18.org
比如，當做計算時，調用特定的工具，進行複雜工作時，生成一段腳本，然後用腳本執行等，這都是模型應用層面的優化。book18.org
綜上，可以有幾個結論book18.org
1，模型參數上，一定是越大越厲害，推理型的模型一定優於非推理型的模型book18.org
2，受限於本地資源，絕大部分本地部署的模型，一定比不上公開的商業模型。book18.org
3，破甲，這方面我沒有研究過，但如果是同過提示詞擾亂大模型的輸出，那破甲後大模型一定會有一定程度的衰減，這個好像沒辦法。如果grok可以做到無需要破甲，那我覺得可能grok的效果，會比需要破甲的模型強一些，當然這是推測，我自己沒驗證過。book18.org
一些想我自己想和大家討論的技巧book18.org
1，不要試圖讓模型一次做非常多的事情，做的事情越多，效果越差，比如你一輪對話中，就期望他自己生成大綱，然後自己開始創作，大機率他會生成非常平庸的內容book18.org
2，對任務進行拆解的思路，比如以創作為例，我覺得可以先分成如下幾個任務book18.org
第一個任務，生成大綱，可以讓大模型只生成大綱，然後你針對大綱和模型單獨交流，直到大綱滿足你的要求。然後把大綱存成一個文件book18.org
第二個任務，大綱拆解，輸入大綱，把大綱拆解成具體的故事線，輸出每個故事線的關鍵情節。book18.org
第三個任務，分章節創作，每次只創作1-2萬字，每次創作前，輸入前情提要，以及大綱，和當前故事的主要情節book18.org
第四個任務，章節總結，輸入已完成的章節，讓模型總結主要情節和主線完成度，作為創作任務的一個輸入book18.org
創作時按照243的順序循環創作。book18.org
3，創作風格，是否可以讓模型根據歷史章節，總結創作風格，然後只把創作風格提供給後續的創作中，避免前文的干擾。book18.org
4，埋線，還沒想好應該怎麼搞，但我感覺應該是一個比較獨立的任務，應該是需要單獨處理下埋線。book18.org
5，人物設計，人物行為，動機等等，我覺得應該可以在大綱中設計出人物的核心特點，然後在情節設計中根據核心特點產生情節，最後根據情節完成故事設計。book18.org
文章打分book18.org
我覺得大模型是有能力評估文章的好壞的，只不過評估也應該是個獨立的任務，且我覺得可能這個評估的任務可能甚至不需要破甲，可能單純只做評估任務的話，一些商業模型也可以做評價。book18.org
有了評價以後，就可以讓模型自己卷自己了，笑book18.org
以上基本就是我自己的一些想法，打出來和大家切磋一下。 book18.org