問：如果我請 agy 處理一件看起來很複雜應該很耗費 token 的工作，我是不是在做之前，先請 agy 幫我分析一下，是不是有比較省 token 的方法，再由它建議的方法，分批讓它做，這樣可以省下較多的token，我這樣想對不對？
答：
你的思路完全正確，這是一種非常聰明且專業的 Prompt Engineering（提示工程）與 Token 節省策略。
透過「先分析後執行」與「任務拆解（Chuniking）」，確實能大幅降低 Token 消耗，理由如下：
為什麼這樣做可以省 Token？
減少無謂重來（Retry Costs）： 如果直接讓 AI 處理龐大任務，萬一方向偏離或格式不符，重新產生的代價極高。先請它分析並確認執行計畫，能確保「一次做對」。
精準鎖定上下文（Context Window）： 將大任務拆解成小步驟（如 Step 1~3），每次執行只需餵入該步驟相關的 Context，避免每次對話都夾帶過長的历史紀錄或全貌資料。
縮短輸出長度（Completion Tokens）： AI 一次輸出長篇大論容易出現贅字、格式混亂甚至中斷；分批執行能讓 AI 專注於高濃度的重點輸出。
建議的標準作業流程 (SOP)
為了達到最佳的 Token 節省效果，建議分三個階段引導 AI：
第一階段：需求分析與結構化計畫（消耗極少 Token）
「我有一項複雜任務 [簡述任務內容]。請先不要執行，幫我分析這項任務，並提供一個最省 Token 且高效率的分批執行計畫（包含步驟拆解與建議的輸入/輸出格式）。」
第二階段：確認與微調
檢查 AI 給的計畫，若沒問題即可核准；若有需要調整的地方，在此階段以簡短指令修正。
第三階段：分批執行（Batch Execution）
「很好，我們依照計畫執行。請先處理 [步驟一]，輸出結果請維持精簡，直接提供核心內容即可。」
額外省 Token 的實用小技巧
明確限制輸出格式： 要求 AI「使用列點（Bullet points）」、「表格」或「僅輸出 Markdown / 代碼，不需前導與總結客套話」，可省下大量不必要的文本。
適時開新對話（Reset Context）： 如果整個任務分為三個獨立子項目，完成步驟一並取得結果後，可以將步驟一的結果複製到新對話中繼續做步驟二。這樣能徹底清空舊對話積累的 Context Token。
沒有留言:
張貼留言