研究顯示，塞給AI的資料愈多、對話拖得愈長，不一定能提高回答品質，甚至可能讓AI「愈聊愈笨」，同時更快用掉使用額度。（示意圖：shutterstock/達志） 字級設定：小中大特 生成式AI功能愈來愈強，不少人使用ChatGPT、Claude等工具時，習慣把大量資料一次丟給AI，或認為選擇最強模型、要求「深入思考」，就能得到更好的答案。不過研究顯示，資料塞得愈多、對話拖得愈長，不一定能提高回答品質，甚至可能讓AI「愈聊愈笨」，同時更快用掉使用額度。
日本科技網站《ASCII.jp》報導，ChatGPT與Claude的付費方案並非真正無限使用，而是設有不同形式的使用上限。所謂Token，可簡單理解為AI處理文字時所消耗的「用量」，使用者輸入的內容愈多、對話愈長，通常消耗的Token也愈多。尤其Claude的消耗量會受到對話長度、使用模型及附件數量影響，因此即使採固定月費，使用過多Token仍可能讓使用者更快碰到額度上限。
研究發現，提供給AI的資料並非愈多愈好，過長的內容反而可能分散注意力、影響回答品質，因此，與其一次塞入大量資料，不如只提供真正需要的內容。
報導指出，不必所有工作都交給最高階模型。摘要、分類、錯字檢查、格式轉換、翻譯、電郵草稿等，多數使用高速模型即可；比對多份合約、追查複雜程式錯誤，或根據多項條件制定計劃時，再改用推理能力較強的模型。
此外，「想得更久」也不代表答案一定更好。程式開發評測顯示，Claude Opus 5在中等推理強度下表現最佳，推理強度調高後成績反而下降，因此應依任務難度調整，而非一律開到最高。
想減少Token浪費，報導建議，分析PDF時只提供需要的頁面，不必一次上傳數百頁文件；話題改變時另開新對話，避免模型反覆讀取過長聊天紀錄。若需要延續先前資訊，可先要求AI整理「前提、已決定事項及未解決問題」，再把摘要帶到新對話。
輸出內容同樣會消耗Token，因此與其先要求「詳細說明」，之後再追問「簡單來說呢」，不如一開始就指定「整理3個重點」。發想時也可先要求10個簡短方案，再挑選2個深入討論。報導強調，節省Token並非單純少用AI，而是讓同樣的使用額度完成更多工作，關鍵在於只提供必要資訊，並依任務難度選擇適合的模型與推理強度。
支持誰當台北市長？最新深綠區街訪民調跌破眼鏡 畢生投入骨科 卻因替陳幸妤作媒被記住 韓毅雄近況曝 金曲歌王搭機看廣告「飆罵死要錢」 空姐被念到下跪聽完 #生成式AI #AI使用額度 #ChatGPT #Claude #模型選擇 【鬼月到》體驗全台4大「鬼門開」儀式！】 城隍廟禁忌、典故一次看
评论 (0)