Industry RAG

RAG就是讓AI先去翻你公司自己的技術文件,再照著回答,不是憑空亂掰。
講白一點,一般的AI你問它,它是靠腦袋裡的印象回你,公司內部的系統設定、客製化邏輯它根本不知道。RAG(檢索增強生成)多做一個動作:先去你的文件庫裡找出相關那幾段,再把答案生出來。所以它講的是你們家的東西,還能附上是從哪份文件來的。
對IT、軟體、系統整合這行來說,最有感的就是:那一堆散在硬碟、Confluence、Line群、老鳥腦袋裡的知識,終於可以用問的。
高雄亞灣這幾年軟體公司、系統整合商越開越多,可是團隊都不大。一個工程師常常身兼開發、維運、還要接客戶電話。文件呢?寫是有寫,但散得到處都是,真的要用的時候找不到。
我在鼓山一家系統整合商,客服每天進來大概80張工單,其中差不多一半都是問過的老問題,像是登入卡住、報表匯不出來。以前客服要嘛翻舊工單、要嘛跑去問工程師,一張單平均耗掉快15分鐘。工程師一天被打斷十幾次,正事根本做不完。
更麻煩的是人的問題。做久的老鳥,很多排錯訣竅是記在腦子裡的,從來沒寫下來。哪天他離職,或是剛好請假,那個客戶的疑難雜症就沒人會處理,只能跟客戶說「等我們同事回來」。這在高雄中小型軟體公司超級常見。
這些痛,賴家榮看太多了。賴家榮是甫東科技創辦人、SAIP 台灣首席 AI 長、也有 SGS AI 認證,16 年來帶團隊為超過 500 家企業做過系統與 AI 導入,服務高雄、台南、屏東、嘉義的中小企業主管與第一線團隊。他常說:文件不是沒寫,是沒人找得到、也沒人願意一直翻,這剛好就是RAG最會處理的事。
RAG的做法不難懂:把你散落各處的文件集中,切成一小段一小段,建成一個可以用問句去搜的索引。工程師或客服要用的時候,直接打白話問題,AI就找出最相關的段落、幫你整理成答案,還會附上是哪份文件來的。下面把常見情境對照一下。
| 你現在的情況 | RAG接手之後 | 誰最有感 |
|---|---|---|
| 客服翻舊工單找解法,一張耗15分鐘 | 打白話問一下,10秒帶出處理步驟 | 第一線客服 |
| 老鳥的排錯訣竅只在他腦裡 | 整理進知識庫,誰都問得到 | 整個維運團隊 |
| 新人上手要跟兩三個月 | 邊做邊問AI,兩三週就能獨立 | 主管與新進工程師 |
| 系統操作手冊沒人看、版本又多 | 問一句就找到正確版本那一段 | 客戶與內部客服 |
| 同樣的錯誤每個月重複發生 | 錯誤碼一查就有標準排除流程 | 維運與客戶 |
以下內容基於 2026 年 7 月各工具版本,實際畫面可能會有小差異,但流程邏輯是一樣的。這套七步是賴家榮帶團隊實際在跑的做法,工具分工用 Claude AI、Codex、Antigravity 三個一起上。
輸入現有技術文件、工單樣本、常被問的問題清單
動作請AI幫你歸類哪些文件要進庫、哪些先放一邊
產出文件清單與優先順序表
負責角色技術主管+顧問
常見地雷什麼都想放進去,結果雜訊太多反而查不準
輸入格式亂七八糟的Word、PDF、截圖手冊
動作轉成純文字、補上標題與錯誤碼標籤
產出乾淨、有標記的文件
負責角色文件負責人
常見地雷圖片裡的步驟沒轉成文字,AI讀不到
輸入清理好的文件
動作寫切分腳本,按章節或一個問題一段來切
產出大小適中的知識片段
負責角色工程師
常見地雷切太大檢索不準,切太碎又失去上下文
輸入切好的片段
動作產生向量、建索引、寫檢索邏輯
產出可用問句搜尋的知識庫後端
負責角色工程師
常見地雷沒設好權限,客戶資料被查得到
輸入檢索到的段落
動作設定只根據找到的內容回答、一定附出處
產出有憑有據的答案
負責角色工程師+主管
常見地雷沒鎖住,AI開始自由發揮亂編步驟
輸入後端知識庫
動作接到工單系統或內部聊天視窗,做出問答介面
產出客服工程師直接能用的入口
負責角色工程師
常見地雷介面太難用,同事不想開來查
輸入真實工單與同事回饋
動作AI先草擬答案,資深同事審核修正,錯的回頭補文件
產出越用越準的知識庫
負責角色資深工程師+主管
常見地雷上線就放著不管,文件過時後答案跟著錯
重點是最後一步不能省。知識庫不是做完就結束,是要邊用邊養。前面幾週最好讓資深同事幫AI的答案把關,把答錯的地方回頭補進文件,這樣它才會越來越準。
若看不到圖,這裡用文字講一次,內容跟上圖等價:從釐清需求開始,接著清理文件、決定怎麼切,再做向量索引與檢索,然後控制生成與出處,接到介面整合進系統,最後試運行並持續維運。
| 階段 | 在做的事 |
|---|---|
| 需求釐清 | 決定哪些文件、哪些情境先做 |
| 文件清理 | 統一格式、轉純文字、加標籤 |
| 切分策略 | 把文件切成好檢索的片段 |
| 向量索引與檢索 | 建索引、讓問句能搜到對的段落 |
| 生成與出處控制 | 照文件回答並附上來源 |
| 介面與整合 | 接進工單系統或聊天視窗 |
| 試運行與維運 | 邊用邊修、補文件、持續更新 |
我一開始貪快,把公司十年來的文件、連過時的、重複的都一股腦丟進知識庫。結果同事一問報表問題,AI給了三年前早就改掉的舊流程,害客服照著回、被客戶糾正,反而更沒信任感。後來花了兩個禮拜重新篩,只留現行版本,才救回來。
賴家榮的建議:知識庫寧可少而準,不要多而亂。上線前先挑最常問的前二三十個情境做扎實,過時文件一律清掉或標明版本。答案一定要附出處,同事看得到來源才敢用、客戶問起來也交代得清楚。做完不是結束,安排一個人固定每月檢查答錯的紀錄、回頭補文件,這樣它才會越養越聰明。
要不要導入、導入到哪個程度,先拿下面八項對一對。全部打勾再上線,會少踩很多雷。
看文件量和整合深度。如果只是先做一個小範圍的內部問答,通常約新台幣十幾萬到三十幾萬之間;要接工單系統、做客製介面、還要教育訓練,範圍就會拉高到約四五十萬以上。建議先小範圍試做,有感再擴大,比較不會一次投太多。
可以,而且這正是RAG要解的問題。亂沒關係,重點是導入前那一步文件清理,把格式統一、轉成純文字、過時的清掉。這一步做得扎實,後面答案就準。反而是文件很亂卻跳過清理,做出來會不好用。
會不會亂講,取決於有沒有鎖好。RAG的重點就是讓AI只根據找到的文件回答,並附上出處。設定好之後,它找不到就會說找不到,而不是硬掰。上線初期再讓資深同事幫忙審核一陣子,準確度就很穩了。
不會,比較像是幫他們把翻文件、回重複問題的雜事扛掉。工程師省下被打斷的時間去做開發,客服能更快回客戶、也能處理更難的案子。AI負責找資料,人負責判斷和溝通,是分工不是取代。
最實際的做法是訪談加整理。請老鳥講幾個常見疑難雜症怎麼判斷、怎麼排除,用AI幫忙整理成一問一答的形式,審核過再放進庫。這樣就算他離職或請假,那套判斷邏輯還在,新人也學得到。
小範圍的內部問答,通常約四到八週就能上線試用、開始有感。全公司整合、接系統那種,會拉到約兩三個月。建議先做一個部門或一種情境當試點,跑順了再複製到其他團隊,風險比較低。
如果你在高雄做IT、軟體或系統整合,被重複工單和文件散亂困擾很久了,其實不用一次到位。先挑一個最痛的情境試做,跑順了再擴大。下面幾個入口,你可以照自己的狀況挑一個開始。
先下載一份導入前的檢核表,自己對一對現況,看看準備到哪了。
下載檢核表想聊聊你們的文件和工單狀況?預約30分鐘免費諮詢,幫你看怎麼切入最省力。
預約30分鐘諮詢想在公司內部推、讓整個團隊會用?來問企業內訓報價,量身安排課程。
企業內訓報價

5212666.jpg|IT軟體業把技術文件變成能問答的AI知識庫|https://www.pexels.com/photo/5212666/9052803.jpg|工程師與客服共用一個AI知識庫,重複問題不再打斷開發|https://www.pexels.com/photo/9052803/3778477.jpg|把老鳥的排錯經驗整理進知識庫,經驗留得住|https://www.pexels.com/photo/3778477/本文為賴家榮 AI 教學中心原創教學內容;想讓團隊學會用 AI,歡迎看AI 課程或預約授課 →
代表圖片來源:圖片來源:Pexels