Từ học máy cơ bản lên RAG: thang nâng cấp RAG ngày nay
Học máy, embedding, retrieval, reranker, graph RAG, agentic RAG: giải thích từng nấc bằng ví dụ cửa hàng nhỏ, kèm khi nào nên dừng và công cụ nên dùng đầu tiên.
Một câu trả lời sai bắt đầu từ đâu
Một chủ shop thời trang nhỏ để chatbot trả lời tin nhắn buổi tối. Khách hỏi giá áo sơ mi, bot đáp ngay: "299.000 đồng, đang giảm còn 249.000 đồng." Giá đúng là 349.000 đồng — bảng giá đã đổi từ hai tuần trước.
Lỗi không nằm ở mô hình. Nó không hỏng, không cần thay bằng bản đắt hơn. Nó chỉ trả lời bằng thứ nó đã học, và thứ đó đã cũ. Sửa đúng chỗ này là việc của RAG.
Bài này tiếp nối RAG là gì, nên không nhắc lại định nghĩa. Bài đi từ nền tảng học máy lên từng nấc của một hệ RAG thực tế, theo thứ tự bạn sẽ gặp khi tự làm.
Học máy là gì, trong một câu
Học máy (machine learning) là cách để máy tự tìm quy luật từ dữ liệu, thay vì bạn viết tay từng quy tắc. Bạn đưa vào hàng nghìn ví dụ, mô hình tự tìm ngưỡng hợp lý.
Với một mô hình ngôn ngữ lớn (LLM), quá trình đó gồm ba bước:
- Dữ liệu. Hàng triệu câu, đoạn văn, tài liệu — nguyên liệu thô.
- Huấn luyện. Mô hình lặp: đoán từ tiếp theo, so với từ thật, chỉnh tham số. Chạy hàng giờ tới hàng tuần trên GPU.
- Suy luận (inference). Mô hình chạy để trả lời câu hỏi mới — lúc bạn gõ và chờ.
Điều quan trọng với người kinh doanh: kiến thức bị đóng băng sau khi huấn luyện. Mô hình biết thứ nó đã đọc trong quá khứ, không biết bảng giá bạn vừa sửa sáng nay, và không tự mở file PDF trên máy bạn.
Ba khái niệm phải hiểu trước khi động tới RAG
Huấn luyện và suy luận là hai việc khác nhau. Huấn luyện là quá trình học, tốn nhiều giờ và nhiều tiền điện toán. Suy luận là lúc mô hình dùng kiến thức đã học để trả lời, mất vài giây. RAG không thay thế huấn luyện; nó chèn thêm một bước vào lúc suy luận: tra tài liệu trước, viết sau.
Tổng quát hoá (generalization) là lý do mô hình dùng được. Mô hình không học thuộc từng câu trả lời mà học cấu trúc, mẫu hình. Nhờ vậy nó trả lời được câu hỏi chưa từng thấy — nhưng chỉ trong khuôn khổ nó đã học. Hỏi về chính sách riêng của shop, nó lấp bằng kiến thức chung, nghe hợp lý và rất có thể sai.
Biểu diễn dữ liệu là điều kiện để so sánh. Muốn biết hai đoạn văn có giống nhau không, máy cần một dạng số để so. Việc biến văn bản thành dạng số đó là embedding.
Embedding: biến câu thành toạ độ
Embedding là việc chuyển một đoạn văn thành một dãy số, gọi là vector — thường vài trăm tới vài nghìn số. Mỗi số là một toạ độ, cả dãy là một điểm trong không gian nhiều chiều. Hai đoạn cùng ý nằm gần nhau, dù dùng từ khác nhau.
"Chính sách đổi trả" và "quy định hoàn tiền" là hai cách nói cùng một việc, nên vector gần nhau; "giá áo sơ mi" thì xa hơn hẳn.
Với RAG, embedding chạy hai lần: khi xây chỉ mục (mỗi đoạn tài liệu thành vector, lưu vào kho) và khi có câu hỏi (câu hỏi thành vector, đem so). Lỗi âm thầm hay gặp là dùng hai model embedding khác nhau cho hai lần. Vector khi đó nằm ở hai không gian khác nhau: phép so vô nghĩa, và hệ thống không báo lỗi.
Retrieval: tìm theo nghĩa, không tìm theo chữ
Retrieval là bước tìm những đoạn tài liệu liên quan nhất. Cách phổ biến: lấy vector câu hỏi, so với toàn bộ vector trong kho, chọn top-k đoạn gần nhất — k thường bằng 3, 4 hoặc 5.
Khác tìm kiếm từ khoá, retrieval không đòi từ "đổi trả" phải xuất hiện. Khách viết "trả hàng có mất phí không", tài liệu ghi "chi phí hoàn trả do người mua chịu" — gần như không trùng từ nào, nhưng vector vẫn gần nhau.
Điểm yếu: retrieval chỉ giỏi khi tài liệu đã được cắt vừa phải. Cắt quá nhỏ thì mất ngữ cảnh, quá lớn thì đoạn chứa đáp án bị pha loãng. Cách cắt gọi là chunking, và cách cắt chunk cho RAG là phần chuẩn bị đáng đầu tư nhất.
Reranker: sửa sai của bước tìm
Bước tìm bằng vector nhanh nhưng thô: nó so từng đoạn với câu hỏi một cách độc lập, nên đôi khi xếp đoạn "na ná" lên trên đoạn đúng.
Reranker là mô hình thứ hai chạy sau bước tìm: đọc câu hỏi và từng đoạn cùng lúc rồi chấm điểm cặp đó. Vì đọc cả hai cùng lúc, nó hiểu quan hệ giữa chúng tốt hơn. Kiểu mô hình này là cross-encoder, chậm hơn nhưng chỉ chạy trên 40–100 đoạn đã lọc.
Trước đó, bước tìm thường ghép hai cách: vector (dense) và từ khoá (sparse, ví dụ BM25). Hai cách sai ở hai chỗ khác nhau, nên dense và sparse search bổ sung cho nhau.
Thang RAG ngày nay: năm nấc
Năm nấc, xếp theo chi phí và độ phức tạp tăng dần:
- RAG cơ bản. Cắt tài liệu, tạo embedding, tìm top-k, ghép vào prompt, để mô hình trả lời. Một chiều, không vòng lặp.
- Hybrid + rerank. Thêm tìm theo từ khoá và bước xếp lại — nấc tốt nhất trên công sức bỏ ra với phần lớn doanh nghiệp.
- Viết lại câu hỏi (HyDE). Câu hỏi quá ngắn thì cho mô hình viết ra một câu trả lời giả định, rồi tìm bằng câu đó. HyDE giúp với câu hỏi một hai chữ như "phí ship?".
- Graph hoặc nhiều bước. Dữ liệu có quan hệ rõ — sản phẩm thuộc danh mục nào, nhà cung cấp nào — thì truy xuất theo đồ thị, hoặc lặp: tìm, đọc, thấy thiếu, tìm tiếp.
- Agentic RAG. Mô hình tự điều khiển quy trình: chọn công cụ, kiểm tra kết quả, quyết định khi nào đủ. Đây là chỗ AI agent là gì gặp RAG.
Nấc nào dùng khi nào
| Nấc | Chi phí | Hợp với | Dấu hiệu nên lên nấc |
|---|---|---|---|
| 1. RAG cơ bản | Thấp | Tài liệu vài chục trang, câu hỏi rõ ràng, cần trả lời có nguồn | Câu trả lời đúng nhưng hay bỏ sót đoạn |
| 2. Hybrid + rerank | Trung bình | Câu hỏi nhiều cách diễn đạt, có mã sản phẩm, tên riêng | Đoạn đúng nằm trong top nhưng không đứng đầu |
| 3. HyDE | Trung bình | Câu hỏi ngắn, mơ hồ, khách hay viết cụt | Câu hỏi một hai chữ cho kết quả lung tung |
| 4. Graph / nhiều bước | Cao | Dữ liệu nhiều quan hệ, câu hỏi cần nối hai ba tài liệu | Câu trả lời cần ghép thông tin từ nhiều nguồn |
| 5. Agentic RAG | Cao | Quy trình nhiều bước, cần kiểm tra chéo rồi mới trả lời | Câu hỏi phải tra nhiều nơi, kết quả nấc 4 vẫn thiếu |
Khi nào nên dừng lại
Với doanh nghiệp 10–50 người, nấc 1 hoặc 2 gần như luôn là điểm dừng đúng. Nấc 3 trở lên là giải pháp cho bài toán cụ thể đã đo được, không phải tiêu chuẩn.
Ba dấu hiệu nên dừng: bộ câu hỏi vàng đạt 80–90% đúng, trả lời dưới vài giây, và có người cập nhật được chỉ mục. Thiếu một trong ba thì nấc cao hơn chỉ làm hệ thống khó sửa hơn.
Đừng bỏ qua hai thứ không nằm trên thang: dữ liệu sạch và đo lường. Tài liệu cũ hay mâu thuẫn thì nấc nào cũng sai; không có bộ câu hỏi vàng thì không biết nấc vừa thêm có giúp gì. Rủi ro còn lại — mô hình bịa dù có tài liệu — đáng đọc thêm về ảo giác AI là gì.
Câu hỏi thường gặp
RAG có loại bỏ ảo giác không? Không, chỉ giảm. RAG thay việc đoán từ trí nhớ bằng việc đọc tài liệu, nên giảm mạnh lỗi về số liệu và chính sách. Nhưng nếu đoạn lấy ra sai hoặc tài liệu gốc sai, câu trả lời vẫn sai — chỉ khác là sai một cách có nguồn để bạn kiểm tra.
Cần bao nhiêu dữ liệu mới làm được RAG? Ít hơn bạn tưởng. Hai mươi tới năm mươi tài liệu thật — FAQ, quy chế, bảng giá — là đủ để thấy hiệu quả và phát hiện tài liệu nào đang mâu thuẫn. Vấn đề thường là chất lượng, không phải số lượng.
Nấc nào nên chọn nếu chỉ có một người phụ trách kỹ thuật? Nấc 1, rồi nấc 2 nếu cần. Từ nấc 3 trở lên cần thêm thời gian đo và gỡ lỗi; một người vẫn làm được nhưng sẽ chậm việc khác. Nấc thấp mà chạy ổn định tốt hơn nấc cao mà không ai bảo trì.
Kết luận
Thang RAG không phải danh sách phải trèo hết. Nó là một menu: mỗi nấc sửa một loại sai sót cụ thể, và mỗi nấc thêm chi phí lẫn độ phức tạp. Hiểu học máy, embedding, retrieval và reranker là đủ để biết vì sao một câu trả lời đúng hay sai. Các nấc cao hơn chỉ đáng làm khi bài toán thật sự cần và khi bạn đã đo được nấc hiện tại còn thiếu ở đâu.