Từ học máy cơ bản lên RAG: thang nâng cấp RAG ngày nay

Học máy, embedding, retrieval, reranker, graph RAG, agentic RAG: giải thích từng nấc bằng ví dụ cửa hàng nhỏ, kèm khi nào nên dừng và công cụ nên dùng đầu tiên.

Minh hoạ phẳng: ba khối học máy, embedding và truy xuất xếp thành bậc thang, mũi tên đi lên

Một câu trả lời sai bắt đầu từ đâu

Một chủ shop thời trang nhỏ để chatbot trả lời tin nhắn buổi tối. Khách hỏi giá áo sơ mi, bot đáp ngay: "299.000 đồng, đang giảm còn 249.000 đồng." Giá đúng là 349.000 đồng — bảng giá đã đổi từ hai tuần trước.

Lỗi không nằm ở mô hình. Nó không hỏng, không cần thay bằng bản đắt hơn. Nó chỉ trả lời bằng thứ nó đã học, và thứ đó đã cũ. Sửa đúng chỗ này là việc của RAG.

Bài này tiếp nối RAG là gì, nên không nhắc lại định nghĩa. Bài đi từ nền tảng học máy lên từng nấc của một hệ RAG thực tế, theo thứ tự bạn sẽ gặp khi tự làm.

Học máy là gì, trong một câu

Học máy (machine learning) là cách để máy tự tìm quy luật từ dữ liệu, thay vì bạn viết tay từng quy tắc. Bạn đưa vào hàng nghìn ví dụ, mô hình tự tìm ngưỡng hợp lý.

Với một mô hình ngôn ngữ lớn (LLM), quá trình đó gồm ba bước:

  1. Dữ liệu. Hàng triệu câu, đoạn văn, tài liệu — nguyên liệu thô.
  2. Huấn luyện. Mô hình lặp: đoán từ tiếp theo, so với từ thật, chỉnh tham số. Chạy hàng giờ tới hàng tuần trên GPU.
  3. Suy luận (inference). Mô hình chạy để trả lời câu hỏi mới — lúc bạn gõ và chờ.

Điều quan trọng với người kinh doanh: kiến thức bị đóng băng sau khi huấn luyện. Mô hình biết thứ nó đã đọc trong quá khứ, không biết bảng giá bạn vừa sửa sáng nay, và không tự mở file PDF trên máy bạn.

Ba khái niệm phải hiểu trước khi động tới RAG

Huấn luyện và suy luận là hai việc khác nhau. Huấn luyện là quá trình học, tốn nhiều giờ và nhiều tiền điện toán. Suy luận là lúc mô hình dùng kiến thức đã học để trả lời, mất vài giây. RAG không thay thế huấn luyện; nó chèn thêm một bước vào lúc suy luận: tra tài liệu trước, viết sau.

Tổng quát hoá (generalization) là lý do mô hình dùng được. Mô hình không học thuộc từng câu trả lời mà học cấu trúc, mẫu hình. Nhờ vậy nó trả lời được câu hỏi chưa từng thấy — nhưng chỉ trong khuôn khổ nó đã học. Hỏi về chính sách riêng của shop, nó lấp bằng kiến thức chung, nghe hợp lý và rất có thể sai.

Biểu diễn dữ liệu là điều kiện để so sánh. Muốn biết hai đoạn văn có giống nhau không, máy cần một dạng số để so. Việc biến văn bản thành dạng số đó là embedding.

Embedding: biến câu thành toạ độ

Embedding là việc chuyển một đoạn văn thành một dãy số, gọi là vector — thường vài trăm tới vài nghìn số. Mỗi số là một toạ độ, cả dãy là một điểm trong không gian nhiều chiều. Hai đoạn cùng ý nằm gần nhau, dù dùng từ khác nhau.

"Chính sách đổi trả" và "quy định hoàn tiền" là hai cách nói cùng một việc, nên vector gần nhau; "giá áo sơ mi" thì xa hơn hẳn.

Với RAG, embedding chạy hai lần: khi xây chỉ mục (mỗi đoạn tài liệu thành vector, lưu vào kho) và khi có câu hỏi (câu hỏi thành vector, đem so). Lỗi âm thầm hay gặp là dùng hai model embedding khác nhau cho hai lần. Vector khi đó nằm ở hai không gian khác nhau: phép so vô nghĩa, và hệ thống không báo lỗi.

Ba nấc đầu của thang: học máy học từ dữ liệu đã có, embedding biến câu thành vector, retrieval lấy đoạn gần nhất; mỗi nấc ghi quyết định cần chốt và chỗ hay hỏng

Hình 1. Ba nấc đầu: mỗi nấc có một quyết định phải chốt và một chỗ hay hỏng — biết trước để không sửa nhầm chỗ.

Retrieval: tìm theo nghĩa, không tìm theo chữ

Retrieval là bước tìm những đoạn tài liệu liên quan nhất. Cách phổ biến: lấy vector câu hỏi, so với toàn bộ vector trong kho, chọn top-k đoạn gần nhất — k thường bằng 3, 4 hoặc 5.

Khác tìm kiếm từ khoá, retrieval không đòi từ "đổi trả" phải xuất hiện. Khách viết "trả hàng có mất phí không", tài liệu ghi "chi phí hoàn trả do người mua chịu" — gần như không trùng từ nào, nhưng vector vẫn gần nhau.

Điểm yếu: retrieval chỉ giỏi khi tài liệu đã được cắt vừa phải. Cắt quá nhỏ thì mất ngữ cảnh, quá lớn thì đoạn chứa đáp án bị pha loãng. Cách cắt gọi là chunking, và cách cắt chunk cho RAG là phần chuẩn bị đáng đầu tư nhất.

Reranker: sửa sai của bước tìm

Bước tìm bằng vector nhanh nhưng thô: nó so từng đoạn với câu hỏi một cách độc lập, nên đôi khi xếp đoạn "na ná" lên trên đoạn đúng.

Reranker là mô hình thứ hai chạy sau bước tìm: đọc câu hỏi và từng đoạn cùng lúc rồi chấm điểm cặp đó. Vì đọc cả hai cùng lúc, nó hiểu quan hệ giữa chúng tốt hơn. Kiểu mô hình này là cross-encoder, chậm hơn nhưng chỉ chạy trên 40–100 đoạn đã lọc.

Trước đó, bước tìm thường ghép hai cách: vector (dense) và từ khoá (sparse, ví dụ BM25). Hai cách sai ở hai chỗ khác nhau, nên dense và sparse search bổ sung cho nhau.

Thang RAG ngày nay: năm nấc

Năm nấc, xếp theo chi phí và độ phức tạp tăng dần:

  1. RAG cơ bản. Cắt tài liệu, tạo embedding, tìm top-k, ghép vào prompt, để mô hình trả lời. Một chiều, không vòng lặp.
  2. Hybrid + rerank. Thêm tìm theo từ khoá và bước xếp lại — nấc tốt nhất trên công sức bỏ ra với phần lớn doanh nghiệp.
  3. Viết lại câu hỏi (HyDE). Câu hỏi quá ngắn thì cho mô hình viết ra một câu trả lời giả định, rồi tìm bằng câu đó. HyDE giúp với câu hỏi một hai chữ như "phí ship?".
  4. Graph hoặc nhiều bước. Dữ liệu có quan hệ rõ — sản phẩm thuộc danh mục nào, nhà cung cấp nào — thì truy xuất theo đồ thị, hoặc lặp: tìm, đọc, thấy thiếu, tìm tiếp.
  5. Agentic RAG. Mô hình tự điều khiển quy trình: chọn công cụ, kiểm tra kết quả, quyết định khi nào đủ. Đây là chỗ AI agent là gì gặp RAG.

Năm nấc thang RAG xếp cao dần: RAG cơ bản, hybrid + rerank, HyDE, graph hoặc nhiều bước, agentic RAG; mũi tên bên phải chỉ chi phí và độ phức tạp tăng

Hình 2. Năm nấc thang: mỗi nấc thêm một lớp xử lý, và thêm cả chi phí lẫn độ phức tạp — phần lớn doanh nghiệp dừng ở nấc 1 hoặc 2.

Nấc nào dùng khi nào

Nấc Chi phí Hợp với Dấu hiệu nên lên nấc
1. RAG cơ bản Thấp Tài liệu vài chục trang, câu hỏi rõ ràng, cần trả lời có nguồn Câu trả lời đúng nhưng hay bỏ sót đoạn
2. Hybrid + rerank Trung bình Câu hỏi nhiều cách diễn đạt, có mã sản phẩm, tên riêng Đoạn đúng nằm trong top nhưng không đứng đầu
3. HyDE Trung bình Câu hỏi ngắn, mơ hồ, khách hay viết cụt Câu hỏi một hai chữ cho kết quả lung tung
4. Graph / nhiều bước Cao Dữ liệu nhiều quan hệ, câu hỏi cần nối hai ba tài liệu Câu trả lời cần ghép thông tin từ nhiều nguồn
5. Agentic RAG Cao Quy trình nhiều bước, cần kiểm tra chéo rồi mới trả lời Câu hỏi phải tra nhiều nơi, kết quả nấc 4 vẫn thiếu

Khi nào nên dừng lại

Với doanh nghiệp 10–50 người, nấc 1 hoặc 2 gần như luôn là điểm dừng đúng. Nấc 3 trở lên là giải pháp cho bài toán cụ thể đã đo được, không phải tiêu chuẩn.

Ba dấu hiệu nên dừng: bộ câu hỏi vàng đạt 80–90% đúng, trả lời dưới vài giây, và có người cập nhật được chỉ mục. Thiếu một trong ba thì nấc cao hơn chỉ làm hệ thống khó sửa hơn.

Đừng bỏ qua hai thứ không nằm trên thang: dữ liệu sạch và đo lường. Tài liệu cũ hay mâu thuẫn thì nấc nào cũng sai; không có bộ câu hỏi vàng thì không biết nấc vừa thêm có giúp gì. Rủi ro còn lại — mô hình bịa dù có tài liệu — đáng đọc thêm về ảo giác AI là gì.

Câu hỏi thường gặp

RAG có loại bỏ ảo giác không? Không, chỉ giảm. RAG thay việc đoán từ trí nhớ bằng việc đọc tài liệu, nên giảm mạnh lỗi về số liệu và chính sách. Nhưng nếu đoạn lấy ra sai hoặc tài liệu gốc sai, câu trả lời vẫn sai — chỉ khác là sai một cách có nguồn để bạn kiểm tra.

Cần bao nhiêu dữ liệu mới làm được RAG? Ít hơn bạn tưởng. Hai mươi tới năm mươi tài liệu thật — FAQ, quy chế, bảng giá — là đủ để thấy hiệu quả và phát hiện tài liệu nào đang mâu thuẫn. Vấn đề thường là chất lượng, không phải số lượng.

Nấc nào nên chọn nếu chỉ có một người phụ trách kỹ thuật? Nấc 1, rồi nấc 2 nếu cần. Từ nấc 3 trở lên cần thêm thời gian đo và gỡ lỗi; một người vẫn làm được nhưng sẽ chậm việc khác. Nấc thấp mà chạy ổn định tốt hơn nấc cao mà không ai bảo trì.

Kết luận

Thang RAG không phải danh sách phải trèo hết. Nó là một menu: mỗi nấc sửa một loại sai sót cụ thể, và mỗi nấc thêm chi phí lẫn độ phức tạp. Hiểu học máy, embedding, retrieval và reranker là đủ để biết vì sao một câu trả lời đúng hay sai. Các nấc cao hơn chỉ đáng làm khi bài toán thật sự cần và khi bạn đã đo được nấc hiện tại còn thiếu ở đâu.