RAG là gì?
RAG (Retrieval Augmented Generation) là kỹ thuật kết hợp khả năng truy xuất thông tin từ cơ sở dữ liệu với khả năng sinh văn bản của LLM để tạo ra câu trả lời chính xác và cập nhật.
Tại sao cần RAG?
- LLM thuần túy không có thông tin mới sau ngày training
- LLM có thể “hallucinate” – tạo ra thông tin sai
- RAG cho phép chatbot trả lời dựa trên dữ liệu riêng của công ty
Kiến trúc RAG cơ bản
1. Document Processing
Chuyển đổi tài liệu (PDF, Word, web) thành text và chia nhỏ thành chunks.
2. Vector Embedding
Chuyển các chunks thành vectors số học bằng embedding models (OpenAI, Sentence-BERT).
3. Vector Database
Lưu trữ vectors vào database như Pinecone, Weaviate, hoặc Chroma.
4. Retrieval
Khi user hỏi, tìm các chunks liên quan nhất từ vector database.
5. Generation
LLM tạo câu trả lời dựa trên context từ các chunks retrieved.
Kết luận
RAG là giải pháp lý tưởng cho enterprise chatbot cần trả lời chính xác dựa trên dữ liệu nội bộ.
Cần xây dựng chatbot cho doanh nghiệp? Liên hệ dịch vụ AI Chatbot.