Skip to main content

RAG In Production - Best Practices Notes

· 9 min read
Hieu Nguyen
AI Engineer

Retrieval-Augmented Generation (RAG) method are transforming the landscape of natural language processing by combining the strengths of retrieval-based and generative models (LLMs). When deployed in production, RAG systems can provide more accurate and contextually relevant responses. This guide outlines best practices for implementing RAG models in a production environment, ensuring robustness, scalability, and efficiency.

Beam search algorithm

· 13 min read
Hieu Nguyen
AI Engineer

Beam search là một thuật toán tìm kiếm heuristic được sử dụng trong nhiều bài toán như dịch máy, nhận dạng giọng nói, tóm tắt văn bản,… Đó là các bài toán NLP có đầu ra liên quan đến việc tạo một chuỗi các từ. Trong bài viết này, Behitek sẽ cùng bạn đi tìm hiểu về thuật toán beam search, các ưu điểm của nó và đi vào thực hành sử dụng beam search trong bài toán khôi phục dấu thanh cho tiếng Việt không dấu.

Python Decorator

· 11 min read
Hieu Nguyen
AI Engineer

Python decorator là gì? decorator có nghĩa nôm na là "đồ đem đi trang trí". Quả thực vậy, decorator trong Python sinh ra là để đem đi trang trí - phụ họa thêm chức năng cho đối tượng (function, class) mà không can thiệp sửa đổi đối tượng đó.