~/services/ai
Dự án AI: từ PoC đến production
RAG, LLM, NLP cho bài toán nghiệp vụ thực tế: tư vấn kiến trúc, xây dựng PoC nhanh, và đưa hệ thống lên production với chi phí vận hành đo lường được.
01 /
Hạng mục dịch vụ
HẠNG MỤC 01
Chatbot & trợ lý nghiệp vụ
- ✓ Trả lời trên tài liệu nội bộ
- ✓ Tích hợp Slack, web, Zalo OA
- ✓ Guardrails & kiểm soát chi phí
HẠNG MỤC 02
RAG & tìm kiếm ngữ nghĩa
- ✓ Hybrid search + re-rank
- ✓ Văn bản, hình ảnh, video
- ✓ Bộ đo chất lượng truy hồi
HẠNG MỤC 03
Fine-tune & đánh giá mô hình
- ✓ LoRA / SFT trên dữ liệu riêng
- ✓ Benchmark trước–sau rõ ràng
- ✓ Tối ưu suy luận, self-host
02 /
Case study
NexusAI: Enterprise Multimodal RAG & Inverted HyDE
Tra cứu thông minh trên kho tài liệu nội bộ đa định dạng
Doanh nghiệp sở hữu kho tài liệu khổng lồ (PDF, Office, hình ảnh, video) nhưng tra cứu gặp khó khăn do lệch không gian câu chữ giữa câu hỏi và tài liệu. NexusAI áp dụng sáng kiến Inverted HyDE (sinh trước tập câu hỏi giả định ở bước indexing offline để đưa bài toán về Query-to-Query matching, triệt tiêu độ trễ LLM ở runtime) kết hợp bảo toàn cấu trúc phân cấp tài liệu (hierarchical chunking) và grounded generation luôn kèm trích dẫn nguồn chính xác.
Inverted HyDE
Query-to-Query matching triệt tiêu trễ runtime
Multimodal
Xử lý PDF, Office, Ảnh & Video
100% Grounded
Trích dẫn nguồn trực tiếp trong phản hồi
KIẾN TRÚC
Document Parsing & Hierarchy
Bảo toàn cấu trúc phân cấp (pdf, images, videos, office files)
Inverted HyDE Indexing
Sinh câu hỏi giả định offline (Query-to-Query matching)
Sub-second Retrieval
Dense Vector + BM25 + Cross-Encoder Re-rank
Grounded Answer Generation
Câu trả lời kèm trích dẫn nguồn chuẩn xác, không bị hallucinate
LinguistAI: LLM + speech
Thi thử 4 kỹ năng tiếng Anh, chấm tự động
- VẤN ĐỀ
- Luyện thi 4 kỹ năng bị nghẽn ở khâu chấm: nói và viết cần giáo viên, nên học viên phải chờ nhiều ngày mới có phản hồi.
- CÁCH LÀM
- Sinh đề đọc bằng LLM theo đúng định dạng đề thi, chấm phần nói bằng Whisper cộng một lớp đánh giá phát âm và trôi chảy, chấm viết bằng LLM với rubric cố định và phản hồi theo từng tiêu chí.
- KẾT QUẢ
- Học viên nhận phản hồi chi tiết ngay sau khi nộp bài, giáo viên chỉ còn phải soát lại các bài mà hệ thống đánh dấu là không chắc chắn.
GPT-4ClaudeWhisperReact
4 kỹ năngchấm tự động, phản hồi tức thì
KiKi (Zalo): speech
Chuẩn hoá văn bản cho nhận dạng giọng nói tiếng Việt
- VẤN ĐỀ
- Trợ lý ảo trên ô tô nghe sai những chuỗi mà người Việt đọc không theo mặt chữ: số, ngày tháng, đơn vị, tên đường và tên riêng.
- CÁCH LÀM
- Xây pipeline chuẩn hoá văn bản cho cả dữ liệu huấn luyện và đầu ra nhận dạng, mở rộng từ điển phát âm cho tên riêng, và dựng bộ đánh giá riêng cho từng nhóm lỗi thay vì chỉ nhìn WER tổng.
- KẾT QUẢ
- Độ chính xác nhận dạng tăng 12%, và các nhóm lỗi liên quan tới số và địa danh giảm rõ rệt trên bộ đánh giá nội bộ. Cùng giai đoạn đó, tôi cũng tối ưu dịch vụ suy luận trên Kubernetes, giảm 15% lỗi dịch vụ.
PyTorchKaldiPythonKubernetes
+12%độ chính xác ASR
03 /
Quy trình
$ ./engagement
01
Tư vấn kiến trúc
Đánh giá bài toán, chọn mô hình và stack phù hợp ngân sách.
02
PoC 2–4 tuần
Bản chạy được trên dữ liệu thật, kèm số liệu để ra quyết định.
03
Đưa lên production
Triển khai, giám sát chất lượng và chi phí, bàn giao tài liệu.