Hệ thống trợ lý hội thoại thông minh đa tác vụ dựa trên kiến trúc RWKV và Django
Nghiên cứu và triển khai nền tảng chatbot AI hiệu năng cao sử dụng kiến trúc mô hình ngôn ngữ RWKV kết hợp khung phát triển Django fullstack.
Giới thiệu
Trong bối cảnh các mô hình ngôn ngữ lớn (LLM) dựa trên Transformer tiêu tốn tài nguyên phần cứng lớn trong quá trình suy luận, kiến trúc RWKV nổi lên như một giải pháp kết hợp ưu điểm của RNN và Transformer. Kiến trúc này mang lại khả năng xử lý chuỗi dài với chi phí tính toán tuyến tính và bộ nhớ tối ưu. Đề tài tập trung vào việc nghiên cứu cơ chế hoạt động của RWKV và tích hợp mô hình vào một ứng dụng hoàn chỉnh nhằm cung cấp giải pháp hội thoại AI thông minh, linh hoạt.
Hệ thống được xây dựng trên nền tảng fullstack với Django phụ trách backend điều phối, quản trị người dùng, quản lý phiên hội thoại và tích hợp pipeline suy luận AI thông qua GPU hoặc CPU tối ưu. Giao diện frontend hiện đại cho phép người dùng tương tác theo thời gian thực với độ trễ thấp thông qua WebSockets hoặc Server-Sent Events (SSE). Đề tài giải quyết tốt bài toán tự triển khai mô hình ngôn ngữ mã nguồn mở phục vụ nội bộ, đảm bảo tính riêng tư dữ liệu và khả năng mở rộng dịch vụ.
Chức năng có trong gói chuẩn
- Quản lý phiên hội thoại và lưu trữ lịch sử tương tác đa ngữ cảnh
- Giao diện trò chuyện thời gian thực hỗ trợ phản hồi dạng truyền phát (streaming)
- Tùy chỉnh tham số suy luận ngôn ngữ (Temperature, Top-p, Penalty)
- Hệ thống quản lý người dùng, phân quyền và kiểm soát hạn ngạch truy vấn
- Tích hợp pipeline nạp mô hình RWKV và tối ưu hóa bộ nhớ suy luận
- Trang quản trị thống kê hiệu năng hệ thống, độ trễ và lượt sử dụng
- Cung cấp RESTful API cho phép các ứng dụng bên thứ ba tích hợp
- Hỗ trợ chế độ nhắc mẫu (prompt templates) cho các tác vụ chuyên biệt
Chức năng ngoài danh sách này được tính riêng và ghi rõ trong bản chốt scope trước khi bắt đầu.
Công nghệ
- django
Muốn đổi sang công nghệ khác cho khớp yêu cầu môn học? Được — báo trước khi chốt scope, giá điều chỉnh theo hệ số công nghệ chứ không phải làm lại từ đầu.