Hướng dẫn kết hợp AI Agent với cơ sở dữ liệu ngoài (External DB)

Trong hầu hết các hệ thống AI Agent hiện nay, dữ liệu thường được lưu trữ rời rạc: thông tin ngữ nghĩa nằm trong vector database (Chroma, Pinecone, FAISS), còn dữ liệu nghiệp vụ lại ở SQL hoặc NoSQL database. Vấn đề đặt ra là làm sao để một Agent có thể truy cập đồng thời cả hai nguồn dữ liệu này trong cùng một truy vấn, ví dụ “Cho tôi xem chi tiết khách hàng nào đã phản hồi tích cực về sản phẩm X”?

Bài viết này sẽ hướng dẫn bạn từng bước tích hợp AI Agent với cơ sở dữ liệu ngoài (external DB), giúp Agent vừa tìm được ngữ cảnh từ vector DB, vừa lấy được thông tin cụ thể từ SQL DB tất cả chỉ trong một câu trả lời thống nhất và thông minh.

Vấn đề thường gặp khi AI Agent chỉ kết nối một loại cơ sở dữ liệu

Khi bạn triển khai một AI Agent phục vụ cho tác vụ như tư vấn khách hàng, hỗ trợ nội bộ hoặc tổng hợp báo cáo, dữ liệu mà Agent cần xử lý không nằm ở một nơi duy nhất.

• Các dữ liệu ngữ cảnh phi cấu trúc (như mô tả sản phẩm, email, nội dung hội thoại, tài liệu hướng dẫn, log CSKH…) thường được lưu trong vector DB để truy vấn theo ngữ nghĩa (semantic search).
• Trong khi đó, dữ liệu giao dịch có cấu trúc (ví dụ: bảng khách hàng, đơn hàng, ticket, lịch sử chăm sóc, v.v.) lại nằm trong SQL database như MySQL, PostgreSQL hoặc trong kho dữ liệu doanh nghiệp (Data Warehouse).

Nếu AI Agent chỉ kết nối với một nguồn duy nhất, bạn sẽ gặp những giới hạn sau:

• Agent không thể kết hợp thông tin định tính và định lượng trong cùng câu trả lời.
• Kết quả trả về thiếu độ chính xác thực tế (vì không có dữ liệu thời gian thực từ SQL DB).
• Khi ứng dụng mở rộng quy mô, việc mở rộng logic reasoning trở nên khó khăn.

Vì vậy, việc kết hợp AI Agent với cơ sở dữ liệu ngoài (external DB) giúp hệ thống “vừa hiểu – vừa biết”, vừa khai thác được insight ngữ nghĩa, vừa cung cấp số liệu thực tế.

Mô hình kiến trúc tổng thể

Một mô hình AI Agent lai giữa vector DB và SQL DB có thể chia làm 4 lớp chính:

Cơ chế hoạt động gồm 4 bước:

1. Người dùng đặt câu hỏi tự nhiên → Agent nhận và phân tích intent.
2. Agent dùng vector DB để tìm các đoạn văn bản ngữ cảnh có liên quan.
3. Dựa trên ngữ cảnh tìm được, Agent sinh truy vấn SQL phù hợp để lấy dữ liệu thực.
4. Agent tổng hợp kết quả, diễn giải và trả lời người dùng theo ngôn ngữ tự nhiên.

Ví dụ truy vấn người dùng: “Những khách hàng nào từng phản hồi tích cực về sản phẩm BizChatAI trong tháng 9?”

• Vector DB: tìm các đoạn feedback hoặc email chứa “BizChatAI” + “tích cực”.
• SQL DB: lọc ra danh sách khách hàng tương ứng, lấy thêm thông tin đơn hàng.
• Agent tổng hợp và trả lời: “Có 12 khách hàng, trong đó 5 khách hàng VIP phản hồi tích cực về tính năng tự động hóa hội thoại.”

Chuẩn bị môi trường và dữ liệu

Công nghệ đề xuất:

• LLM: GPT-4o, Claude 3, hoặc Mistral 7B nếu cần self-host.
• Vector Database: ChromaDB, FAISS, hoặc Pinecone.
• SQL Database: MySQL hoặc PostgreSQL.
• Framework Agent: LangChain, LlamaIndex hoặc Semantic Kernel.

Chuẩn bị dữ liệu:

• Tạo bảng customers, feedback, orders trong SQL DB.
• Xây dựng embedding từ các trường text như “feedback content”, “support transcript”.
• Lưu embedding vào vector DB, đồng thời lưu customer_id làm khóa liên kết (foreign key) giữa hai nguồn.

Ví dụ:

Tích hợp Agent với vector DB và SQL DB

Bước 1. Kết nối vector DB

from langchain.vectorstores import Chroma
vector_db = Chroma(persist_directory="data/vectorstore")

Bước 2. Kết nối SQL DB

from sqlalchemy import create_engine
engine = create_engine("mysql+pymysql://user:password@localhost:3306/agents_db")

Bước 3. Khai báo tool cho Agent

from langchain.tools import Tool

tools = [
  Tool(
    name="VectorSearch",
    func=lambda q: vector_db.similarity_search(q, k=5),
    description="Truy vấn ngữ nghĩa từ vector DB."
  ),
  Tool(
    name="SQLQuery",
    func=lambda q: engine.execute(q).fetchall(),
    description="Truy vấn dữ liệu có cấu trúc từ SQL DB."
  )
]

Bước 4. Khởi tạo Agent reasoning

from langchain.agents import initialize_agent
from langchain.chat_models import ChatOpenAI

agent = initialize_agent(
    tools=tools,
    llm=ChatOpenAI(model="gpt-4o"),
    agent_type="zero-shot-react-description",
    verbose=True
)

Bước 5. Gọi truy vấn thông minh

query = "Liệt kê top 5 khách hàng có phản hồi tích cực về BizChatAI tháng 9."
agent.run(query)

Khi chạy, Agent sẽ:

• Trước tiên gọi VectorSearch để tìm các đoạn feedback chứa từ khóa “tích cực” hoặc BizChatAI.
• Sinh câu lệnh SQL dựa trên kết quả: SELECT name, email FROM customers WHERE id IN (1001, 1002, 1005);
• Kết hợp 2 nguồn dữ liệu và phản hồi người dùng bằng câu trả lời tự nhiên.

Tối ưu hiệu năng và bảo mật

Demo trong triển khai thực tế

• Kết hợp schema-aware prompt: Hướng dẫn Agent hiểu cấu trúc bảng SQL qua system prompt. “Database có bảng customers(name, email, segment), feedback(customer_id, content, date).”
• Tách logic truy vấn: Sử dụng mô hình “retrieval-augmented generation (RAG hybrid)” để đảm bảo quá trình tìm kiếm và reasoning tách biệt, dễ kiểm soát.
• Theo dõi và log lại hành vi Agent: Lưu lại toàn bộ câu truy vấn SQL mà Agent tạo ra để phát hiện lỗi hoặc hành vi ngoài dự kiến.
• Giám sát độ chính xác: Định kỳ so sánh kết quả trả lời với dữ liệu thật để tinh chỉnh prompt và giới hạn truy vấn.

Ứng dụng thực tế trong doanh nghiệp

Một số ví dụ cụ thể khi triển khai:

• BizChatAI + BizCRM: Agent có thể lấy insight từ hội thoại khách hàng (vector DB) và kết hợp với dữ liệu doanh số, lịch sử ticket trong CRM (SQL DB).
• BizMail + Bizfly CDP: Phân tích ngữ cảnh email marketing từ vector DB, sau đó lọc tệp khách hàng mục tiêu từ Bizfly CDP (SQL).
• Báo cáo tự động: Quản lý chỉ cần hỏi “Tổng hợp các phản hồi tích cực về sản phẩm A trong tháng 9 đến từ nhóm khách hàng nào?”, Agent tự động tổng hợp và trình bày dạng bảng.

Kết bài

Khi AI Agent có thể vừa hiểu ngữ cảnh (từ vector DB), vừa truy cập dữ liệu chính xác (từ SQL DB), doanh nghiệp sẽ có một hệ thống tự động mạnh mẽ không chỉ biết trả lời thông minh mà còn hành động chính xác.