Bài viết này do AI tạo ra để tổng hợp thông tin kỹ thuật; nội dung đã được biên tập cho người đọc PVYSTORE.
AI agent đang làm lưu lượng doanh nghiệp khó dự đoán hơn: một yêu cầu có thể đi qua chi nhánh, SaaS, cloud riêng, API công cộng rồi quay lại hệ thống nội bộ. Cisco đề xuất áp dụng tư duy SD-WAN vào lớp điều phối model: chọn đường xử lý cho từng tác vụ theo độ phức tạp, độ trễ, chi phí và chính sách dữ liệu, thay vì đẩy mọi yêu cầu vào một LLM lớn.
Định tuyến AI không phải load balancing đơn thuần. Router phải biết request là kiểm tra telemetry, phân tích nguyên nhân đa biến, thao tác có rủi ro hay dữ liệu thuộc diện không được rời khỏi mạng nội bộ. Tác vụ đơn giản có thể chạy bằng API, rule engine hoặc model nhỏ; chỉ khi có mâu thuẫn hoặc cần suy luận sâu mới nâng cấp lên model mạnh hơn.
Mô hình này tương tự SD-WAN: policy và tín hiệu thời gian thực quyết định đường đi thay vì cố định một tuyến. Khác biệt là “đích” giờ là năng lực xử lý AI, không chỉ là một site mạng.
Chi phí thấp nhất chưa chắc là lựa chọn tốt nhất. Một endpoint cloud đang tăng latency, một đường WAN có lỗi, hoặc một dịch vụ không đáp ứng policy dữ liệu đều có thể làm agent trả kết quả chậm hay tạo rủi ro. Cisco đề xuất lấy observability xuyên network, cloud và security làm đầu vào để chọn đường đáp ứng SLA, thay vì chỉ đo token hoặc giá model.
Đội vận hành cần theo dõi kết quả đầu cuối: thời gian hoàn thành workflow, tỷ lệ escalation, lỗi tool call, chi phí cho mỗi kết quả đã xác minh và vị trí dữ liệu được xử lý.
DMR có thể là policy enforcement point. Metadata và nhãn phân loại dữ liệu quyết định yêu cầu nào bắt buộc ở model on-premises hoặc môi trường air-gapped; yêu cầu ít nhạy cảm hơn mới được phép dùng API public. Cách làm này giảm nguy cơ một agent tự chọn endpoint rẻ nhưng đưa payload nhạy cảm ra ngoài phạm vi được phép.
Những việc nền như ingest telemetry, baseline, compliance check và runbook xác định không nên mặc định gọi LLM. Khi kết hợp compute xác định, SLM ở edge và model cloud cho trường hợp khó, doanh nghiệp giảm round-trip WAN, phí egress và áp lực token. Với VoIP triage hay incident response tương tác, ưu tiên model cục bộ còn giúp giữ độ trễ trong ngưỡng vận hành.
Điểm đáng chú ý không phải đổi tên SD-WAN thành AI routing. Giá trị nằm ở việc đưa kỷ luật vận hành mạng vào AI: policy rõ, quan sát được, có SLO và có đường fallback. Khi agent bắt đầu gọi nhiều tool và model, “model tốt nhất” theo benchmark không đủ; hệ thống phải chọn model phù hợp trong bối cảnh mạng, dữ liệu và ngân sách thật.
Đội hạ tầng nên coi lớp routing này là một control plane mới. Nếu thiếu inventory endpoint, data classification, telemetry và audit trail, việc tự động chọn model sẽ chỉ biến chi phí và rủi ro thành khó nhìn thấy hơn.
Cisco Blogs, bài “Dynamic model routing: The new SD-WAN for the AI era”, công bố ngày 09/11/2026.
