Bài viết này do AI tạo ra, tổng hợp từ công bố chính thức của Google.
Google mở rộng danh mục TPU thế hệ thứ tám bằng TPU 8tx và TPU 8i Max. Điểm đáng chú ý với người vận hành hạ tầng không chỉ nằm ở chip: hai hệ thống được đóng gói để giải hai nút thắt của AI agent là dữ liệu nhạy cảm khi suy luận và băng thông/bộ nhớ khi xử lý ngữ cảnh rất lớn. Google công bố ngày 09/11/2026.
Mã hóa dữ liệu khi lưu trữ hoặc truyền qua mạng không đủ cho workload nhạy cảm, vì dữ liệu thường phải được giải mã trong bộ nhớ khi tính toán. Google định vị 8tx cho doanh nghiệp và chính phủ cần chạy model độc quyền hay agent cạnh dữ liệu nhạy cảm. Hệ thống đưa cơ chế confidential computing xuống hardware layer để bảo vệ và cô lập dữ liệu cùng model weights khi đang active.
Thiết kế này cũng cho phép fine-tune bằng dữ liệu riêng, distill model lớn xuống model nhỏ và reinforcement learning trên cùng hệ thống, giảm nhu cầu di chuyển dữ liệu giữa các cluster tách rời. Đây là lợi ích vận hành nếu kiến trúc bảo mật, key management và quyền truy cập được triển khai đúng.
Agent làm việc trên cả codebase hay nhiều giờ video cần giữ nhiều trạng thái; khi đó bandwidth bộ nhớ và truyền state có thể trở thành giới hạn trước cả FLOPS. 8i Max ghép hai TPU 8i vào một package, tăng đồng thời compute, SRAM và HBM bandwidth gấp đôi. Google cho biết mật độ silicon gấp đôi trong footprint rack hiện hữu, hướng đến compute cao hơn trên mỗi mét vuông và mỗi watt.
Việc “đặt hai chip gần nhau” chỉ giải một phần. Hệ thống vẫn cần fabric có latency thấp, memory hierarchy và scheduling phù hợp để prefill, decode, KV cache và weight update không tạo điểm nghẽn mới.
Google mô tả TPU Sync như model-state layer hợp nhất HBM trên chip, DRAM host, shared storage và data-center network. Phần mềm tự tier massive KV cache khỏi chip, stream context giữa node prefill/decode disaggregated và đồng bộ weight cho RL. Google tuyên bố có thể giảm KV transfer latency và Time to First Token hơn 90%; đây là số liệu từ hãng, cần benchmark lại theo model, context, topology và traffic thật.
GKE dynamic slicing dùng optical circuit switching để ghép hoặc tách TPU topology theo nhu cầu. Google công bố cải thiện startup job tới 5 lần và fault recovery tới 4,5 lần. Giá trị của cơ chế này là giảm chu kỳ tái tạo node pool thủ công, nhưng đội platform vẫn cần kiểm soát quota, isolation và blast radius khi thay đổi topology động.
Đối với AI agent, năng lực chip chỉ là một phần. Context lớn biến memory và east-west traffic thành critical path; dữ liệu nhạy cảm khiến encryption-at-rest/in-transit chưa đủ. TPU 8tx và 8i Max cho thấy accelerator đang được bán như một hệ thống gồm compute, optical/low-latency network, memory hierarchy và control plane. Các số liệu hiệu năng của Google là định hướng hữu ích, nhưng quyết định triển khai phải dựa trên benchmark độc lập trong topology, model và SLO của từng tổ chức.
Google Blog, “Our newest TPUs: 8tx and 8i Max, built for the agentic era”, 09/11/2026.
