Presto: TCP lập trình được cho data centre terabit, giảm gánh CPU transport

Bài viết này do AI tạo ra, có thể mắc sai sót.

Tóm tắt nhanh

Presto là TCP stack lập trình được cho data centre, thiết kế trên kiến trúc Reconfigurable Match-action Table (RMT) của switch lập trình được và SmartNIC.
Mục tiêu là giảm “CPU tax” của TCP: bài viết nêu các ứng dụng giao tiếp nhiều có thể tiêu tốn tới 74% chu kỳ CPU ở tầng transport.
Prototype trên Intel Tofino 2 đạt 1,2 tỷ gói TCP/giây ở 2,81W; một kết nối trên một CPU core có thể vượt 1,6 Tbps khi dùng MTU 8K, theo kết quả nhóm tác giả công bố.
Đường đi phổ biến không recirculate gói thật; Presto dùng cập nhật lạc quan, xác thực trì hoãn và pseudo-segment cho các phụ thuộc trạng thái ngược.
Ứng dụng vẫn dùng socket TCP/POSIX quen thuộc; memcached, nginx, FlexKVS và SPDK NVMe-over-TCP được nêu là chạy không cần sửa đổi.

TCP đang thành nút thắt khi mạng lên terabit

NIC hiện đại đã đưa băng thông và tốc độ xử lý gói lên rất cao, nhưng TCP trong phần mềm vẫn đòi hỏi CPU xử lý sequence number, cửa sổ nhận, ACK, reassembly và điều khiển tốc độ. Với workload nhiều luồng nhỏ hoặc lưu lượng east-west lớn, phần tài nguyên này cạnh tranh trực tiếp với ứng dụng và làm tăng tail latency.

Cách làm quen thuộc là kernel bypass, RDMA hoặc TCP offload. Kernel bypass vẫn để CPU gánh transport; RDMA và offload có hiệu năng cao nhưng thường gắn chặt phần cứng, khó sửa hành vi hay debug khi vận hành ở quy mô cloud.

Ba kỹ thuật để đưa TCP vào pipeline match-action

Pipeline RMT xử lý gói theo chiều tiến, qua số stage cố định; trạng thái của TCP lại có nhiều phụ thuộc chéo. Presto giải bài toán này bằng ba cơ chế.

Bump-in-the-wire: gói dữ liệu đi qua pipeline tối đa một lần ở common path, tránh stall và buffer trong pipeline.
Optimistic concurrency với deferred validation: cập nhật trạng thái theo giả định ở stage sớm, rồi kiểm tra lại ở stage sau; tình huống hiếm chuyển sang control path sửa lỗi.
Pseudo-segment injection: khi cần cập nhật một trạng thái nằm ở stage trước, pipeline tạo một segment tổng hợp không mang payload để đi lại từ đầu; gói thật không bị vòng lại.

Kết quả prototype và giới hạn cần nhớ

Nhóm tác giả thử nghiệm trên Intel Tofino 2, Netberg Aurora 810 và NIC ConnectX. Họ báo cáo Presto đạt 1,2 Bpps ở 2,81W, vượt đỉnh throughput của TAS với ít hơn 16 CPU core, đồng thời cho throughput-per-watt của key-value store cao gấp đôi và tail latency thấp hơn năm lần trong bài thử nghiệm được mô tả.

Đây là kết quả nghiên cứu và prototype, không phải thông báo sản phẩm sẵn sàng thay thế TCP stack Linux trong mọi hệ thống. Presto được xác thực trên phần cứng cụ thể; việc đưa vào production vẫn cần đánh giá compatibility, khả năng quan sát, failure mode, quy trình nâng cấp P4 và năng lực đội vận hành.

Ý nghĩa với hạ tầng mạng

Điểm đáng chú ý không chỉ là tốc độ. Một transport stack có thể lập trình giúp thay đổi congestion control, telemetry hoặc logic phối hợp ứng dụng mà không phải chờ vòng đời silicon mới. Điều này hợp với data centre AI, storage và dịch vụ RPC, nơi băng thông tăng nhanh nhưng ngân sách điện và CPU không tăng tương ứng.

Đổi lại, transport chạy trong programmable data plane biến switch/SmartNIC thành thành phần quan trọng hơn trong đường lỗi. Đội hạ tầng cần coi P4 program, kiểm thử hồi quy và fallback về host stack là phần của kiến trúc vận hành, thay vì chỉ là tối ưu hiệu năng.

Phân tích

Presto cho thấy ranh giới giữa mạng và hệ điều hành đang dịch chuyển. Thay vì chỉ offload vài tác vụ cố định, programmable data plane có thể gánh một phần giao thức stateful mà vẫn giữ API socket TCP. Nếu mô hình này trưởng thành, các cụm có lưu lượng nội bộ lớn có thể trả CPU về cho workload và giảm điện năng trên mỗi bit truyền.

Con số benchmark cần được đọc trong bối cảnh phần cứng và workload thử nghiệm. Giá trị thực tế với operator nằm ở hướng thiết kế: dùng common path đơn giản, giữ cơ chế sửa lỗi cho trường hợp hiếm, và chuẩn bị observability đầy đủ trước khi đưa logic transport xuống data plane.