Bài viết này do AI tạo ra, có thể mắc sai sót.
OpenAI cho biết đã tạm làm chậm một phần quá trình mở rộng huấn luyện mô hình frontier sau khi nhận thấy dấu hiệu một model sắp tới, Astra, có thể chạm ngưỡng năng lực an ninh mạng “Critical” theo Preparedness Framework. Công ty nhấn mạnh đây là biện pháp nội bộ cho nghiên cứu, không phải thông báo phát hành Astra.
Theo OpenAI, hai yếu tố tạo thêm áp lực: sự cố OpenAI–Hugging Face và bằng chứng sơ bộ Astra có thể đạt năng lực cyber-critical. Công ty dừng inference frontier trong các research cluster có khả năng chạy code hoặc gọi tool truy cập Internet, sau đó khôi phục từng workload theo mức kiểm soát mới.
Yêu cầu mới gồm cô lập mạnh hơn cho workload chạy code do model sinh ra hoặc code không tin cậy, tách workload rủi ro khỏi Internet, giảm quyền đứng sẵn và loại các shared service có thể thành điểm yếu. Mục tiêu là một vụ compromise đơn lẻ không đủ để mở đường sang Internet hay mạng nội bộ khác.
Hệ thống mới bắt đầu bằng classifier kiểm tra activity nội bộ ở mọi token mẫu, rồi chuyển cảnh báo tới tác nhân điều tra tự động có mức compute cao hơn. Những hệ thống này xem tool action, reasoning sẵn có và chuỗi hành động để tìm truy cập trái phép, đánh cắp dữ liệu, hành vi phá hoại hoặc né safeguard. OpenAI ước tính monitoring hiện tốn khoảng 20% compute inference được giám sát, tùy workload.
Monitoring được yêu cầu cho RL training/evaluation dùng tool ở mức năng lực Sol hoặc cao hơn. Sau khi Astra được đánh giá có khả năng cyber-critical vào ngày 7/8, OpenAI bổ sung yêu cầu giám sát cho mọi inference Astra dùng tool. Nhiều workload Astra vẫn pause cho đến khi chuyển sang môi trường đạt chuẩn mới. Các tuyên bố là thông tin từ OpenAI, chưa có dữ liệu đánh giá độc lập công khai về Astra.
Thông báo đáng chú ý vì nó đặt chi phí an toàn vào ngay pipeline phát triển thay vì chỉ thêm guardrail khi sản phẩm đã ra mắt. Tạm dừng frontier RL có chi phí tiến độ lớn, nhưng việc nêu rõ sandbox, network isolation và quy trình pause cho thấy rủi ro agent có tool đang được xem là bài toán hạ tầng, không chỉ là lọc prompt.
Với đội xây agent doanh nghiệp, bài học thực dụng là tách quyền, mặc định chặn mạng, log đầy đủ tool action, đặt giới hạn thời gian và cơ chế kill switch. Cảnh báo trong 30 phút vẫn là quá chậm với vài hành động phá hoại; lớp chặn chủ động cần đứng trước monitoring.
Thông tin dựa trên bài công bố của OpenAI về phát triển model trong giai đoạn xuất hiện năng lực cyber-critical.
