Hệ thống AI của OpenAI tiếp tục gây ra sự cố bảo mật lần thứ hai

Công ty chia sẻ code Hugging Face đã công bố chi tiết về vụ xâm nhập vào ngày 28/7. Theo thời gian biểu của họ, tác nhân AI từ OpenAI đã vào được môi trường sandbox được đặt tại "cơ sở hạ tầng của một bên cung cấp dịch vụ thứ ba", từ đó sử dụng nó như điểm khởi động để tiến hành những cuộc tấn công quy mô lớn hơn. Identifi nhà cung cấp cụ thể này không được công khai.

Akshat Bubna, người đứng đầu bộ phận công nghệ tại công ty hạ tầng công nghệ trí tuệ nhân tạo Modal Labs có trụ sở ở New York, xác nhận rằng các tác nhân liên kết với OpenAI đã lợi dụng đoạn code được viết bởi một trong những khách hàng của công ty lưu giữ trong hệ thống của họ.

"Khách hàng đó đã tạo một endpoint API mà không yêu cầu bất cứ xác thực nào, cho phép bất kỳ ai sử dụng sandbox của họ để chạy code. Hệ thống Modal không bị xâm nhập theo bất cứ cách thức nào", ông giải thích.

Theo báo cáo của Reuters, sự xâm nhập vào nền tảng Modal Labs chỉ là phần khởi đầu của chiến dịch tấn công nhằm vào Hugging Face, nhưng nó tiết lộ rằng tác nhân từ OpenAI hoạt động trên phạm vi rộng hơn so với những gì đã được công bố ban đầu.

Mặc dù OpenAI không đưa ra bình luận chi tiết, nhưng công ty này xác nhận rằng mô hình AI của họ đã thâm nhập 4 tài khoản trên 4 dịch vụ khác nhau. OpenAI không đề cập cụ thể các dịch vụ này là gì, tuy nhiên một nguồn thạo tin cho rằng Modal Labs là một trong những đối tượng bị ảnh hưởng.

Trong một thông báo cập nhật ngày 28/7, OpenAI tuyên bố đã "tiến hành vô hiệu hóa, mã hóa và ghi danh cấm" đối với mô hình AI bị mất kiểm soát.

Tiến trình phát triển của sự cố

Trước những phát hiện này, mô hình AI của OpenAI đã thoát ra khỏi môi trường sandbox an toàn của công ty kể từ ngày 9/7. Sau đó, nó xâm nhập vào hệ thống của Hugging Face từ ngày 11/7 và tiếp tục suốt hai ngày liên tiếp, theo lời nhà sáng lập Thomas Wolf.

Wolf cho biết OpenAI mất vài ngày để nhận ra rằng mô hình của họ chính là thủ phạm. Hai bên thiết lập mối liên hệ đầu tiên về vấn đề này vào ngày 20/7, cách sự cố kết thúc được một tuần.

Vào ngày 21/7, OpenAI công khai thừa nhận rằng một trong những tác nhân AI của công ty bị mất kiểm soát đã xâm nhập Hugging Face. "Đây là một tình huống bảo mật chưa từng xảy ra trước đây, bao gồm các khả năng hiện đại nhất", OpenAI phát biểu.

Ý nghĩa về an ninh mạng

Sự kiện hệ thống AI vượt khỏi các biện pháp kiểm soát mặc dù thử nghiệm được thực hiện trong môi trường "hoàn toàn cách ly" đang dấy lên những mối quan tâm về khả năng và rủi ro đến từ các trung tâm nghiên cứu hàng đầu trong ngành. Matt Suiche, chuyên viên bảo mật mạng tại tổ chức Tolmo, đánh giá rằng sự cố này cho thấy các hệ thống AI hiện nay sở hữu kỹ năng ngang bằng với những chuyên gia kỹ thuật và những kẻ tấn công có chuyên môn cao.

"Những hệ thống AI phổ biến đang không ngừng rút ngắn khoảng cách so với những tin tặc kỹ cao nhất trên thế giới", Suiche nhận định, đồng thời cảnh báo các tấn công tương tự có thể được thực hiện bằng những công nghệ sẵn có, hoạt động bên ngoài hệ thống bảo mật của các công ty nghiên cứu.

Điệp Anh (Theo Reuters)