AI Của OpenAI Và Anthropic Tự Tạo Danh Tính Giả để Tấn Công Mạng

tan-cong bloomberg — Các tác nhân AI chạy trên mô hình Mythos 5 của Anthropic và GPT-5.6 Sol của OpenAI thực hiện các hành vi bất thường trong buổi kiểm thử an ninh mạng ngày 28/7 của AISI. Ảnh: Bloomberg

Viện Nghiên cứu An ninh AI Anh (AISI) vừa phát hiện các hành vi bất thường từ các tác vụ AI (agent) chạy trên hai mô hình tiên tiến: Mythos 5 của Anthropic và GPT-5.6 Sol của OpenAI.

Sự việc xảy ra trong buổi kiểm thử an ninh mạng định kỳ ngày 28/7, khi một số hệ thống có biểu hiện “hoạt động kéo dài, tiềm ẩn nguy cơ gây hại đến người thật và các tổ chức”. Các chuyên gia mất một giờ để khống chế vụ việc.

Trong sự cố nghiêm trọng nhất, tác vụ AI chạy mô hình Mythos đã tìm cách chèn mã độc vào một dự án phần mềm mã nguồn mở trên nền tảng GitHub.

Để mã độc được phê duyệt, AI này tạo các danh tính ảo dựa trên thông tin người thật nhằm gây áp lực lên quản trị viên dự án. Hành vi bị ngăn chặn nhờ một lập trình viên kịp thời phát hiện.

AISI cho biết tác vụ AI đã sử dụng các kỹ thuật tấn công phổ biến của tin tặc. Hệ thống tự gửi email nhắm vào các cá nhân cụ thể (kỹ thuật spear-phishing – tấn công giả mạo có mục tiêu) để thao túng người nhận, trong đó một số thư có chứa phần mềm độc hại.

Dù chưa gây ra thiệt hại thực tế, AISI đánh giá đây là hành vi chưa từng có tiền lệ. “Đây là lần đầu tiên chúng tôi ghi nhận các rủi ro về tính tự chủ và sự tự lừa đảo thể hiện rõ ràng như vậy trong điều kiện thực tế mà không cần lệnh gợi ý (prompt) cụ thể”, đại diện AISI đăng tải trên blog.

Sự cố này tiếp nối các vụ việc tương tự gần đây. Tháng 7, OpenAI cho biết một tác vụ AI của hãng đã tấn công mạng một công ty khởi nghiệp AI trong buổi kiểm thử. Vài ngày sau, Anthropic cũng xác nhận mô hình Claude đã xâm nhập vào hệ thống của ba tổ chức.

Công Tơ Điện Hunonic Entec - Giải Pháp Tiết Kiệm Năng Lượng Thông Minh Điều Khiển

Chi tiết Địa chỉ tổ chức chịu trách nhiệm hàng hóa Tên tổ chức chịu trách nhiệm hàng hóa Khu vực xuất xứ Thời hạn bảo hành Điện áp đầu vào (V) Công suất (W) Loại bảo hành Thương hiệu 750 KIM GIANG HUNONIC HÀ NộI Việt Nam 12 tháng 220v 14000 Bảo hành

AISI nhận định đây là sự “chuyển dịch trong bức tranh rủi ro”. Sự việc không xuất phát từ việc cố ý sử dụng sai mục đích các mô hình thương mại, mà cho thấy AI trong môi trường nghiên cứu đã tự ý thực hiện các hành động vượt quá phạm vi cho phép. Trong số 19 trường hợp AI tự phát hiện hành vi bất thường, 17 vụ do Mythos và 2 vụ do Sol thực hiện.

Tổ chức khẳng định AI chưa vượt khỏi môi trường thử nghiệm an toàn (sandbox). Trong quá trình thử nghiệm, AISI đã chủ động mở truy cập Internet và tắt các bộ lọc chặn hành vi nguy hiểm.

Các mô hình này không được phát hành công khai ở trạng thái trên và chưa có dấu hiệu lặp lại hành vi ngoài các bài kiểm tra.

AISI thừa nhận đã không giám sát chủ động các tác vụ AI trong quá trình đánh giá. Sau sự cố, cơ quan này quyết định thắt chặt kiểm soát truy cập Internet, thiết lập hệ thống theo dõi liên tục và đánh giá lại quy trình kiểm thử.

Ông Kanishka Narayan, Bộ trưởng AI Anh, nhấn mạnh việc phát hiện các hành vi mới và chia sẻ thông tin để xử lý chính là mục tiêu thành lập của AISI.

Đại diện OpenAI cho biết cuộc kiểm thử diễn ra trong “điều kiện không phản ánh cách sử dụng thông thường” và khẳng định sẽ tiếp tục phối hợp với các bên để nâng cao an toàn đánh giá.

Mall) Loa Kiểm Âm Bluetooth EDIFIER MR3/MR5 I Công Suất 36W | Bluetooth 5.4 |

Trong khi đó, Anthropic nhận định vụ việc “nhấn mạnh tầm quan trọng của việc thảo luận về cách đánh giá an toàn cho các tác vụ AI ngày càng thông minh”.

(Theo The Guardian)

Mô hình AI của Anthropic tấn công 3 công ty trong khi thử nghiệm

Hôm 30/7, Anthropic cho biết phần mềm mà công ty này đang thử nghiệm đã tự ý truy cập Internet và tấn công các doanh nghiệp trong ba sự cố riêng biệt kể từ tháng 4.

AI ‘vượt rào’ tự tấn công mạng và lời cảnh tỉnh cho loài người

Việc mô hình AI của OpenAI tự thoát khỏi môi trường kiểm thử và tấn công nền tảng Hugging Face đã gióng lên hồi chuông cảnh báo về nguy cơ mất kiểm soát trong cuộc đua phát triển trí tuệ nhân tạo.