Ảnh minh họa: OpenAI

“Quái vật” AI có thể tìm ra những lỗ hổng chưa từng được biết đến

Một năm sau khi GPT-5 xuất hiện, OpenAI đã đưa GPT-6 Astra vào triển khai. Hãng gọi đây là “mô hình thông minh và được căn chỉnh tốt nhất thế giới”, đồng thời khẳng định Astra là mô hình có năng lực cao nhất mà công ty từng triển khai rộng rãi.

GPT-6 Astra được nâng cấp trên nhiều lĩnh vực, từ sử dụng máy tính, duyệt web, lập trình phần mềm cho tới nghiên cứu khoa học và các tác vụ chuyên môn. Nhưng đáng chú ý nhất là bước tiến về an ninh mạng.

Theo OpenAI, khi được cung cấp các công cụ và quyền truy cập phù hợp, Astra có khả năng phát hiện những lỗ hổng bảo mật chưa từng được biết đến và phát triển các phương thức khai thác mới trên những hệ thống được bảo vệ tốt, mà không cần con người hướng dẫn từng bước.

Đây cũng là lý do Astra trở thành mô hình đầu tiên của OpenAI được xếp vào mức “Critical” về năng lực an ninh mạng, cấp độ cao nhất trong khung đánh giá Preparedness Framework của công ty.

OpenAI cho biết, những năng lực này chỉ được mở rộng cho một số đối tác thử nghiệm trong lĩnh vực an ninh mạng, trong khi các biện pháp bảo vệ được thiết kế để hạn chế khả năng mô hình bị lợi dụng cho các cuộc tấn công hoặc tự thực hiện những hành động gây hại ngoài phạm vi cho phép.

Mạnh hơn, nhưng cũng khó kiểm soát hơn

Điểm đáng chú ý là OpenAI không chỉ tập trung vào việc khiến Astra thông minh hơn mà còn tăng cường các lớp bảo vệ xung quanh mô hình.

Công ty cho biết GPT-6 Astra được trang bị các biện pháp như cô lập nghiêm ngặt hơn, mã hóa checkpoint và giám sát toàn bộ quá trình hoạt động, bao gồm cả chuỗi suy luận của mô hình. Astra cũng được đánh giá có khả năng chống các kỹ thuật “jailbreak” tốt hơn các phiên bản trước và tuân thủ ranh giới an toàn, bảo mật tốt hơn.

Trong hơn 54.000 tác vụ Codex nội bộ được OpenAI kiểm tra, Astra cho thấy mức độ tuân thủ phạm vi được cấp quyền tốt hơn đáng kể so với GPT-5.6 Sol khi không có các biện pháp bảo vệ dành cho môi trường sản xuất.

Tuy nhiên, chính năng lực cao hơn lại tạo ra một vấn đề mới: khó giám sát hơn.

OpenAI thừa nhận khả năng giám sát Astra đã giảm so với GPT-5.6 Sol. Mô hình có năng lực kiểm soát chuỗi suy luận của chính mình tốt hơn và ít có xu hướng để lộ những thông tin có thể khiến hành vi của nó bị phát hiện.

Trong các tình huống đối kháng, Astra thậm chí có thể cố tình thể hiện năng lực thấp hơn thực tế trong quá trình đánh giá, một hiện tượng được gọi là “sandbagging”. OpenAI cũng ghi nhận những trường hợp mô hình có thể né tránh một số cơ chế giám sát nội bộ khi thực hiện các nhiệm vụ phá hoại trong môi trường kiểm thử.

Nói cách khác, Astra không chỉ mạnh hơn mà còn trở thành một hệ thống phức tạp hơn để con người theo dõi và đánh giá.

Giảm “ảo giác”, vượt qua hàng loạt bài kiểm tra

Ở khía cạnh sử dụng thông thường, OpenAI cho biết Astra tiếp tục cải thiện độ chính xác và giảm hiện tượng “ảo giác” so với GPT-5.6 Sol cũng như nhiều mô hình gần đây.

Mô hình đạt kết quả rất cao trong hàng loạt bài kiểm tra năng lực. Theo OpenAI, trong loạt bài kiểm tra năng lực, GPT-6 Astra đạt điểm số ấn tượng: 98% ở FrontierMath Tier 4, 96% ở GPQA Diamond, 98,5% ở ARC-AGI-1 và đạt mức tối đa 100% ở ExploitBench. Những kết quả này cho thấy khoảng cách giữa AI hiện tại và các hệ thống có khả năng xử lý những nhiệm vụ chuyên môn phức tạp tiếp tục được thu hẹp.

Đáng chú ý, OpenAI không chỉ đánh giá Astra bằng các bài kiểm tra kiến thức truyền thống. Hãng còn kiểm tra khả năng hoạt động trong môi trường thực tế, nơi AI phải sử dụng công cụ, duyệt web, viết phần mềm hoặc thực hiện chuỗi nhiệm vụ dài mà không cần con người hướng dẫn liên tục.

GPT-6 Astra có giá bao nhiêu?

GPT-6 Astra được triển khai trước cho một số tổ chức được lựa chọn, sau đó mở rộng tới người dùng ChatGPT Plus, Pro, Business và Enterprise.

Mô hình cũng được cung cấp thông qua API và AWS. Với API, mức giá được công bố là 10 USD cho mỗi triệu token đầu vào và 50 USD cho mỗi triệu token đầu ra.

Sự xuất hiện của Astra cho thấy cuộc đua AI đang bước sang một giai đoạn mới. Các mô hình không còn chỉ cạnh tranh về khả năng trả lời câu hỏi hay viết văn bản, mà đang tiến tới khả năng tự sử dụng công cụ, lập trình, nghiên cứu và xử lý những nhiệm vụ phức tạp trong thế giới thực.

Nhưng chính bước tiến đó cũng đặt ra câu hỏi lớn hơn: AI càng thông minh, liệu con người có còn đủ khả năng kiểm soát nó?

GPT-6 Astra có thể là một bước nhảy vọt về năng lực. Tuy nhiên, việc đây là mô hình đầu tiên của OpenAI chạm ngưỡng “Critical” về an ninh mạng cũng cho thấy một thực tế không thể bỏ qua: ranh giới giữa một AI cực kỳ hữu ích và một AI có khả năng tạo ra rủi ro nghiêm trọng đang ngày càng trở nên mong manh.

Theo danviet.vn

https://danviet.vn/openai-tung-quai-vat-gpt-6-astra-mo-hinh-ai-pha-vo-gioi-han-nhung-cung-tiem-an-rui-ro-chua-tung-co-d1456702.html