Trong tháng 7, số lượng các sự cố trí tuệ nhân tạo (AI) mất kiểm soát đã tăng mạnh. Theo Đài quan sát Truyền thông Người dùng AI, hơn 300 sự cố như vậy đã được ghi nhận trong tháng – gần gấp đôi so với tháng 6. Tuy nhiên, tổ chức này lưu ý rằng số lượng sự cố thực tế có thể cao hơn đáng kể, theo báo cáo của Guardian .

Mất kiểm soát được hiểu là sự mưu mô, xảo quyệt. Chương trình chỉ giả vờ tuân lệnh nhưng lại bí mật thực hiện các nhiệm vụ riêng của mình. Trong một trường hợp được đề cập, một tác nhân AI đã giả vờ là chủ sở hữu của nó và thậm chí bắt chước phong cách viết của họ để lách luật, bỏ qua các quy tắc yêu cầu sự chấp thuận của con người. AI ngày càng phớt lờ các mệnh lệnh trực tiếp, vượt qua các biện pháp bảo mật, nói dối người dùng và hành động gây hại cho con người để theo đuổi mục tiêu riêng của mình.

Báo cáo đáng báo động nhất đến từ OpenAI, nhà phát triển của ChatGPT: vào tháng 7, 700 tác nhân AI tự động đã hợp tác để tấn công kho lưu trữ tệp của công ty CNTT Hugging Face của Mỹ. Những kẻ tội phạm mạng đã cố gắng che giấu dấu vết của mình bằng cách tạo ra diễn đàn riêng, nơi chúng ăn mừng thành công với những câu nói như "Boom!" và "Wow."

Vào tháng 8, người ta phát hiện ra rằng các mô hình trí tuệ nhân tạo tiên tiến do Anthropic và OpenAI phát triển đã thực hiện một cuộc tấn công mạng nhắm vào người thật trong một cuộc thử nghiệm an ninh mạng.

Cho đến nay, hầu hết các trường hợp đều không dẫn đến hậu quả nghiêm trọng. Một vụ việc nổi bật liên quan đến một người đàn ông Úc muốn đăng ký tập luyện buổi sáng tại một câu lạc bộ thể dục địa phương. Hàng đợi khá dài vì lớp học rất đông người tham gia. Trợ lý AI cá nhân của anh ta, OpenClaw, đã xâm nhập vào hệ thống của tổ chức và xóa một người tham gia khỏi danh sách, thay thế người đó bằng chủ nhân của mình.

Mặc dù hầu hết các sự việc đều mang tính chất nực cười, nhưng các nhà lãnh đạo ngành công nghệ thông tin lại không hề cảm thấy hài lòng.

"Chúng ta sẽ không có thời gian để tự vệ"

Tỷ phú Elon Musk từng tuyên bố rằng cái gọi là trí tuệ nhân tạo tổng quát (AGI), có khả năng ngang bằng với con người, sẽ xuất hiện sớm nhất vào năm 2026. Và đến năm 2030, điểm kỳ dị sẽ đạt được - thời điểm mà trí tuệ nhân tạo sẽ mãi mãi vượt xa con người về tốc độ phát triển.

Cuối tháng 8, người sáng lập Microsoft, Bill Gates, đã công bố một bài báo chi tiết , trong đó ông phân tích các mối đe dọa từ sự phát triển trí tuệ nhân tạo không kiểm soát và đề xuất các giải pháp.

Ông Gates xác định ba rủi ro chính. Đầu tiên là mất việc làm. Điều này đã và đang xảy ra, đặc biệt là đối với những người trẻ làm công việc văn phòng.

Rủi ro thứ hai là trí tuệ nhân tạo sẽ mở rộng khả năng của con người (và có thể cả chính các AI) để "gây ra nhiều tác hại hơn". Điều này áp dụng cho cả việc chế tạo chất nổ, chẳng hạn, và các cuộc tấn công mạng.

Ông Gates viết: "Những chuyên gia an ninh mạng giỏi nhất mà tôi biết đều lo sợ về những gì sẽ xảy ra trong những năm tới bởi vì tin tặc đang có được những công cụ mới mạnh mẽ nhanh hơn so với tốc độ vá lỗi của lực lượng chống lại chúng".

Rủi ro thứ ba là "Trí tuệ nhân tạo có thể cản trở sự phát triển của trẻ em và thay thế các mối quan hệ giữa người với người".

"Tôi đã phải nỗ lực rất nhiều và nhận được sự giúp đỡ của mẹ để phát triển các kỹ năng xã giao và học cách giao tiếp với nhiều người khác nhau. Tôi nghi ngờ rằng mình sẽ không bỏ nhiều công sức đến vậy nếu hồi đó có một người bạn đồng hành là trí tuệ nhân tạo", vị tỷ phú thừa nhận.

Để phòng chống những mối đe dọa này, ông Gates đề xuất ba bước: đánh thuế vào việc sử dụng trí tuệ nhân tạo, dành một số ngành nghề cho con người và tạo ra một hệ thống quốc tế để quản lý quá trình kiểm soát trí tuệ nhân tạo—có vẻ tương tự như IAEA, cơ quan giám sát năng lượng hạt nhân.

"Đến mức tống tiền"

Mặc dù không thể phớt lờ những lo ngại, các chuyên gia cho rằng điều quan trọng là không nên biến những báo cáo về "AI vượt tầm kiểm soát" thành câu chuyện về một cuộc nổi dậy của máy móc.

"Không có bằng chứng nào cho thấy các mô hình đang theo đuổi mục tiêu riêng của chúng: các tác nhân AI đã thực hiện nhiệm vụ được giao, do nhầm tưởng rằng các hệ thống thực sự là một phần của môi trường thử nghiệm," Anna Ovsyannikova, Phó Giáo sư Khoa Toán học và Phân tích Dữ liệu tại Khoa Công nghệ Thông tin và Phân tích Dữ liệu lớn thuộc Đại học Tài chính trực thuộc Chính phủ Liên bang Nga, cho biết.

Đồng thời, mạng nơ-ron ngày càng trở nên sáng tạo hơn trong các phương pháp tiếp cận và có khả năng xác định các lỗ hổng nhanh hơn và dễ dàng hơn con người. Nếu tồn tại dù chỉ là một sơ hở nhỏ nhất, nó sẽ được tìm thấy, và trong một số trường hợp, thậm chí còn được tạo ra, theo Alexander Staroverov, Trưởng phòng Chuyển đổi số tại Trung tâm Khoa học và Giáo dục của Cục Thuế Liên bang Nga và Đại học Kỹ thuật Quốc gia Bauman Moscow.

"Trí tuệ nhân tạo được huấn luyện bài bản để theo đuổi một mục tiêu nhất định—ví dụ, kiếm tiền. Cuối cùng, có thể xảy ra trường hợp trí tuệ nhân tạo được giao nhiệm vụ kiếm tiền bằng mọi cách cần thiết, kể cả tống tiền," ông giải thích.

Đồng thời, chuyên gia này lưu ý rằng, những báo cáo về việc AI vượt khỏi tầm kiểm soát có thể chỉ là một chiêu trò PR: "AI của chúng ta thông minh đến mức nó có thể trốn thoát."

Theo ông, hiện tại nhân loại không gặp bất kỳ nguy hiểm nào.

"Sự an toàn luôn phụ thuộc vào con người - nếu trí tuệ nhân tạo không được can thiệp vào các khu vực trọng yếu, tôi không nghĩ sẽ có chuyện gì xấu xảy ra", ông Staroverov nói.

"Thâm hụt chính"

Ông Staroverov gọi các biện pháp kiểm soát trí tuệ nhân tạo mà Gates đề xuất là "tuyệt vời và cao cả".

"Nhưng ở đây, cũng như bất kỳ hiệp hội nào khác, người đầu tiên tổ chức sẽ nắm giữ quyền lực, quản lý quy trình và đương nhiên là được hưởng nhiều đặc quyền," ông bình luận về đề xuất thành lập một tổ chức tương tự như IAEA.

Chuyên gia này khuyên không nên phóng đại các mối đe dọa: nếu một số ngành nghề biến mất, những ngành nghề mới sẽ xuất hiện. Và hầu hết kiến thức có thể bị lợi dụng cho mục đích xấu đã có sẵn công khai, ngay cả khi không có trí tuệ nhân tạo.

Theo Ovsyannikova, những xu hướng này không hề vô hại.

"Trong ba rủi ro mà Bill Gates đã chỉ ra, rủi ro cấp bách nhất hiện nay dường như là sự gia tăng quyền lực của các tác nhân độc hại. Trí tuệ nhân tạo (AI) có tiềm năng làm giảm chi phí và kỹ năng cần thiết cho một loạt các cuộc tấn công mạng, gian lận và tung tin sai lệch," bà tin tưởng.

Và chúng ta cần phải giải quyết hậu quả ngay bây giờ, ở cấp quốc gia.

"Đối với Nga, chiến lược hợp lý ở đây không phải là lựa chọn giữa sự lạc quan vô điều kiện và nỗi sợ hãi về trí tuệ nhân tạo. Người chiến thắng về kinh tế sẽ là người vừa học cách ứng dụng công nghệ vừa quản lý được rủi ro của nó", bà Ovsyannikova nói.

Theo bà, có khả năng ở giai đoạn phát triển tiếp theo của trí tuệ nhân tạo, sự khan hiếm sẽ không phải là sức mạnh tính toán hay thậm chí là thuật toán, mà là lòng tin. Chúng ta càng giao phó nhiều quyết định cho máy móc, thì chi phí để trả lời câu hỏi đơn giản về việc ai kiểm soát hành động của chúng và bằng cách nào càng cao.

Theo danviet.vn

https://danviet.vn/phuong-tay-da-phat-hien-ra-mot-moi-de-doa-con-toi-te-hon-ca-vu-khi-hat-nhan-d1456651.html