/ Nhìn ra thế giới
/ OpenAI nỗ lực ngăn chặn lừa đảo bằng AI

OpenAI nỗ lực ngăn chặn lừa đảo bằng AI

06/07/2023 15:26 |

(LSVN) - Tập đoàn OpenAI ngày 05/7 thông báo kế hoạch đầu tư vào các nguồn lực quan trọng và thành lập một nhóm nghiên cứu mới nhằm tìm cách đảm bảo công nghệ trí tuệ nhân tạo (AI) hoạt động an toàn cho con người – thậm chí có thể áp dụng vào công nghệ tự giám sát.

Biểu tượng của OpenAI và ChatGPT. Ảnh: AFP/TTXVN.

Ông Ilya Sutskever, người đồng sáng lập OpenAI và trưởng bộ phận giám sát của OpenAI, ông Jan Leike nhận định: “Sức mạnh của siêu trí tuệ có thể dẫn đến sự suy giảm quyền lực, hoặc thậm chí là sự tuyệt chủng của loài người”, đồng thời dự đoán AI siêu thông minh - hệ thống có khả năng thông minh hơn con người - có thể xuất hiện trong thập kỷ này.

Hai nhà lãnh đạo tập đoàn cho biết hiện tại chưa có giải pháp để điều khiển hay kiểm soát AI siêu thông minh, do đó cần có những bước đột phá trong "nghiên cứu liên kết", tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

Trong 4 năm tới, OpenAI sẽ dành 20% sức mạnh tính toán được đảm bảo để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một nhóm mới mang tên Superalignment, hoạt động với mục tiêu tạo ra một nghiên cứu căn chỉnh AI theo cấp độ con người, sau đó sẽ mở rộng thông qua một lượng lớn sức mạnh tính toán. Điều này đồng nghĩa với việc các hệ thống AI sẽ được đào tạo thông qua các phản hồi của con người, từ đó sẽ hỗ trợ đánh giá và thực hiện các nghiên cứu căn chỉnh thay cho mỗi cá nhân.

Ông Connor Leahy - người sáng lập công ty xây dựng công nghệ AI Conjecture - đánh giá kế hoạch này còn nhiều thiếu sót, do AI ở cấp độ con người có thể bị mất kiểm soát nếu như không giải quyết được các vấn đề về liên kết.

Những nguy hiểm tiềm tàng của AI vẫn luôn là mối quan tâm hàng đầu của các nhà nghiên cứu công nghệ và cả công chúng. Vào tháng 4, một nhóm các nhà điều hành các công ty công nghệ hàng đầu đã đặt bút ký vào một bức thư ngỏ nhằm kêu gọi đặt ra những quy định về quản lý AI và nâng cao nhận thức về "nguy cơ tuyệt chủng" từ công nghệ này. Ngoài ra, một cuộc khảo sát hồi tháng 5 của Reuters/Ipsos cho thấy hơn 2/3 người Mỹ lo ngại về những tác động tiêu cực của AI, trong đó 61% những người được hỏi tin rằng AI có thể đe dọa nền văn minh nhân loại.

LINH TÔ/TTXVN

Bùi Thị Thanh Loan