Sam Altman đã bị sa thải khỏi OpenAI do liên quan đến một bức thư nói về siêu trí tuệ AI, trong đó chứa những cảnh báo về nguy cơ và hậu quả tiềm ẩn.
Theo thông tin từ Reuters, Sam Altman đã bị sa thải khỏi OpenAI do được cho là đã đạt được bước đột phá trong nghiên cứu về siêu trí tuệ nhân tạo, có khả năng đe dọa tương lai của nhân loại.
Trước khi bị sa thải, Giám đốc công nghệ của OpenAI, Mira Murati, tiết lộ với nhân viên rằng một bức thư mật đã đưa đến quyết định này. Bức thư này được một số nhà nghiên cứu OpenAI gửi đến hội đồng quản trị trước đó, liên quan đến bước đột phá của dự án Q* (Q-Star).
Q* được biết đến như là một dự án nghiên cứu bí mật về AGI (siêu trí tuệ nhân tạo) tại OpenAI, được phát triển đồng thời với ChatGPT. Theo định nghĩa của công ty, AGI là hệ thống siêu trí tuệ toàn năng, thông minh hơn cả con người.
Khả năng xuất sắc của AGI đã làm nhiều người lạc quan về tương lai của trí tuệ nhân tạo. Tuy nhiên, một số người lo ngại rằng Q* có thể đe dọa nhân loại, và họ đã gửi thư cảnh báo.
Hiện tại, AGI có khả năng viết và dịch ngôn ngữ tốt bằng cách dự đoán thống kê từ các phần tiếp theo. Nó cũng có thể đưa ra nhiều câu trả lời khác nhau cho cùng một câu hỏi, thậm chí là trong các vấn đề mà thường chỉ có một đáp án đúng, như toán học.
Điều này cho thấy rằng AI có khả năng suy luận tốt hơn con người, không chỉ giải quyết các phép tính đơn giản như máy tính, mà còn có khả năng khái quát hóa, học hỏi và hiểu biết.
Trong thư gửi hội đồng quản trị, các nhà nghiên cứu đã nhấn mạnh sức mạnh và tiềm ẩn mối nguy hiểm của trí tuệ nhân tạo (AI). Cuộc thảo luận về mối đe dọa do máy móc cực kỳ thông minh tạo ra đã tồn tại từ lâu, với những câu hỏi như liệu AI có tự hỏi, ‘Tại sao mình phải phục tùng loài người?’ Elon Musk cũng đã đặt nghi vấn về việc OpenAI có thể đang phát triển một công nghệ nguy hiểm. Tỷ phú này tin rằng đây có thể là lý do mà Ilya Sutskever, nhà khoa học trưởng của OpenAI, muốn sa thải Sam Altman.
Elon Musk chia sẻ trên mạng xã hội vào ngày 20/11: “Tôi rất lo lắng. Ilya là người có đạo đức và không ham muốn quyền lực. Ông ấy sẽ không hành động quyết liệt như vậy trừ khi thật cần thiết. Thế giới cần biết nếu OpenAI đang sở hữu thứ gì đó gây nguy hiểm cho nhân loại”.
Trong cuộc họp nhân viên vào ngày 18/11, ông Sutskever cho biết: “Chúng ta đang thực hiện nhiệm vụ với sứ mệnh của một tổ chức phi lợi nhuận, đó là đảm bảo OpenAI xây dựng trí tuệ nhân tạo tổng quát có lợi ích cho toàn nhân loại”.
Sau khi nhận bức thư cảnh báo, hội đồng quản trị OpenAI đã họp khẩn cấp và quyết định sa thải CEO Sam Altman. Họ đánh giá rằng Sam Altman có xu hướng để trí tuệ nhân tạo tự do phát triển, tạo ra nguy cơ AI đe dọa đến nhân loại.
Cảm ơn bạn đã đọc bài tổng hợp của ISAO
Nguồn: sohuutritue.net.vn
