Gần đây, tại Mỹ, một giáo viên trung học đã bị bắt vì sử dụng trí tuệ nhân tạo (AI) để giả mạo giọng nói của hiệu trưởng, tạo ra nội dung phát ngôn xúc phạm học sinh và đồng nghiệp. Những phát ngôn này sau đó lan truyền rộng rãi và gây ra phản ứng tiêu cực trong cộng đồng.
Theo thông tin từ các nhà chức trách của Hạt Baltimore, Dazhon Darien, Giám đốc thể thao tại trường Trung học Pikesville, đã bị bắt vì hành vi giả mạo giọng nói của Hiệu trưởng Eric Eiswert nhằm mục đích phỉ báng và hủy hoại danh tiếng của ông. Đoạn ghi âm giả mạo chứa đựng những lời phân biệt chủng tộc và kỳ thị người Do Thái, đã gây ra sự phẫn nộ trong cộng đồng nhà trường và dư luận. Ban đầu, tệp âm thanh này đã được gửi qua email cho một số giáo viên, sau đó lan truyền rộng rãi trên mạng xã hội.
Cảnh sát cho biết rằng đoạn ghi âm xuất hiện sau khi Eiswert đề cập đến các vấn đề về hiệu suất làm việc và cáo buộc lạm dụng quỹ trường học của Darien. Nhà chức trách cho biết rằng đoạn âm thanh giả mạo đã khiến Eiswert phải tạm ngừng công tác trong khi cảnh sát thường xuyên tuần tra tại nhà của vị hiệu trưởng. Cuộc gọi điện thoại tức giận liên tục được đổ vào trường học, trong khi những tin nhắn chứa đầy thù hận lan tràn trên mạng xã hội.
Để làm rõ vụ việc deepfake giả mạo giọng nói của Hiệu trưởng trường Pikesville, các thám tử đã đến sự trợ giúp của các chuyên gia bên ngoài. Theo một chuyên gia, đoạn ghi âm “có dấu vết của nội dung do AI tạo ra”, cho thấy khả năng phần mềm trí tuệ nhân tạo đã được sử dụng để tổng hợp giọng nói. Tuy nhiên, “dấu vết AI” không chứng tỏ rằng con người không can thiệp.
Một chuyên gia khác, Giáo sư Hany Farid từ Đại học California, Berkeley, cho rằng tệp âm thanh “là sự kết hợp của nhiều bản ghi âm được ghép lại với nhau”. Điều này cho thấy sau khi AI tạo ra bản nháp, con người đã “chỉnh sửa” thêm để tăng tính hoàn thiện và thuyết phục của đoạn ghi âm giả mạo.
Trong cuộc phỏng vấn với các phương tiện truyền thông, Giáo sư Farid đã chia sẻ quan điểm về vụ việc deepfake giả mạo giọng nói của Hiệu trưởng trường Pikesville. Ông cho biết ông vẫn còn những thắc mắc về quá trình tạo ra bản ghi âm giả này. Ông chưa thể xác định chắc chắn liệu nó có phải do AI tạo ra hoàn toàn hay có sự can thiệp của con người.
Tuy nhiên, Giáo sư Farid nhấn mạnh rằng vụ việc này là một “con chim hoàng yến trong mỏ than”, cảnh báo về nguy cơ tiềm ẩn của công nghệ AI. Với sự phát triển nhanh chóng của AI, khả năng tạo ra deepfake ngày càng tinh vi và khó phát hiện hơn, tiềm ẩn nguy cơ lừa đảo, thao túng thông tin và gây hại cho xã hội.
Sự việc xảy ra tại trường trung học Pikesville là một lý do khác khiến mọi người – không chỉ các chính trị gia và người nổi tiếng – nên lo ngại về công nghệ deepfake ngày càng mạnh mẽ này. Đoạn ghi âm giả mạo giọng nói của Hiệu trưởng trường Pikesville là một minh chứng cho sự nguy hiểm của một nhánh trí tuệ nhân tạo (AI) gọi là AI tổng quát. Loại AI này có khả năng tạo ra hình ảnh, video và âm thanh mới vô cùng chân thật, đánh lừa thị giác và thính giác của con người một cách tinh vi.
Điều đáng lo ngại là AI tổng quát ngày càng trở nên dễ tiếp cận hơn trong những năm gần đây. Chi phí và kỹ thuật sử dụng đã được đơn giản hóa, cho phép bất kỳ ai có kết nối internet đều có thể tạo ra các sản phẩm với công nghệ deepfake.
Các công ty công nghệ lớn cũng đã có những giải pháp nhằm hạn chế tình trạng này. Chẳng hạn, Meta, công ty mẹ của Facebook, và OpenAI, nhà sản xuất ChatGPT, chỉ cho phép một nhóm nhỏ người dùng đáng tin cậy thử nghiệm công nghệ của họ vì có nguy cơ lạm dụng.
Farid cho biết các công ty cung cấp sản phẩm từ trí tuệ nhân tạo vẫn còn nhiều việc phải làm để hạn chế tình trạng lạm dụng trí tuệ nhân tạo. Ông đưa ra giải pháp yêu cầu tất cả các công ty nên yêu cầu người dùng gửi số điện thoại và thẻ tín dụng để họ có thể truy tìm lại các tập tin về những người sử dụng công nghệ này với những mục đích xấu.
Cảm ơn bạn đã đọc bài tổng hợp của ISAO
Nguồn: sohuutritue.net.vn
