Trang The Baltimore Banner đưa tin cảnh sát hạt Baltimore của bang Maryland (Mỹ) vừa bắt giữ cựu giám đốc thể thao trường trung học Pikesville Dazhon Darien với cáo buộc dùng trí tuệ nhân tạo (AI) mạo danh hiệu trưởng Eric Eiswert đưa ra phát ngôn phân biệt chủng tộc và chống Do Thái.
Khoa học - công nghệ

Dùng AI mạo danh khiến hiệu trưởng bị đình chỉ chức vụ

Cẩm Bình 18:05 27/04/2024

Trang The Baltimore Banner đưa tin cảnh sát hạt Baltimore của bang Maryland (Mỹ) vừa bắt giữ cựu giám đốc thể thao trường trung học Pikesville Dazhon Darien với cáo buộc dùng trí tuệ nhân tạo (AI) mạo danh hiệu trưởng Eric Eiswert đưa ra phát ngôn phân biệt chủng tộc và chống Do Thái.

dung.jpg
Hiệu trưởng trường trung học Pikesville vừa bị giả mạo giọng nói bằng AI - Ảnh: The Baltimore Banner

Darien bị bắt tại sân bay quốc tế Baltimore-Washington Thurgood Marshall lúc chuẩn bị lên chuyến bay đến Houston. Đối tượng bị giữ lại do mang súng, sau đó cảnh sát phát hiện có lệnh bắt giữ người này.

Theo Văn phòng Tư pháp Baltimore, Darien bị truy tố với tội danh làm gián đoạn hoạt động của trường, trộm cắp, trả thù nhân chứng. Cơ quan điều tra xác định người này mạo danh hiệu trưởng rồi tung đoạn ghi âm giả đầy lời lẽ xúc phạm học sinh da đen cùng cộng đồng Do Thái địa phương lên mạng vào tháng 1.

Cảnh sát viết trong cáo trạng: “Đoạn ghi âm gây ra hậu quả rất nghiêm trọng, không chỉ khiến Eiswert bị đình chỉ chức vụ tạm thời mà còn làm dấy lên làn sóng bình luận căm phẫn trên mạng xã hội cũng như hàng loạt cuộc gọi đến trường. Đoạn ghi âm cũng gây gián đoạn đáng kể cho học sinh cùng nhân viên trường”.

Darien mạo danh hiệu trưởng nhằm mục đích trả thù sau khi ông Eiswert điều tra các khoản thanh toán bất hợp lý mà anh ta đã thực hiện cho một giáo viên thể dục trong trường (cũng là bạn cùng phòng của anh ta). Do chấp nhận đóng tiền bảo lãnh 5.000 USD nên Darien tạm thời được trả tự do.

Giúp sức cảnh sát điều tra, hai giáo sư Catalin Grigoras (Đại học Colorado) và Hany Farid (Đại học California) kết luận đoạn ghi âm lan truyền trên mạng có dấu hiệu bị can thiệp bởi AI, do nhiều đoạn ghép lại với nhau. Công cụ mà đối tượng sử dụng là OpenAI và Microsoft Bing Chat.

Vụ việc trên một lần nữa gióng lên hồi chuông cảnh báo về nội dung giả mạo do AI tạo ra. Cùng với sự phát triển của công nghệ, âm thanh hay hình ảnh làm giả không còn thô thiển, cứng ngắc dễ nhận biết mà ngày càng tinh vi, giống thật, đặt ra thách thức lớn cho nỗ lực chống thông tin xấu cũng như hành vi lừa đảo. Tháng 2 vừa qua tổ chức Nieman Journalism Lab cho biết công cụ tạo giọng nói bằng AI hiện vô cùng phổ biến, chỉ cần một đoạn ghi âm giọng nói thực dài 1 phút là đủ để tạo nội dung giả mạo.

Thời gian qua xuất hiện không ít nội dung giả mạo Tổng thống Mỹ Joe Biden kêu gọi người dân không tham gia cuộc bỏ phiếu sơ bộ tại bang New Hamshire, hay một đoạn phim chỉnh sửa cho thấy ông sàm sỡ phụ nữ.

Tại Pakistan, đảng của cựu Thủ tướng Imran Khan sử dụng AI tạo ra nhiều bài phát biểu mặc dù chính trị gia này đang ngồi tù.

Trước thềm tổng tuyển cử Ấn Độ, nhiều chính đảng không ngần ngại dùng nội dung AI vận động tranh cử.

Bài liên quan
ZALO chinh phục khát vọng phát triển trí tuệ nhân tạo, làm chủ và nội địa hóa mô hình ngôn ngữ lớn tiếng Việt
Phát triển các mô hình ngôn ngữ lớn (LLM) là một thách thức với nhiều công ty công nghệ trong và ngoài nước. Trong khi nhiều doanh nghiệp Việt Nam lựa chọn fine-tuned model (kỹ thuật tinh chỉnh mô hình) sẵn có của nước ngoài để đi tắt, đón đầu quá trình huấn luyện LLM, Zalo đã lựa chọn con đường gian nan hơn: Tự huấn luyện mô hình từ đầu (from-scratch model).

(0) Bình luận
Nổi bật Một thế giới
Nhà báo Lưu Quang Định làm Tổng biên tập Tạp chí Một Thế Giới
7 giờ trước Khoa học - công nghệ
Ngày 25.6, tại Hà Nội, Hội Thông tin Khoa học và Công nghệ Việt Nam đã tổ chức Hội nghị về công tác cán bộ Tạp chí Một Thế Giới.
Đừng bỏ lỡ
Mới nhất
POWERED BY ONECMS - A PRODUCT OF NEKO
Dùng AI mạo danh khiến hiệu trưởng bị đình chỉ chức vụ