Nếu xem xét kỹ, bạn có thể tìm thấy một số manh mối: các ngón tay trong bức ảnh bị cong một cách kỳ lạ, hoặc đôi mắt của các nhân vật sáng lên một cách thiếu tự nhiên. Tuy nhiên, sự phẫn nộ mà những hình ảnh này gây ra là có thật.
Mercedes-Benz (Benzi)WGNhững bức ảnh về cuộc chiến tranh Israel-Kazakhstan thể hiện một cách sống động và tàn bạo tiềm năng của AI như một công cụ tuyên truyền, có thể tạo ra những hình ảnh sống động như thật về các vụ thảm sát và dùng để đánh lừa công chúng tin vào những hành động tàn bạo chưa từng xảy ra.
Với sự tiến bộ không ngừng của công nghệ, thiếu sự giám sát. Các chuyên gia lo ngại rằng AI có thể bị lạm dụng thường xuyên hơn trong các cuộc xung đột, bầu cử và các sự kiện lớn khác trong tương lai.
CREOpoint là một công ty công nghệ có trụ sở tại San Francisco và Paris. Công ty này đã tạo ra một cơ sở dữ liệu chứa các hình ảnh và video giả mạo về Gaza đang lan truyền trên mạng.
Giám đốc điều hành CREOpoint Jean-Claude Goldenstein nói: "Mọi thứ sẽ trở nên tồi tệ hơn, rất tồi tệ trước khi trở nên tốt hơn."
"Hình ảnh, video và âm thanh: Với AI tổng quát, đây sẽ là một bản nâng cấp chưa từng có." Goldstein cho biết.
Đôi khi, AI sử dụng lại ảnh từ các cuộc xung đột hoặc thảm họa khác để tạo ảnh mới. Đôi khi, AI tổng quát có thể tạo ra một hình ảnh từ đầu. Ví dụ, vào thời kỳ đầu của cuộc xung đột, hình ảnh một em bé khóc giữa các mảnh vỡ của vụ đánh bom đã được lan truyền rộng rãi nhưng thực tế nó đã bị AI làm giả.
Các hình ảnh do AI tạo ra cũng bao gồm các video quay cảnh cái gọi là các cuộc tấn công bằng tên lửa của Israel, hay cảnh xe tăng lăn bánh qua các khu dân cư bị phá hủy hoặc các gia đình tìm kiếm người sống sót trong đống đổ nát.
Trong nhiều trường hợp, những video giả mạo này dường như được thiết kế để gợi lên phản ứng cảm xúc mạnh mẽ và bao gồm cả xác chết của trẻ sơ sinh và trẻ em.
Imran Ahmed, Giám đốc điều hành của tổ chức phi lợi nhuận "Trung tâm chống lại sự căm ghét kỹ thuật số" (CCDH), cho biết những nhà tuyên truyền tạo ra những hình ảnh như vậy rất giỏi trong việc nắm bắt những xung động và lo lắng sâu sắc nhất của mọi người.
Hình ảnh càng đáng ghét thì người dùng càng có nhiều khả năng ghi nhớ và chia sẻ nó, vô tình làm tăng thêm sự lan truyền thông tin sai lệch.
以哈战争中的图片，生动且残酷地展示了AI作为宣传工具的潜力，它可创造出栩栩如生的大屠杀图像，用来欺骗民众，让他们相信从未发生过的暴行。
受到此次事件影响的主要是北京、上海、杭州、深圳、青岛、香港以及美东、美西等多个地区的数据库产品，包括PostgreSQL、Redis和MySQL等。
这表明，随着美中竞争加剧，富士康正持续加增对印度的投资，希望将印度打造成中国之外的iPhone生产重镇。
Trong cuộc chiến tranh Nga-Ukraine cũng có một đoạn video được chỉnh sửa cho thấy Tổng thống Ukraine Volodymyr Zelenskyy ra lệnh cho người Ukraine đầu hàng. Đoạn video này vẫn được lan truyền trực tuyến gần đây như tuần trước, minh họa cho thấy thông tin sai lệch thậm chí dễ dàng bị vạch trần vẫn có thể tồn tại.
Điều này khiến nhiều chuyên gia AI cảnh báo rằng một số quốc gia sẽ tổ chức tổng tuyển cử vào năm tới, bao gồm Hoa Kỳ, Ấn Độ, Pakistan, Ukraine, Đài Loan, Indonesia và Mexico. AI và phương tiện truyền thông xã hội có thể được sử dụng để truyền bá những lời dối trá.
Tại một phiên điều trần gần đây về sự nguy hiểm của công nghệ giả mạo sâu, Nghị sĩ Đảng Dân chủ Gerry Connolly đã nói rằng chính phủ Hoa Kỳ nên đầu tư vào việc phát triển các công cụ AI có thể chống lại các AI khác.
Mercedes-Benz (Benzi)WGCác công ty khởi nghiệp trên khắp thế giới đang phát triển các chương trình mới để xác định các hành vi giả mạo sâu.
David Doermann là nhà khoa học máy tính, người từng lãnh đạo Cơ quan Dự án Nghiên cứu Tiên tiến Quốc phòng Hoa Kỳ (DARPA) trong việc ứng phó với các mối đe dọa đối với an ninh quốc gia do các hình ảnh do AI điều khiển gây ra.
Dorman, hiện là giáo sư tại Đại học Buffalo, cho biết rằng để giải quyết hiệu quả các thách thức chính trị và xã hội do thông tin sai lệch về AI đặt ra, công nghệ tốt hơn và các quy định tốt hơn, tính tự nguyện và tiêu chuẩn ngành, cùng với việc đầu tư sâu rộng vào các chương trình xóa mù chữ kỹ thuật số , giúp người dùng internet biết cách phân biệt đâu là thật đâu là giả.
Dollman nói: "Việc phát hiện và cố gắng loại bỏ những thứ này không còn là câu trả lời nữa. Chúng tôi cần một giải pháp lớn hơn."
(Bài viết này đề cập đến báo cáo của Associated Press)
Người phụ trách biên tập: Li Muen#
