Khi mở tin nhắn, Song bàng hoàng khi thấy những bức ảnh khiêu dâm của chính mình. Nhưng chúng là ảnh deepfake, được chỉnh sửa bằng kỹ thuật số và gần như không thể phân biệt được với ảnh thực tế.

"Tôi rất sốc và sợ hãi. Dù biết là giả mạo nhưng chúng vẫn có vẻ rất thật. Tôi đã mong đó chỉ là một cơn ác mộng", Song nói. Tuy nhiên, các tin nhắn vẫn tiếp tục được gửi đến, hỏi Song có thực sự là người chụp ảnh khiêu dâm hay không, một số còn yêu cầu Song "giúp vui cho họ".

Ban đầu, Song cố giải thích đó không phải là cô, thậm chí nhờ một số người trong số họ giúp đỡ. Nhưng việc cô trả lời tất cả tin nhắn dường như chỉ khiến họ phấn khích hơn. Các tin nhắn không ngừng lại và yêu cầu của họ ngày càng tồi tệ hơn.

Nỗi sợ hãi ngày càng tăng

Song là một trong số ngày càng nhiều nạn nhân của deepfake khiêu dâm, nhiều người trong đó ở độ tuổi vị thành niên.

Theo Viện Nhân quyền Phụ nữ Hàn Quốc, tổng cộng 2.154 người đã tìm kiếm sự giúp đỡ tại trung tâm hỗ trợ nạn nhân bị lạm dụng tình dục trực tuyến do nội dung deepfake khiêu dâm, từ tháng 4/2018 đến tháng 8/2024. Trong số 781 nạn nhân kêu cứu trong năm nay, có 288 người là trẻ vị thành niên, tương đương 36,9%. Số trẻ vị thành niên tìm kiếm trợ giúp do deepfake cũng tăng theo cấp số nhân trong những năm gần đây.

Nhiều thủ phạm cũng ở độ tuổi vị thành niên và số lượng ngày càng tăng do việc tiếp cận công nghệ deepfake ngày càng dễ dàng. Trong số tất cả nghi phạm bị buộc tội tạo video deepfake, vị thành niên chiếm 75,8% vào năm 2023. Tỷ lệ này năm nay vẫn ở mức cao, chiếm 73,6% theo thống kê từ tháng 1 đến tháng 7.

Do lo ngại về tội phạm sử dụng công nghệ trí tuệ nhân tạo tăng mạnh, ngày 28/8, Bộ Giáo dục Hàn Quốc cho biết sẽ có lập trường vững chắc chống lại tội phạm deepfake khiêu dâm trong trường học.

Hình phạt dành cho thủ phạm có thể bao gồm đuổi học, mức cao nhất trong hệ thống hình phạt 9 bậc của Bộ dành cho học sinh trung học phổ thông liên quan đến bạo lực học đường. Đối với những thủ phạm ở cấp tiểu học hoặc trung học cơ sở, việc chuyển trường là hình phạt tối đa vì chính sách giáo dục bắt buộc.

Lý giải về việc trẻ vị thành niên tạo và phân phối nội dung deepfake khiêu dâm, giáo sư Bae Sang-hoon từ Cục Quản lý Cảnh sát của Đại học Woosuk đề cập đến "chủ nghĩa coi mình là trung tâm ở thanh thiếu niên", ham muốn thể hiện bản thân vượt trội hơn các bạn cùng lứa qua việc thử nghiệm thứ gì đó đi chệch khỏi các chuẩn mực xã hội.

Nhà tâm lý học pháp y Lee Soo-jung cho rằng có khả năng thủ phạm không coi hành động của họ là tội ác, chỉ để giải tỏa sự tò mò và hứng thú. Vì thế, các phương pháp giáo dục phù hợp phải được áp dụng để giúp nhiều người nhận ra đây là một tội ác chứ không phải một hình thức giải trí.

Lỗ hổng luật pháp

Công nghệ deepfake phát triển nhanh chóng trong những năm gần đây, với các công cụ trí tuệ nhân tạo sẵn có cho phép người dùng bình thường dễ dàng tạo ra các nội dung deepfake.

Theo Đạo luật về các trường hợp đặc biệt liên quan đến trừng phạt tội phạm tình dục, bất kỳ ai chỉnh sửa, tổng hợp hoặc xử lý nội dung deepfake khiêu dâm đều có thể bị phạt tới 5 năm tù hoặc phạt tiền tới 50 triệu won (37.400 USD). Những người phân phối nội dung vì lợi nhuận có thể bị phạt tới 7 năm tù. Tuy nhiên, hiện không có luật nào trừng phạt những người tải xuống hoặc xem nội dung deepfake khiêu dâm.

Luật sư nhân quyền Min Go-eun nói: "Hiện tại, luật pháp trừng phạt hành vi xem các video khiêu dâm được quay mà không có sự đồng ý, nhưng luật này chưa có đối với deepfake. Ngày nay, công nghệ đã tiến bộ đến mức khó có thể xác định được deepfake từ một bức ảnh hoặc video thực tế. Tuy nhiên, luật vẫn còn những lỗ hổng khi không coi deepfake là hình ảnh hoặc đoạn phim được quay chụp trái phép".

Theo Cơ quan Cảnh sát Quốc gia, tỷ lệ bắt giữ tội phạm deepfake trong ba năm qua ở mức 47,4% vào năm 2021, 46,9% vào năm 2022 và 51,7% vào năm 2023. Từ tháng 1 đến tháng 7, con số này là 49,5%.

Cảnh sát đang nỗ lực nâng cấp phần mềm phát hiện deepfake và tiến hành các cuộc điều tra bí mật để tăng tỷ lệ bắt giữ. Phần mềm phát hiện deepfake được phát triển vào tháng 3 xác định tính xác thực của nội dung deepfake trong vòng 10 phút và có tỷ lệ phát hiện 80%.

Tuệ Anh(Theo Korea Herald,Korea Times)

Mọi khoản lương, thưởng anh đều đưa tôi nắm giữ vì công ty chuyển khoản thẳng vào tài khoản của tôi. Sáng, anh đưa con đi học rồi đi làm, chiều anh về thẳng nhà. Họa hoằn lắm, anh mới nhậu với bạn và đều báo cho tôi biết nên tôi không nghi ngờ gì.

Chồng tôi là người chu đáo, mọi việc bên gia đình vợ anh đều lo chu toàn. Tôi lấy chồng xa gia đình nhưng người hay gọi điện hỏi thăm ba mẹ tôi lại là chồng tôi. Ai cũng nói tôi tốt phước lấy được anh, tôi cũng không chê trách điều gì ở anh cả.

Vừa rồi, bạn thân tôi nhắn tin: “Mày xem lại chồng đi, ổng bình luận trên mạng ngọt ngào lắm, để ý nha”. Tôi vốn tin chồng, không bao giờ nghĩ anh ngoại tình nhưng nghe bạn nói, tôi bắt đầu để ý mọi hoạt động của chồng trên mạng xã hội.

Trang facebook của chồng tôi có rất nhiều bạn bè là nữ, mỗi lần anh đăng bài, rất nhiều cô vào bình luận. Chồng tôi là người vui vẻ nên hay đăng những status vui hài hay thơ tình kiểu “thả thính”. Có cô còn trêu: “Anh gửi thơ cho em hả?”, có người lại nói: “Mình viết thơ cho em đấy ư?” hay: “Sao mình bảo chỉ có em mà còn viết cho đứa nào?”. Chồng tôi đều vui vẻ ngọt ngào: “Anh chỉ có mình em” rồi “Thơ viết cho mình chứ còn ai”…

Trước đây, tôi không để ý những bình luận đó, nghĩ rằng mọi người đều “chém gió” cho vui. Giờ bạn tôi nhắc, đọc tôi thấy khó chịu. Tôi phàn nàn, anh bảo: “Mọi thứ của anh. kể cả thu nhập, em đều nắm giữ, anh làm gì có cơ hội đi ngoại tình? Bình luận trên mạng chỉ vui chứ ai đi ngoại tình lại công khai thế?”. Tôi nghĩ cũng thấy đúng nên bỏ qua.

Hôm vừa rồi, người em họ của tôi nhắn: “Chị coi ảnh bình luận trên facebook kìa, anh có ngọt ngào với chị vậy không?”. Tôi cười xòa, an ủi em nhưng trong lòng ấm ức. Tôi lén lấy điện thoại chồng xem có tin nhắn nào ngọt ngào không, điều tôi chưa làm bao giờ. Điện thoại chồng tôi không để mật khẩu, anh cũng hay cho con mượn chơi. Tôi xem tin nhắn thì không có gì.

Trong đầu tôi thắc mắc nhiều lắm, không biết có phải anh nhắn tin với ai đó và đã xóa đi không? Tôi lại cằn nhằn anh đừng bình luận ngọt ngào kiểu đó người ta đánh giá, thực ra vì tôi khó chịu. Anh nói: "Anh làm gì sai để sợ đánh giá? Em quản lý mọi thứ của anh, đến làm gì, nói gì trên mạng em cũng tính quản lý anh nốt à?". Nghe anh nói vậy tôi im và quyết định không quan tâm nữa.

Anh vẫn vậy, quan tâm vợ con và chu toàn mọi việc trong gia đình nhưng vẫn hay bình luận ngọt ngào trên mạng với người khác. Trong lòng tôi không thoải mái chút nào. Tôi phải làm sao?

Độc giảThủy Tiên

Người chồng tôi vốn tin tưởng hoàn toàn đã… ngoại tình

Đối với tôi, anh là một người chồng mẫu mực, tôi vốn tin tưởng anh hoàn toàn nhưng không ngờ cuối cùng lại bị “cắm sừng” một cách bẽ bàng.

Một nam sinh cùng lớp đã dùng ít nhất hai tấm ảnh trên tài khoản mạng xã hội của Berry, rồi dùng phần mềm "loại bỏ quần áo" bằng trí tuệ nhân tạo (AI) để tạo ảnh deepfake khỏa thân mang gương mặt cô. Hai người bạn của Berry cũng trở thành nạn nhân của trò chỉnh sửa ảnh này.

Sử dụng tài khoản Snapchat ẩn danh, nam sinh trên đã chia sẻ các bức ảnh cắt ghép cho bạn bè trong trường. Trong ngày hôm đó, cậu ta còn tạo và đăng ảnh khỏa thân cắt ghép của 6 nữ sinh khác trong nhóm bạn bè của Berry.

Deepfake là kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí tạo được cả giọng nói.

"Tôi chưa từng nghĩ ai đó lại có thể hành động như vậy", Berry, hiện 15 tuổi, kể lại trong cuộc phỏng vấn ngày 19/6.