Trí tuệ nhân tạo (AI) đang tích cực định hình lại thế giới của chúng ta. Tuy nhiên, bên cạnh những mặt tích cực đáng kể có khả năng cải thiện nhiều khía cạnh trong cuộc sống hàng ngày, AI cũng tiềm ẩn những thách thức. Các công ty đang sử dụng AI để giảm ùn tắc giao thông hay chẩn đoán bệnh sớm, còn ở cấp độ cá nhân, AI có thể hỗ trợ dịch thuật thời gian thực, viết code, tự động hóa công việc lặp đi lặp lại, học hỏi chủ đề phức tạp và cho các ứng dụng sáng tạo như tạo video, hình ảnh. Tuy nhiên, khả năng tạo hình ảnh và video bằng AI lại là một con dao hai lưỡi. Mặc dù mang đến một kênh sáng tạo mới, tiềm năng lạm dụng công nghệ này cũng đặt ra một thách thức lớn — một thách thức mà Meta dường như đang phải đối mặt.
Hầu hết các ứng dụng tạo ảnh và video AI lớn đều có các biện pháp ngăn chặn việc tạo deepfake, sao chép tác phẩm của nghệ sĩ khác, tạo nội dung sai lệch, v.v., cùng với các công cụ watermark để phân biệt nội dung thật và nội dung do AI tạo ra. Tuy nhiên, ở một thái cực khác, lại có những nền tảng tích cực cung cấp công cụ để tạo ra hình ảnh khỏa thân và/hoặc nội dung khiêu dâm bằng AI từ ảnh của người khác mà không có sự đồng thuận của họ. Meta hiện đang mạnh tay trấn áp một nền tảng nổi bật như vậy.
Ứng dụng AI trên màn hình điện thoại
Meta Triển Khai Biện Pháp Phòng Vệ Mới
Meta đã đệ đơn kiện một công ty có trụ sở tại Hồng Kông (Joy Timeline HK Limited), đơn vị đứng sau ứng dụng Crush AI và các ứng dụng “nudify” tương tự. Công ty này thường xuyên tìm cách lách quy trình xét duyệt quảng cáo của Meta. Giờ đây, Meta đang thực hiện các bước bổ sung để đảm bảo những quảng cáo như vậy không còn xuất hiện trên các nền tảng như Instagram và Facebook.
Hình ảnh con hổ tạo bởi AI hiển thị trên điện thoại
Meta cho biết vụ kiện “diễn ra sau nhiều lần Joy Timeline HK Limited cố gắng lách quy trình xét duyệt quảng cáo của Meta và tiếp tục đặt các quảng cáo này, sau khi chúng liên tục bị gỡ bỏ vì vi phạm quy tắc của chúng tôi.” Vì vậy, mặc dù hành động này liên quan đến các ứng dụng cho phép người dùng tạo tài liệu khiêu dâm từ ảnh của người khác, vụ kiện về bản chất nhắm vào việc Joy Timeline HK Limited liên tục và cố ý né tránh các chính sách quảng cáo của Meta.
Công ty cũng cho biết thêm rằng, trong thời gian tới, khi phát hiện và gỡ bỏ quảng cáo, tài khoản hoặc nội dung vi phạm, họ sẽ chia sẻ thông tin – bắt đầu với các URL dẫn đến các ứng dụng và trang web vi phạm – với các công ty công nghệ khác thông qua chương trình Lantern của Tech Coalition, để họ cũng có thể điều tra và hành động. Meta cũng đang triển khai các biện pháp phòng vệ bổ sung được thiết kế để phát hiện loại quảng cáo này, ngay cả khi nội dung quảng cáo không chứa hình ảnh khỏa thân rõ ràng.
Động thái này được đưa ra ngay sau khi Ban Giám sát (Oversight Board), một cơ quan độc lập giám sát các quyết định kiểm duyệt nội dung trên các nền tảng như Facebook và Instagram, chỉ trích Meta vì chưa đủ nỗ lực trong việc thực thi các quy định của chính mình.
Biển quảng cáo Google AI tượng trưng cho các vấn đề đạo đức
Kết luận
Vụ kiện của Meta chống lại Joy Timeline HK Limited nhấn mạnh cuộc chiến không ngừng nghỉ của các nền tảng công nghệ lớn trước vấn nạn lạm dụng AI, đặc biệt là trong lĩnh vực tạo ảnh và video. Việc nhắm vào hành vi né tránh chính sách quảng cáo cho thấy một cách tiếp cận pháp lý để giải quyết vấn đề, đồng thời việc triển khai các biện pháp phát hiện nâng cao và chia sẻ thông tin với đối tác cho thấy nỗ lực rộng hơn nhằm tạo ra một môi trường trực tuyến an toàn hơn. Thách thức về đạo đức và kiểm soát nội dung do AI tạo ra vẫn còn rất lớn, đòi hỏi sự phối hợp liên tục giữa các công ty công nghệ và các cơ quan giám sát.