Google Berusaha Mengatasi Deepfake AI, Efektivitasnya Diragukan!

Updated

August 3, 2024

Gambar Google Berusaha Mengatasi Deepfake AI, Efektivitasnya Diragukan!

Jakarta, Pintu News – Google sedang meningkatkan inisiatifnya untuk menghilangkan gambar dan video deepfake AI eksplisit dari hasil pencarian. Namun, meskipun ada upaya yang intensif, efektivitas langkah-langkah ini masih dipertanyakan oleh banyak pihak. Berikut adalah gambaran lengkap mengenai situasi ini dan upaya yang dilakukan oleh Google!

Langkah-langkah Google dalam Mengatasi Deepfake

Google telah mengizinkan orang untuk meminta penghapusan deepfake eksplisit, namun peningkatan dalam pembuatan gambar dengan AI generatif memerlukan langkah yang lebih kuat. Sistem permintaan telah disederhanakan untuk pengajuan dan pemrosesan yang lebih cepat dan efisien.

Setelah permintaan divalidasi, algoritma Google juga akan menyaring hasil eksplisit serupa yang terkait dengan individu tersebut. Ini berarti korban tidak perlu mencari setiap variasi yang mungkin menampilkan konten tersebut. Sistem Google akan secara otomatis mengidentifikasi dan menghapus duplikat gambar dan konten terkait, mengatasi penyebaran gambar semacam itu di internet.

Tantangan dan Kegagalan dalam Penerapan Kebijakan

google ai dituntut — Sumber: The New York post

Meskipun Google telah melaporkan beberapa keberhasilan dalam mengurangi deepfake eksplisit, dengan pengujian awal menunjukkan penurunan lebih dari 70%, langkah ini belum sepenuhnya efektif. Konten semacam itu masih bisa ditemukan di internet, dan upaya untuk menghapusnya sepenuhnya hampir mustahil.

YouTube, yang dimiliki oleh Google, juga telah meningkatkan langkah-langkahnya terhadap deepfake yang tidak sah. Sebelumnya, YouTube hanya menandai konten yang dibuat atau menyesatkan oleh AI.

Sekarang, individu yang digambarkan dalam video semacam itu dapat mengajukan keluhan privasi, yang kemudian memberikan waktu kepada pemilik video untuk menghapusnya sebelum mengkaji ulang keluhan tersebut.

Langkah Lanjutan dan Hukum Terkait

Media sosial seperti Facebook dan Instagram juga telah merevisi kebijakan mereka untuk memerangi konten eksplisit yang dihasilkan AI. Dewan Pengawas Meta baru-baru ini menyarankan perubahan untuk memasukkan konten semacam itu dan meningkatkan proses banding.

Di sisi hukum, New York State telah memberlakukan undang-undang yang menargetkan pornografi non-konsensual yang dihasilkan AI di bawah undang-undang “revenge porn”.

Di tingkat nasional, Senat AS telah memperkenalkan NO FAKES Act of 2024 untuk menangani konten eksplisit dan penggunaan deepfake visual serta suara non-konsensual. Australia juga sedang merancang undang-undang untuk mengkriminalkan pembuatan dan distribusi deepfake eksplisit non-konsensual.

Kesimpulan

Upaya Google untuk menghapus deepfake eksplisit dari hasil pencarian merupakan langkah penting dalam mengatasi masalah ini. Meskipun ada beberapa keberhasilan awal, tantangan yang dihadapi masih besar.

Konten semacam itu sulit dihapus sepenuhnya dari internet, dan pendekatan proaktif serta berkelanjutan diperlukan untuk mengelola dan mengurangi penyebaran konten berbahaya ini.

Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.

*DISCLAIMER
Konten ini bertujuan untuk memperkaya informasi pembaca. Pintu mengumpulkan informasi ini dari berbagai sumber relevan dan tidak terpengaruh oleh pihak luar. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca.

Referensi