Waspada modus baru penipuan di Instagram dan facebook. Meta, perusahaan induk dari situs media sosial Facebook dan Instagram, telah mengambil tindakan baru. Hal ini terkait dengan maraknya gambar deepfake yang dibuat oleh AI. Deepfakes adalah konten buatan AI yang sulit dibedakan dari foto, video, dan audio asli.
Konten deepfake kini semakin mudah dibuat menggunakan berbagai platform yang dilengkapi teknologi AI generatif. Nick Clegg, Presiden Urusan Global di Meta, mengatakan kebijakan pemantauan dan pelabelan konten yang dihasilkan AI berlaku untuk konten yang dibuat menggunakan platform Meta dan platform non-Meta.Konten yang dihasilkan AI dikenali melalui “cap” tak kasat mata yang tertanam di file gambar. Setelah cap dikenali, Meta memberikan label khusus untuk konten yang diunggah ke Facebook, Instagram, dan thread.
Kebijakan dan fitur pemantauan AI saat ini berlaku untuk konten yang dibuat menggunakan teknologi meta. Selama beberapa bulan ke depan, sistem yang sama akan diterapkan pada konten yang dibuat oleh platform OpenAI, Midjourney, Shutterstock, dan Google. Menurut Reuters, langkah Meta menandakan arah yang harus diambil oleh kebijakan media sosial dan platform internet untuk mengurangi dampak negatif penyebaran konten palsu AI.
Hingga sistem identifikasi selesai, Meta akan meminta pengguna Instagram dan Facebook untuk menandai konten audio dan video yang dimanipulasi. Pelanggaran terhadap kebijakan ini akan mengakibatkan hukuman. Salah satu jenis konten buatan AI yang belum dapat diidentifikasi menggunakan teknologi ini adalah teks yang dihasilkan AI seperti yang dihasilkan oleh ChatGPT. “(Kapal itu berlayar) adalah masa lalu,” kata Clegg. Meta juga masih bungkam mengenai rencananya untuk mendistribusikan konten buatan AI di WhatsApp.
Penipuan Deepfake
Konten deepfake kini juga mulai digunakan untuk penipuan online. Seorang pekerja keuangan di sebuah perusahaan multinasional ditipu untuk membayar US$25 juta (Rp 392,97 miliar) kepada penipu menggunakan teknologi deepfake.
Menurut polisi Hong Kong, penipu tersebut menyamar sebagai kepala keuangan perusahaan dalam konferensi video menggunakan deepfake. Korban diminta dan ditipu untuk mengikuti video call yang diduga melibatkan beberapa karyawan lainnya. Namun sebenarnya semuanya adalah replika palsu, kata polisi Hong Kong, Senin (5/2/2024), seperti dikutip CNN International. Pengamat senior Baron Zhang Xunqing mengatakan kepada penyiar publik kota RTHK: “Semua orang yang dia lihat dalam konferensi video yang dihadiri banyak orang ternyata palsu”.
Namun, karyawan tersebut mengesampingkan keraguan awalnya setelah panggilan video tersebut. Chan mengatakan itu karena orang lain yang hadir terlihat dan terdengar seperti rekan kerja yang dia kenal. Oleh karena itu, para karyawan setuju untuk mengirimkan sejumlah US$200 juta dolar Hong kong atau sekitar Rp392,97 miliar. Kasus ini adalah salah satu dari sekian banyak kasus yang terkait dengan teknologi deepfake. Pada konferensi pers Jumat lalu, polisi Hong Kong mengumumkan bahwa mereka telah menangkap enam orang sehubungan dengan penipuan tersebut.
