Setiap koin memiliki dua sisi. Hal ini juga berlaku untuk teknologi. Mereka datang untuk memudahkan hidup kita, untuk meningkatkan produktivitas dan efisiensi, untuk membuat sesuatu dilakukan lebih cepat, dll. Tetapi ada juga banyak orang yang lebih suka menggunakan teknologi ini untuk bersenang-senang atau, yang lebih buruk, untuk menyesatkan orang lain. Sekarang, AI membantu mereka melakukan perbuatan kotor mereka tanpa usaha. Katakanlah, mereka membuat “deepfakes” dengan menggabungkan gambar dan video asli.
Orang yang suka membuat deepfake dapat menggunakannya untuk menyebarkan informasi yang salah. Misalnya, mereka dapat menunjukkan selebritas dalam situasi palsu atau mereka dapat menyamar sebagai politisi dan mengatakan apa saja. Kami ingat ada kasus ketika penyerang menggunakan AI untuk membuat imajiner satelit palsu. Deepfake ini terlihat cukup realistis dan mengarahkan orang ke mana-mana.
Yang lebih berbahaya adalah deepfake menjadi viral dalam banyak kasus. Mereka menyebar di media sosial seperti api. Dan tidak ada yang bisa menghitung berapa banyak kerusakan yang mereka bawa. Karena Facebook adalah platform sosial paling populer, seharusnya menjadi yang terdepan dalam memerangi deepfake.
Facebook Dapat Mendeteksi Deepfake
Ternyata peneliti AI perusahaan telah mengembangkan teknologi yang dapat mendeteksi deepfake dan banyak lagi. Perusahaan mengklaim bahwa AI-nya akan melacak asal usul deepfake. Kemudian, ia akan menemukan karakteristik unik. Dan ini akan membantunya mengidentifikasi sumber deepfake.
Faktanya, Facebook belum mengembangkan teknologi ini secara mandiri. Mereka bergandengan tangan dengan target Universitas Negeri Michigan untuk menciptakan teknologi, yang mampu mewujudkan apakah video atau gambar adalah deepfake atau asli.
Metode rekayasa balik kami bergantung pada pengungkapan pola unik di balik model AI yang digunakan untuk menghasilkan satu gambar deepfake. Kami mulai dengan atribusi gambar dan kemudian bekerja untuk menemukan properti model yang digunakan untuk menghasilkan gambar. Dengan menggeneralisasi atribusi gambar ke pengenalan set terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat deepfake yang melampaui pengenalan bahwa itu belum pernah terlihat sebelumnya. Dan dengan menelusuri kesamaan di antara pola kumpulan deepfake, kami juga dapat mengetahui apakah serangkaian gambar berasal dari satu sumber. Kemampuan untuk mendeteksi deepfake mana yang telah dihasilkan dari model AI yang sama dapat berguna untuk mengungkap contoh disinformasi terkoordinasi atau serangan berbahaya lainnya yang diluncurkan menggunakan deepfake.
Facebook Juga Menggunakannya Di Bidang Lain
Menariknya, algoritme ini merupakan akar dari berbagai teknologi yang digunakan Facebook saat ini. Katakanlah, teknologi ini memungkinkan pengenalan komponen mobil berdasarkan bunyinya. Meskipun Anda belum pernah mendengar mobil sebelumnya, algoritme akan membantu Anda mengidentifikasinya.
Untuk memahami hiperparameter dengan lebih baik, pikirkan model generatif sebagai jenis mobil dan hiperparameternya sebagai berbagai komponen mesin spesifiknya. Mobil yang berbeda dapat terlihat serupa, tetapi di bawah kap mesin mereka dapat memiliki mesin yang sangat berbeda dengan komponen yang sangat berbeda. Teknik reverse engineering kami seperti mengenali komponen mobil berdasarkan bunyinya, meskipun ini adalah mobil baru yang belum pernah kami dengar sebelumnya.
