Ledifha.com – JAKARTA – Kecerdasan buatan kerap disalahgunakan untuk memanipulasi foto atau video alias aksi deepfake . Hal ini pun merambah program Telegram.
Pada awal 2020, ahli deepfake Henry Ajder menemukan salah satu bot Telegram pertama yang dimaksud menciptakan lebih lanjut dari 100.000 foto anak-anak. Temuan ini menandai momen aksi mirip yang dimaksud makin masif juga meluas. Sejak itu, aksi deepfakes menjadi lebih tinggi umum, lebih besar merusak, kemudian mudah diproduksi.
Laman Wired melansir, hari terakhir pekan (18/10/2024) komunitas Telegram yang terlibat dengan konten eksplisit non-konsensual mengidentifikasi 50 bot yang digunakan mengklaim dapat menciptakan foto atau video eksplisit dari orang dengan semata-mata beberapa klik. Bot-bot ini bervariasi kemampuannya, mulai dari menghilangkan pakaian dari area obyek foto hingga menggambarkan obyek di berbagai tindakan seksual.
Puluhan bot yang disebutkan mencantumkan tambahan dari 4 jt pengguna bulanan secara akumulatif. Sebanyak dua bot mencantumkan lebih lanjut dari 400.000 pengguna bulanan masing-masing, sementara 14 lainnya mencantumkan lebih besar dari 100.000 anggota.
Temuan ini menggambarkan seberapa luas alat pembuatan deepfake eksplisit sudah menjadi dan juga meningkatkan kekuatan tempat Telegram sebagai salah satu lokasi paling menonjol. Namun, snapshot, yang tersebut sebagian besar mencakup bot berbahasa Inggris, kemungkinan merupakan sebagian kecil dari keseluruhan bot deepfake dalam Telegram.
“Kita berbicara tentang peningkatan yang signifikan, urutan besarnya di total orang yang mana jelas-jelas secara berpartisipasi menggunakan juga menyebabkan jenis konten ini,” kata Ajder tentang bot Telegram.
Ia mengkhawatirkan bot ini merusak hidup kemudian menciptakan skenario yang sangat mengerikan khususnya bagi perempuan.
Konten deepfake non-konsensual eksplisit, yang tersebut banyak disebut sebagai penyalahgunaan gambar intim non-konsensual (NCII) pertama kali muncul pada akhir 2017, dengan kemajuan Artificial Intelligence generatif. Di seluruh internet, beberapa jumlah situs web dengan pencarian “nudify” serta “undress” berada di area samping alat yang lebih lanjut canggih kemudian bot Telegram, lalu digunakan untuk memiliki target ribuan wanita lalu gadis dalam seluruh dunia.
Dalam survei terbaru, dilaporkan 40 persen siswa Amerika Serikat mengetahui deepfakes yang terkait dengan sekolah K-12 mereka itu pada setahun terakhir.