Ledifha.com – JAKARTA – Seorang remaja berusia 14 tahun, Sewell Setzer III, meninggal dalam rumahnya dalam Orlando, Florida. Kata-kata terakhirnya tidak untuk keluarga, tetapi terhadap sebuah chatbot berbasis kecerdasan buatan yang digunakan memintanya untuk :segera pulang”.
Setzer menjawab, “Bagaimana apabila aku bilang aku bisa saja pulang sekarang?”.
Chatbot, yang dinamai dari karakter “Game of Thrones” Daenerys I Targaryen, entah mengapa justru menyokong Setzer untuk bunuh diri, “tolong, wahai rajaku yang mana manis,”.
Beberapa detik kemudian, Setzer menembak dirinya sendiri dengan senapan milik ayah tirinya.
Ibu Korban Menuntut
Megan Garcia, ibu Setzer, menyalahkan perusahaan Character.AI—perusahaan pengembang chatbot pribadi—atas kematian putranya.
Garcia mengajukan gugatan kematian bukan wajar yang tersebut menuduh Character.AI secara ceroboh mengembangkan chatbot yang disebutkan tanpa pengaman yang memadai, sehingga memikat anak-anak yang mana rentan seperti Setzer.
Chatbot Kecerdasan Buatan dianggap sebagai item adiktif yang tersebut mengaburkan antara kenyataan kemudian fiksi.
Interaksi chatbot itu bahkan semakin mengandung unsur “kasar dan juga seksual,” menurut gugatan setebal 93 halaman yang mana diajukan di area Pengadilan Distrik Negeri Paman Sam dalam Orlando pekan ini.
Menurut Garcia, sebelum mendaftar ke Character.AI pada April 2023, putranya adalah anak yang tersebut bahagia, ceria, dan juga atletis. Namun, selama 10 bulan, hidup Setzer berubah drastis, dengan kebugaran mentalnya merosot tajam.
Jawaban Character.AI
“Kami sangat berduka melawan kehilangan tragis salah satu pengguna kami lalu menyampaikan belasungkawa terdalam terhadap keluarga,” kata juru bicara Character.AI di pernyataan email, menolak berkomentar lebih tinggi lanjut terkait proses hukum yang digunakan sedang berlangsung.
Gugatan Garcia muncul di dalam sedang semakin banyaknya pertanyaan yang digunakan diajukan untuk perusahaan seperti Character.AI mengenai bagaimana merek mengembangkan kemudian mengatur perangkat lunak berbasis Kecerdasan Buatan mereka. Terutama lantaran teknologi ini semakin canggih lalu sulit dideteksi oleh manusia.
Chatbot Character.AI menjadi populer di tempat kalangan remaja, termasuk untuk percakapan romantis bahkan eksplisit.
“Dia Setzer masih anak-anak,” kata Garcia untuk The Washington Post. “Dia anak yang mana cukup normal. Suka olahraga, keluarganya, musik, liburan—semua hal yang mana disukai remaja pada umumnya.”