LONDON – Di era chatbot, Character.AI, platform chatbot yang didukung oleh Google, sedang ditinjau kemudian menghadapi kritik sebab melibatkan pengguna pada konten kekerasan yang tersebut mengganggu kemudian vulgar, termasuk penembakan dalam sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang dimaksud menggambarkan beberapa momen mengerikan. Insiden semacam itu telah dilakukan mengakibatkan kemarahan dikarenakan platform digital yang disebutkan mengizinkan anak di tempat bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer kemudian Daniel de Freitas. Aplikasi komputer ini memungkinkan pengguna menghasilkan dan juga berinteraksi dengan chatbot. Penggunawan dapat mempersonalisasi kepribadian kemudian pendapat bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, serta bahkan bermain game.
Namun, wadah yang disebutkan telah lama terungkap dikarenakan kurangnya keamanan yang tersebut efektif, yang dimaksud akhirnya menjadikannya tempat berkembangnya beberapa orang konten yang digunakan berbahaya serta tak pantas. Penggunawan yang berusia 13 tahun pun dapat mendaftar, tetapi tidak ada ada cara untuk mengautentikasi verifikasi usia guna menjaga dari anak-anak yang tersebut tambahan muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang mana menjelaskan penembakan di dalam sekolah atau korban pada dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang digunakan nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer kemudian Daniel de Freitas yang mana menggambarkan mereka sebagai karakter yang dimaksud baik hati.
Beberapa pengguna telah lama melaporkan bot yang tersebut menyamar sebagai korban penembakan di dalam sekolah.
