FinTechnesia.com | Layanan Digital Footprint Intelligence Kaspersky menemukan hampir 3.000 postingan dark web yang sebagian besar membahas penggunaan ChatGPT dan LLM lain untuk aktivitas ilegal.
Para penjahat siber ini sedang menjajaki skema. Mulai menciptakan alternatif
berbahaya dari chatbot hingga melakukan jailbreak pada chatbot asli dan seterusnya. Akun dan layanan ChatGPT hasil curian yang menawarkan pembuatan otomatisnya secara massal juga membanjiri saluran dark web mencapai 3.000 postingan lain.
Pada tahun 2023, layanan Kaspersky Digital Footprint Intelligence menemukan hampir 3.000 postingan di dark web. Membahas penggunaan ChatGPT untuk tujuan ilegal atau berbicara tentang alat yang mengandalkan teknologi kecerdasan buatan (AI). Meskipun obrolan mencapai puncaknya pada bulan Maret, diskusi terus berlanjut.
Aktor ancaman secara aktif menjajaki berbagai skema untuk mengimplementasikan ChatGPT dan AI. Topiknya sering kali mencakup pengembangan malware dan jenis penggunaan model bahasa terlarang lain. Seperti pemrosesan data pengguna yang dicuri, penguraian file dari perangkat yang terinfeksi, dan lainnya.
Popularitas alat AI telah menyebabkan integrasi respons otomatis dari ChatGPT atau sejenisnya ke dalam beberapa forum penjahat dunia maya. Selain itu, pelaku ancaman cenderung membagikan jailbreak melalui berbagai saluran dark web – serangkaian perintah khusus yang dapat membuka fungsionalitas tambahan – dan merancang cara untuk mengeksploitasi alat yang sah.
Baca juga: Serangan Siber Marak, Kaspersky Luncurkan Produk Baru Amankan Aktivitas Digital
“Seperti alat untuk pentesting, berdasarkan model untuk tujuan berbahaya,” jelas Alisa Kulishenko, Analis jejak digital di Kaspersky, pekan lalu.
Selain chatbot dan kecerdasan buatan, banyak perhatian juga tertuju pada proyek seperti XXXGPT, FraudGPT, dan lainnya. Model bahasa ini dipasarkan di dark web
sebagai alternatif ChatGPT. Dengan fungsionalitas tambahan dan tidak adanya batasan asli.
Ancaman lain bagi pengguna dan perusahaan adalah pasar akun ChatGPT versi berbayar. Pada tahun 2023, sebanyak 3.000 postingan lain yang mengiklankan penjualan akun ChatGPT diidentifikasi di dark web dan saluran bayangan Telegram.
Postingan ini mendistribusikan akun curian atau mempromosikan layanan registrasi otomatis secara besar-besaran dengan membuat akun berdasarkan permintaan. Khususnya, postingan tertentu berulang kali dipublikasikan di berbagai saluran
dark web.
Meskipun alat AI itu sendiri pada dasarnya tidak berbahaya, penjahat dunia maya mencoba menemukan cara yang efisien dalam menggunakan model bahasa. Sehingga memicu tren untuk menjadikannya ancaman dunia maya dan, dalam beberapa kasus, berpotensi meningkatkan jumlah serangan siber.
Namun, kecil kemungkinannya bahwa AI generatif dan chatbots akan merevolusi lanskap serangan, setidaknya pada tahun 2024. Sifat otomatis dari serangan siber sering kali berarti pertahanan otomatis.
Meskipun demikian, tetap mendapatkan informasi tentang aktivitas penyerang sangat penting untuk menjadi yang terdepan dalam hal keamanan siber perusahaan”, kata Alisa. (jun)