SEMARANG, beritajateng.tv – Perkembangan kecerdasan buatan (Artificial Intelligence/AI) menghadirkan berbagai kemudahan, namun juga membawa risiko serius, terutama melalui teknologi deepfake dan AI agent.
Hal ini tersampaikan oleh Guru Besar Ilmu Komputer Universitas Dian Nuswantoro (Udinus), Prof. Ir. Heru Agus Santoso, Ph.D., IPM., ASEAN Eng., yang menyoroti sisi gelap dari generative AI yang kian masif publik gunakan.
Menurut Prof. Heru, deepfake merupakan dampak negatif dari generative AI yang sangat mudah pihak tidak bertanggung jawab manfaatkan. Dengan hanya memberikan konteks, prompt, dan sumber tertentu, sistem AI mampu menghasilkan konten palsu mulai dari wajah hingga suara yang sangat menyerupai sosok asli.
“Sekarang ini kita sering melihat suara atau wajah yang mirip tokoh tertentu, dan itu sangat mengganggu. Kita semakin kesulitan membedakan mana yang asli dan mana yang palsu,” ujarnya saat beritajateng.tv temui di kampus pada Kamis, 8 Januari 2026.
BACA JUGA: Mediasi Kasus Konten Porno AI SMAN 11 Semarang, DP3AP2KB: Fokus Penguatan Mental Korban untuk Lapor
Ia menjelaskan, kondisi ini diperparah oleh perlombaan pengembangan algoritma di antara perusahaan teknologi besar dunia. Setiap platform memiliki karakteristik tersendiri dalam menghasilkan konten berbasis AI.
Heru mencontohkan, ChatGPT memiliki ciri khas menghasilkan konten berdasarkan prompt pengguna. Sementara Grok memiliki keunggulan karena terintegrasi langsung dengan platform X dan berfungsi sebagai AI agent yang mampu bertindak lebih aktif.
“AI agent ini adalah teknologi baru. Jika kemampuan menghasilkan konten berbahaya pengembangannya lewat agen AI, dampaknya bisa jauh lebih masif karena sistem tersebut bekerja secara otonom,” jelasnya.
Pergeseran Paradigma AI
Heru menilai saat ini telah terjadi pergeseran paradigma AI. Jika sebelumnya kecerdasan buatan masih relatif mudah dikendalikan dengan dataset terbatas, kini AI semakin independen karena dilatih dengan data berskala sangat besar hingga miliaran parameter.
“Setiap kata dalam sebuah berita saja bisa menjadi parameter. Semakin banyak parameter, maka AI semakin kaya dan kompleks,” katanya.
Ia juga mengingatkan peringatan sejumlah pakar dunia, termasuk Geoffrey Hinton, penerima Nobel 2024 sekaligus penemu deep learning.
BACA JUGA: SMAN 11 Semarang Bergejolak, Siswa Unjuk Rasa Tuntut Transparansi Kasus Konten Porno AI Chiko
Menurutnya, semakin jauh manusia memanfaatkan AI, ada kemungkinan manusia berada pada posisi tidak lagi mampu mengendalikan teknologi tersebut.
“Seperti dalam film fiksi ilmiah, ada kemungkinan AI atau agen cerdas menjadi independen dan terputus dari keinginan manusia. Di situlah sisi bahaya AI bisa muncul,” pungkasnya.
Ia menekankan pentingnya kesadaran publik, regulasi yang kuat, serta pengembangan AI yang beretika agar kemajuan teknologi tidak justru menjadi ancaman bagi manusia. (*)
Editor: Mu’ammar R. Qadafi
