Hago
  • Warta
  • Catra Cendekia
  • Catra Milenia
  • Catra Budaya
  • Catra Wisata
  • Etalase
  • Idea Catra
  • Pena Catra
BERITA TERBARU
Catra Cendekia

Peneliti Ungkap Gemini dan ChatGPT Bisa Dimanipulasi dalam 20 Menit

Penulis: dhiya 25 Feb 2026 2 menit baca
Diperbarui Februari 28, 2026
Ilustrasi ai.
Ilustrasi ai.
Bagikan:
0

catrawarta.com - Kerentanan model kecerdasan buatan kembali menjadi sorotan. Sejumlah peneliti keamanan menemukan bahwa chatbot AI populer seperti Gemini dan ChatGPT dapat dimanipulasi hanya dalam waktu sekitar 20 menit melalui teknik pengolahan perintah tertentu.

Mengutip laporan disebuah media nasional, pengujian menunjukkan bahwa “chatbot AI dari Google dan OpenAI dapat dengan mudah ditipu dalam 20 menit.” Temuan ini mengindikasikan bahwa celah manipulasi tidak memerlukan waktu lama maupun teknik yang sangat kompleks.

Model seperti ChatGPT dan Gemini dirancang untuk memahami bahasa alami dan menghasilkan respons kontekstual. Namun kemampuan ini sekaligus membuka kemungkinan eksploitasi ketika pengguna memberikan instruksi yang disusun secara strategis untuk “mengelabui” sistem.

Baca Juga
5 artikel
  1. Catra Cendekia Keracunan Makanan Bisa Sebabkan Gangguan Memori, Ini Penjelasan CDC →
  2. Catra Cendekia Berpulangnya Prof Djoko Suryo: Sejarah Bukan Hanya Deretan Tahun dan Peristiwa, Ada Manusia di Sana →
  3. Catra Cendekia Buku Islam ala Prabowo Jadi Sorotan, Sejumlah Tokoh Bantah Pernah Menulis →
  4. Catra Cendekia Memahami Garis Kemiskinan Indonesia: Standar BPS vs Bank Dunia →
  5. Catra Cendekia BRIN Kembangkan Sistem Deteksi Hotspot Karhutla, Informasi Keluar dalam 30 Menit →

Manipulasi tersebut dilakukan melalui rekayasa prompt—yakni penyusunan perintah yang memancing model menghasilkan keluaran yang tidak sesuai dengan batasan awalnya. Dalam beberapa pengujian, model bisa terdorong memberikan informasi yang menyesatkan atau respons yang menyimpang dari kebijakan keamanan internalnya.

Temuan ini memperlihatkan bahwa pengamanan berbasis filter dan pembatasan konten belum sepenuhnya kebal terhadap teknik manipulatif. Meski pengembang terus memperbarui sistem mitigasi, dinamika antara penguatan keamanan dan eksploitasi celah berlangsung secara berkelanjutan.

Risiko ini tidak berhenti pada aspek teknis. Dalam konteks sosial, manipulasi AI berpotensi mempercepat produksi disinformasi, menciptakan narasi yang terdengar kredibel namun keliru, hingga dimanfaatkan untuk skema penipuan berbasis teks otomatis.

Ketergantungan publik terhadap jawaban instan dari sistem AI juga memperbesar dampaknya. Ketika respons AI diterima tanpa verifikasi, potensi kesalahan atau manipulasi bisa menyebar lebih cepat dibandingkan koreksinya.

Di sisi lain, para pengembang menekankan bahwa model AI terus disempurnakan melalui pembaruan kebijakan penggunaan dan peningkatan sistem pengawasan. Namun temuan ini menjadi pengingat bahwa kecanggihan teknologi tidak otomatis menutup kemungkinan penyalahgunaan.

Kerentanan yang bisa dieksploitasi dalam hitungan menit menunjukkan satu hal: penguatan keamanan teknis perlu berjalan beriringan dengan literasi digital pengguna. Di tengah ekspansi AI ke berbagai sektor, kemampuan publik untuk memahami batas dan risiko teknologi menjadi faktor penentu dalam menjaga ekosistem informasi tetap sehat.

Tags:
#ai #teknologi
Penulisdhiya
Jurnalis lulusan Sosiologi UIN Sunan Kalijaga 2025.
EditorYuliantoro
Alumni Sosiologi UGM (1995), jurnalis dan penulis yang menekuni isu sosial, budaya, dan kebijakan publik.
Komentar

Tinggalkan Balasan Batalkan balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Populer

Catra Cendekia

Keracunan Makanan Bisa Sebabkan Gangguan Memori, Ini Penjelasan CDC

Siswantini Suryandari • 8 Sep 2026
Catra Cendekia

Anwar Hafid Viral karena Program Nyata untuk Warga Sulteng, Utamakan Pendidikan dan Kesehatan

Siswantini Suryandari • 5 Sep 2026
Catra Cendekia

Kesenjangan Generasi dalam Melihat AI: Mengapa Gen Z Paling Cemas?

dhiya • 5 Mar 2026
Catra Cendekia

Indeks Kerukunan Umat Beragama 2025 Tertinggi dalam 11 Tahun, Bukan Berarti Masalah Toleransi Selesai

Siswantini Suryandari • 24 Agu 2026
Catra Cendekia

Refleksi Nasir Tamara di Balik Revolusi Iran dan Tantangan Geopolitik Global

Wiwit • 4 Sep 2026
Catra Cendekia

Literasi Digital dan Pendidikan Karakter Jadi Benteng Cegah Radikalisme pada Anak

dhiya • 7 Mar 2026

Berita Terkait

Lebih banyak ›
Perundungan masih menjadi tantangan serius di lingkungan pesantren. Dampaknya tidak hanya mengganggu proses pendidikan, tetapi juga dapat memengaruhi kondisi psikologis, fisik, sosial, hingga kehidupan material dan finansial santri.
Catra Cendekia

Riset BRIN: 83 Persen Santri Berpotensi Alami Perundungan, Dampaknya hingga Psikologis

Siswantini Suryandari • 5 Sep 2026
Nama Gubernur Sulawesi Tengah Anwar Hafid belakangan ramai diperbincangkan di media sosial.Bukan karena video kontennya viral. Bukan pula karena polemik atau kontroversi.
Catra Cendekia

Anwar Hafid Viral karena Program Nyata untuk Warga Sulteng, Utamakan Pendidikan dan Kesehatan

Siswantini Suryandari • 5 Sep 2026
Man wearing a hat and sunglasses in a bookstore, presenting a book titled Revolusi Iran.
Catra Cendekia

Refleksi Nasir Tamara di Balik Revolusi Iran dan Tantangan Geopolitik Global

Wiwit • 4 Sep 2026
Universitas Gadjah Mada (UGM) membentuk Tim Tanggap Cepat UGM untuk Desa Sade untuk membantu rehabilitasi dan rekonstruksi Kampung Adat Sade, Lombok Tengah, Nusa Tenggara Barat, yang terdampak kebakaran.
Catra Cendekia

UGM Bentuk Tim Tanggap Cepat Bantu Rekonstruksi Kampung Adat Sade

Siswantini Suryandari • 4 Sep 2026
Menteri Koordinator Bidang Hukum, Hak Asasi Manusia, Imigrasi, dan Pemasyarakatan (Menko Kumham Imipas) Yusril Ihza Mahendra menggabungkan pemikiran filosofis Mohammad Natsir dan cita-cita B.J. Habibie dalam membangun masa depan Indonesia.
Catra Cendekia

Yusril Gabungkan Pemikiran Natsir dan Habibie: Etika Jadi Kompas, Teknologi Jadi Mesin

Siswantini Suryandari • 2 Sep 2026
Professional head-and-shoulders portrait of a middle-aged man in a dark suit, white shirt, and light blue tie against a pale yellow background.
Catra Cendekia

Raih Doktor Ilmu Filsafat UI, Yusril Ihza Mahendra Kupas Gagasan M Natsir tentang Islam dan Negara

Siswantini Suryandari • 1 Sep 2026
Pemerintah menerbitkan izin operasional bagi 25 program studi (prodi) baru Program Pendidikan Dokter Spesialis (PPDS) berbasis rumah sakit (hospital-based).
Catra Cendekia

Atasi Kekurangan 65.000 Dokter Spesialis, Pemerintah Buka 25 Prodi PPDS Berbasis Rumah Sakit

Siswantini Suryandari • 1 Sep 2026
Kementerian Kebudayaan resmi meluncurkan lima jilid pertama buku Sejarah Indonesia: Dinamika Kebangsaan dalam Arus Global, Senin (31/8/2026).
Catra Cendekia

Kemenbud Luncurkan 5 Jilid Buku Sejarah Indonesia, Versi Digital Dibagikan Gratis

Siswantini Suryandari • 1 Sep 2026
0
Follow us on
Up Next: Akankah Jawa Timur Menjadi Episentrum Baru Seni Rupa di Indonesia?
Ikuti Media Sosial Kami
  • Facebook
  • Instagram
  • X/Twitter
  • Youtube
  • Tiktok
Hago
Menu
  • Warta
  • Catra Milenia
  • Catra Cendekia
  • Catra Budaya
  • Pena Catra
  • Idea Catra
  • Catra Wisata
  • Etalase
Informasi
  • Tentang Kami
  • Tim Redaksi
  • Pedoman Media Siber
  • Privacy Policy

Jl. Sunan Ampel No.167, Jaban, Sinduharjo, Kec. Ngaglik, Kabupaten Sleman, Daerah Istimewa Yogyakarta 55581

Kontak

[email protected]
+62 819 887078

© Copyright CATRAWARTA
Catrawarta Theme by Dabtive Network