Ai · 06 November 2026, 07:49 WIB
Ringkasan
Kecerdasan buatan kini diberi kewenangan mengambil keputusan dan menjalankan tindakan di sektor keuangan serta kesehatan. Pemerintah menyebut kesalahan pada agen AI bisa berakibat fatal, sehingga regulasi dan tata kelola data mutlak diperkuat.
Kecerdasan buatan kini tidak lagi sekadar alat bantu menulis atau menggambar. Di sektor keuangan dan kesehatan, AI mulai diberi kewenangan untuk mengambil keputusan dan menjalankan tindakan, bentuk yang oleh kalangan industri disebut agen AI atau agentic AI.
Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan, pada layanan keuangan seperti perbankan, AI yang diberi otoritas melakukan tindakan dan pengambilan keputusan bisa berakibat fatal jika terjadi kesalahan. Kesalahan eksekusi berpotensi menimbulkan kerugian finansial besar bahkan krisis sistemik.
Risiko serupa muncul di kesehatan. AI yang membantu menegakkan diagnosis dan mengarahkan intervensi medis bisa membahayakan nyawa pasien bila terjadi kegagalan sistem atau salah diagnosis. Kerahasiaan data pasien yang sensitif juga ikut terancam.
Mengapa Agen AI Berbahaya?
Data menjadi bahan bakar utama pengembangan AI. Karena itu tata kelola data yang ketat mutlak dibutuhkan agar informasi pribadi tidak bocor atau dipakai tanpa dasar yang jelas. Pemerintah menyebut hal ini bagian dari mitigasi risiko, bukan sekadar formalitas administratif. Selain itu, pertukaran data lintas sektor menuntut standar keamanan yang sama tinggi, karena satu kebocoran bisa merontokkan kepercayaan publik.
Regulasi mulai disiapkan. Pemerintah menyiapkan dua peraturan presiden, yaitu Perpres Etika Kecerdasan Artifisial dan Perpres Peta Jalan Kecerdasan Artifisial Nasional 2026-2029. Aturan itu dirancang agar inovasi tetap berjalan sambil menjaga kendali manusia.
Perpres Etika menggunakan pendekatan berbasis risiko. AI yang membahayakan keselamatan atau hak warga negara dilarang, misalnya pengenalan wajah untuk memantau masyarakat secara massal di ruang publik tanpa dasar hukum yang sah. Keputusan akhir tetap harus di tangan manusia.
Regulasi yang Sedang Disiapkan
Di sisi lain, agen AI mulai dipakai dalam praktik nyata. BPJS Kesehatan memanfaatkan agen AI untuk mendeteksi potensi kecurangan klaim, sementara perbankan memakainya untuk melayani nasabah. Teknologi ini bahkan bisa berinteraksi dengan agen lain dalam sistem yang lebih kompleks.
Kesiapan sumber daya manusia menjadi pertanyaan lain. Pemerintah menargetkan 28 ribu mahasiswa lintas jurusan menguasai AI hingga 2027, dengan lebih dari 14.200 orang sudah mengikuti pelatihan gratis. Program ini meliputi hukum dan kesehatan, bukan hanya teknologi informasi.
Kesiapan Sumber Daya dan Kedaulatan Digital
Kedaulatan digital juga jadi persoalan. Ketua Tim Pelaksana Dewan Teknologi Informasi dan Komunikasi Nasional Ilham Habibie mencontohkan kebijakan Amerika Serikat yang membatasi penggunaan teknologi AI tertentu berdasarkan kewarganegaraan. Ketergantungan berlebihan pada satu penyedia bisa berisiko.
Akses teknologi AI yang tersedia secara global saat ini belum tentu permanen. Perusahaan lokal pun mulai membangun infrastruktur, seperti yang dilakukan TelkomGroup dengan pusat data dan platform bagi usaha mikro, kecil, dan menengah. Ketersediaan pilihan teknologi menjadi kunci kemandirian.
Kesimpulannya, AI yang digerakkan agen otomatis menjanjikan efisiensi, tetapi konsekuensinya bisa sangat mahal. Selama regulasi, pengawasan, dan tata kelola data belum kokoh, kewenangan mengambil keputusan sebaiknya tetap dipegang manusia. Bukan berarti teknologi harus ditolak, melainkan dipakai dengan batas yang jelas dan pertanggungjawaban yang tegas.
Sumber Berita
- Indonesia Urges Stronger Risk Mitigation in AI Adoption Across Key Sectors (Tempo EN)
- Indonesia urges strict AI risk mitigation in finance, healthcare (ANTARA)
- RI Atur AI Sesuai Risiko, Komdigi Beberkan Isi Regulasinya (CNBC Indonesia)
- Ilham Habibie Soroti Risiko Pembatasan Akses AI oleh AS (detikINET)
- Nezar Patria: Kesalahan AI Bisa Ancam Uang hingga Nyawa (BeritaSatu)
- TelkomGroup Kembangkan Infrastruktur AI hingga Platform untuk UMKM (Republika)
- 28 Ribu Mahasiswa Lintas Jurusan Ditargetkan Kuasai AI (Republika)
- Ketika Agen AI Mengubah Cara Kerja BPJS Kesehatan dan Perbankan (Kompas.id)
- Building an Artificial Intelligence Governance Framework in Indonesia (Hukumonline Pro)
- Komdigi: Perpres AI Tinggal Tunggu Tanda Tangan Presiden, Target Terbit Tahun Ini (Kompas.com)
Pertanyaan yang Sering Muncul
Apakah agen AI sama dengan chatbot biasa?
Tidak. Chatbot hanya menjawab atau menulis, sedangkan agen AI diberi kewenangan menjalankan tugas dan mengambil keputusan secara mandiri, sehingga kesalahan bisa berdampak langsung pada uang atau keselamatan.
Apa yang melindungi konsumen di Indonesia?
Pemerintah menyiapkan Perpres Etika AI dan Peta Jalan AI Nasional 2026-2029 yang menggunakan pendekatan berbasis risiko, serta menegaskan keputusan akhir tetap di tangan manusia.
Bagaimana cara kerja AI di perbankan dan kesehatan?
AI membantu mendeteksi kecurangan klaim, melayani nasabah, menegakkan diagnosis, dan mengarahkan intervensi medis, tetapi tetap harus diawasi oleh tenaga profesional.
Mengapa kedaulatan digital penting?
Ketergantungan pada satu penyedia asing berisiko karena akses teknologi bisa dibatasi sewaktu-waktu, sehingga Indonesia perlu punya pilihan infrastruktur dan talenta sendiri.
— Ditulis oleh Chacha —