Oleh: Dhita Karuniawati )* Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) telah membuka peluangbesar bagi transformasi digital di berbagai sektor, mulai dari pendidikan, kesehatan, pemerintahan, hingga industri kreatif. Di sisi lain, kemajuan teknologi ini juga menghadirkan tantangan baru berupa maraknya penyebaran hoaks, konten deepfake, serta fenomena halusinasi AI yang berpotensi menyesatkan masyarakat. Kondisitersebut mendorong Indonesia memperkuat tata kelola digital agar pemanfaatan AI tetap memberikan manfaat tanpa mengorbankan keamanan, etika, dan kepercayaanpublik. Pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) terusmempercepat penyusunan kerangka regulasi AI sebagai fondasi bagi pengembanganteknologi yang bertanggung jawab. Langkah ini dinilai penting mengingat pemanfaatanAI berkembang jauh lebih cepat dibandingkan regulasi yang mengaturnya. Wakil Menteri Komunikasi dan Digital, Nezar Patria mengatakan bahwa PeraturanPresiden tentang AI akan menjadi langkah awal dalam penerapan tata kelola AI sebelum pemerintah menyusun Undang-Undang AI yang lebih komprehensif.Pemerintah saat ini telah menuntaskan penyusunan Peraturan Presiden tentang Peta Jalan AI beserta Etika AI. Dokumen tersebut telah melalui pembahasan lintaskementerian dan lembaga, sehingga kini tinggal menunggu penetapan oleh Presiden. Nezar menjelaskan peran pemerintah melalui Kementerian Komunikasi dan Digital adalah membangun kerangka regulasi, etika, serta kebijakan yang mendorongpemanfaatan AI secara bertanggung jawab di seluruh sektor. Implementasi teknologi AI menjadi kewenangan masing-masing kementerian, lembaga, maupun pelaku industrisesuai kebutuhan layanan dan bisnisnya. Menurut Nezar, pembangunan ekosistem AI nasional tidak berdiri sendiri, melainkanterhubung dengan berbagai regulasi digital yang sedang disiapkan pemerintah, termasuk Satu Data Indonesia, Undang-Undang Informasi dan Transaksi Elektronik, Undang-Undang Pelindungan Data Pribadi, hingga regulasi mengenai ketahanan dan keamanan siber. Integrasi kebijakan tersebut akan memperkuat tata kelola data sekaligus menjadi fondasi bagi pemanfaatan AI yang aman, tepercaya, dan memberikan manfaat bagi masyarakat. Penguatan regulasi menjadi semakin relevan seiring meningkatnya ancaman kontendeepfake yang mampu memanipulasi gambar, suara, maupun video sehingga sulitdibedakan dari konten asli. Teknologi tersebut berpotensi digunakan untukmenyebarkan disinformasi, penipuan digital, hingga merusak reputasi seseorang. Di saat yang sama, kemampuan AI generatif menghasilkan teks secara otomatis juga memunculkan risiko penyebaran informasi yang tampak meyakinkan, tetapi sebenarnyatidak memiliki dasar fakta yang akurat. Fenomena lain yang turut menjadi perhatian adalah halusinasi AI (AI hallucination), yakni kondisi ketika sistem AI menghasilkan jawaban yang terdengar logis, namunmengandung informasi keliru atau bahkan sepenuhnya fiktif. Apabila digunakan tanpaproses verifikasi, informasi tersebut dapat mempercepat penyebaran hoaks di ruangdigital, terutama ketika masyarakat cenderung menerima hasil AI sebagai informasiyang benar. Karena itu, penguatan tata kelola AI tidak hanya mengandalkan regulasi formal, tetapijuga dibangun melalui penerapan prinsip-prinsip etika. Sebelumnya, pemerintah telahmenerbitkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial yang menjadi pedoman bagi pelaku usaha dan penyelenggara sistem elektronik dalam mengembangkan maupun memanfaatkanteknologi AI secara bertanggung jawab. Pedoman tersebut menekankan prinsiptransparansi, akuntabilitas, keamanan, penghormatan terhadap hak asasi manusia, serta perlindungan data pribadi sebagai fondasi pengembangan AI di Indonesia. Dalam kajian mengenai implementasi etika AI, disebutkan bahwa Surat Edaran tersebutmenjadi pijakan awal bagi terbentuknya tata kelola digital nasional yang lebihbertanggung jawab. Pendekatan berbasis etika dipandang mampu menyeimbangkanpercepatan inovasi dengan perlindungan terhadap kepentingan publik sehinggaperkembangan AI tetap berada dalam koridor nilai-nilai kemanusiaan dan kepastianhukum. Selain pemerintah, kalangan ulama juga menilai pengawasan terhadap pemanfaatan AI memerlukan keterlibatan seluruh elemen masyarakat. Wakil Sekretaris Jenderal MajelisUlama Indonesia (MUI) Bidang Informasi, Komunikasi, dan Digitalisasi (Infokomdigi), Dr Asrori S. Karni, menekankan pentingnya kolaborasi lintas sektor. Menurutnya, dampakdan potensi bahaya dari AI tidak dapat ditanggulangi oleh satu lembaga saja.Kolaborasi multipihak yang melibatkan pemerintah, akademisi, industri teknologi, media, organisasi masyarakat, dan komunitas digital menjadi syarat penting agar penyebaran informasi palsu dapat diminimalkan sekaligus meningkatkan literasi digital masyarakat. Kolaborasi tersebut dinilai semakin penting karena tantangan AI tidak hanya bersifatteknis, tetapi juga menyangkut aspek sosial, budaya, hingga moral. Literasi digital menjadi salah satu instrumen utama untuk membangun kemampuan masyarakat dalammengenali konten manipulatif, melakukan verifikasi informasi, serta memahamiketerbatasan AI sebelum menggunakan atau menyebarkan hasil yang dihasilkanteknologi tersebut. Penguatan tata kelola digital juga diharapkan mampu meningkatkan kepercayaan publikterhadap pemanfaatan AI di berbagai sektor. Dengan adanya regulasi yang jelas, standar etika yang kuat, serta mekanisme pengawasan yang efektif, inovasi AI dapatberkembang secara sehat tanpa mengabaikan perlindungan masyarakat daripenyalahgunaan teknologi….
