Penulis adalah Honorable Faculty Lembaga Pengembangan Perbankan Indonesia (LPPI). ARTIKEL INI merupakan pendapat pribadi.
Sumber : Infobank
PENGGUNAAN artificial intelligence (AI) tampaknya sudah menjadi “kebiasaan” atau bahkan ketergantungan, baik untuk keperluan individu maupun perusahaan. Begitu pula dalam aktivitas belajar mengajar atau aktivitas keseharian lainnya. AI menawarkan kemudahan akses, dan dalam beberapa hal memiliki relevansi yang akurat.
Umumnya, para pengguna jarang sekali mempertanyakan apakah informasi dari AI itu “benar” atau “salah”. Begitu pula dengan risikonya. Masih banyak yang belum peduli akan hal itu, terutama untuk penggunaan AI tidak berbayar (gratis). Logikanya, fasilitas yang ditawarkan AI berbayar tentu berbeda dengan yang tidak berbayar.
AI berbayar sudah menjadi bagian dari bisnis. Artinya, para pemasok AI berbayar memiliki kewajiban untuk memberikan nilai tambah yang signifikan dibandingkan dengan AI yang tidak berbayar.
Penggunaan AI gratis tentunya sah-sah saja. Tidak bisa juga dikategorikan sebagai AI abal-abal, misalnya. Sekadar untuk keperluan sesaat, AI gratis tetap dapat digunakan. Namun, bagi sebuah entitas bisnis, penggunaan AI berbayar sangat disarankan, baik berlangganan melalui pihak penyedia ataupun membuat sendiri.
Ketika menggunakan AI, perusahaan juga mesti peduli terhadap pengelolaan risikonya. Menurut pengalaman penulis, ada beberapa hal yang perlu diperhatikan terkait dengan pengelolaan risiko penggunaan AI, antara lain sebagai berikut.
Pertama, ada banyak definisi terkait dengan manajemen risiko AI yang dapat dijadikan referensi. Annie Badman (2024), misalnya, mendefinisikan manajemen risiko AI sebagai proses mengidentifikasi, mengurangi, dan mengatasi potensi risiko yang terkait dengan teknologi AI secara sistematis.
Berdasarkan definisi tersebut, yang penting diperhatikan adalah kemampuan untuk menjaga keamanan bahwa risiko menggunakan AI terdefinisi dengan baik sehingga risiko yang muncul dapat segera diatasi. Jadi, ketika terjadi risiko karena penggunaan AI, minimal perusahaan dapat mengatasi dampak negatifnya lebih awal.
Kedua, sebuah studi terbaru dari IBM Institute for Business Value (2025) menemukan bahwa 96% pemimpin percaya bahwa mengadopsi AI generatif membuat pelanggaran keamanan lebih mungkin terjadi. Sementara, McKinsey (2024) melaporkan bahwa 72% organisasi sudah menggunakan beberapa bentuk kecerdasan buatan (AI). Adapun IBM (2024) menemukan bahwa hanya 24% dari proyek AI generatif saat ini yang diamankan. Meskipun demikian, para penggunanya belum atau tidak selalu mengatasi potensi risikonya, terutama terkait dengan masalah privasi, ancaman keamanan, serta masalah etika dan hukum.
Ketiga, risiko dan keamanan data barangkali relevan untuk mendapatkan perhatian lebih. Alasannya sederhana saja. Apa pun sistem yang digunakan AI, akan sangat tergantung pada akurasi dan kualitas data.
Mungkin para pengguna AI sudah yakin atau setidaknya percaya bahwa AI yang mereka gunakan sudah mengikuti tata kelola yang baik, termasuk dalam manajemen risikonya. Namun, para pengguna tentunya tidak sampai mempertanyakan apakah fasilitas AI berbayar secara konsisten melakukan kebaruan dalam mitigasi risikonya.
Berdasarkan ketiga hal tersebut, pengguna AI harus tahu bagaimana menyikapinya. Pengguna AI tentunya tidak punya waktu untuk mencari tahu apakah kumpulan data yang disajikan rentan atau tidak terhadap kemungkinan dimanipulasi, bias, ataukah algoritmanya sudah tidak relevan lagi. Hal lain yang juga tidak pernah diketahui adalah etika ketika menggunakan AI.
Pasokan AI makin banyak dan mudah diakses. Diharapkan, para penyedia AI juga telah menerapkan manajemen risikonya. Paling tidak, terkait dengan risiko generik yang antara lain meliputi risiko operasional, risiko model, risiko hukum, dan tentunya risiko terkait etika. Oleh karena itu, para pengguna, baik individu maupun perusahaan, harus memiliki kepedulian terkait dengan manajemen risiko penggunaan AI.
Ada beberapa hal penting yang perlu diperhatikan dalam penggunaan AI. Pertama, terkait dengan kepatuhan dalam menggunakan AI. Kepatuhan memang hanya salah satu unsur dari manajemen risiko, tetapi andilnya sangat besar. Makna kepatuhan mencakup bagaimana penyedia layanan AI menjamin kualitas dan privasi data secara konsisten. Dengan kata lain, harus dilakukan penyempurnaan bila algoritma yang digunakan masih bias.
Kepatuhan juga terkait dengan akuntabilitas dan transparansi. Kepatuhan lainnya yang harus dijaga adalah terkait dengan upaya mengelola bias yang berpotensi meningkatkan kerancuan hasil AI. Maka, sudah seharusnya penyedia AI menerapkan minimal manajemen risiko kepatuhan dalam mengelola aplikasinya. Lebih baik lagi kalau dinyatakan secara resmi.
Kedua, selalu melakukan mitigasi risiko terkait dengan kebijakan dan prosedur dalam mengembangkan AI. Dalam hal ini, menarik untuk memperhatikan hasil studi Cisco (2024) yang menyatakan bahwa para pengelola AI perlu berbuat lebih banyak untuk meyakinkan pelanggan mereka bahwa data mereka hanya digunakan untuk tujuan yang sah, benar, dan untuk kebaikan.
Terkait dengan upaya tersebut, Cisco juga berpendapat bahwa para pengelola AI wajib memiliki pedoman, kebijakan, prosedur, dan kontrol yang memastikan bahwa pengembangan dan penerapan AI telah menggunakan kerangka manajemen risiko yang dapat dipertanggungjawabkan. Apakah terkait hal tersebut diperlukan adanya semacam sertifikasi, tentunya bukan ide yang berlebihan.
Ketiga, pengelola maupun pengguna AI harus secara konsisten menerapkan delapan jenis manajemen risiko, yang meliputi risiko kredit, pasar, likuiditas, operasional, hukum, reputasi, strategis, dan kepatuhan secara komprehensif. Mungkin terkesan berlebihan bagi pengguna perorangan. Namun, jika dilakukan, hal itu dapat meningkatkan kepercayaan dan kredibilitas. Bila para pengelola AI menyatakan secara terbuka bahwa penerapan manajemen risiko telah dilakukan secara komprehensif, hal itu akan meningkatkan nilai tambah utamanya di mata para penggunanya.
Ketiga hal tersebut tentunya bukan hal baru atau sesuatu yang ”memberatkan” bagi para pengelola AI. Sekali lagi, bila dilakukan, ketiga hal itu akan menjadi nilai tambah tersendiri bagi mereka. Bisa jadi, itu sudah dilakukan. Tapi, dengan perkembangan dan kebaruan IT, tetap diperlukan penginian manajemen risiko AI.
Umumnya, para pengguna jarang sekali mempertanyakan apakah informasi dari AI itu “benar” atau “salah”. Begitu pula dengan risikonya. Masih banyak yang belum peduli akan hal itu, terutama untuk penggunaan AI tidak berbayar (gratis). Logikanya, fasilitas yang ditawarkan AI berbayar tentu berbeda dengan yang tidak berbayar.
