Jakarta: Kecerdasan buatan (AI) kini telah meluas ke hampir setiap industri, termasuk dalam bidang perencanaan keuangan. Dengan kemampuan untuk melakukan beragam tugas seperti analisis data dan dukungan pelanggan, AI menawarkan efisiensi yang belum pernah ada sebelumnya. Menurut survei dari F2 Strategy, lebih dari separuh perusahaan manajemen kekayaan saat ini telah mengimplementasikan teknologi AI dalam operasional mereka. Potensi yang ditawarkan AI dalam perencanaan keuangan sangat besar, mulai dari analisis prediktif terhadap kondisi pasar hingga otomatisasi alur kerja yang dapat mengurangi waktu yang dihabiskan manusia untuk menyelesaikan tugas-tugas rutin hingga 90%.
Namun, meskipun keuntungannya yang menggiurkan, masih ada ketidakpastian mengenai risiko yang terkait. Sebanyak lebih dari 60% perusahaan mengaku membutuhkan lebih banyak pendidikan tentang penggunaan AI, menunjukkan adanya tantangan dalam mengelola risiko yang mungkin timbul. Dalam konteks perencanaan keuangan, risiko ini menjadi lebih signifikan karena uang keluarga dan individu sangat berharga dan berada dalam risiko jika tidak dikelola dengan baik.
Kontroversi tentang AI dalam manajemen kekayaan timbul dari dua sisi. Di satu sisi, AI memungkinkan penasihat untuk menciptakan profil pelanggan yang lebih terperinci dan menawarkan rencana yang dipersonalisasi berdasarkan berbagai faktor seperti usia, aset, dan tujuan keuangan. Ini membuka kesempatan bagi perusahaan untuk menawarkan layanan kepada demografis yang lebih luas, yang sebelumnya hanya tersedia untuk individu dengan kekayaan bersih tinggi. Di sisi lain, pemanfaatan AI dalam konteks ini juga membawa serangkaian risiko, terutama karena pelaku ancaman kini juga memanfaatkan teknologi yang sama untuk menjalankan strategi mereka.
Pelaku ancaman dapat menggunakan AI untuk meningkatkan efektivitas kampanye penyerangan mereka. Misalnya, dengan meracuni model AI untuk mengungkapkan informasi sensitif atau memberikan hasil yang tidak diinginkan. Pada saat yang sama, karyawan yang kurang terlatih dalam penggunaan teknologi ini bisa secara tidak sengaja mengungkap informasi tersebut saat mereka memasukkan data ke dalam sistem AI, yang saat itu digunakan untuk pembelajaran mesin.
Pentingnya kontrol keamanan yang terintegrasi dalam siklus hidup AI menjadi lebih jelas. Organisasi yang ingin menerapkan alat AI perlu memahami klasifikasi privasi data, sumber data yang digunakan, dan protokol keamanan yang sudah ada untuk melindungi informasi sensitif. Ini bukan hanya masalah keamanan sederhana; ini adalah bagian dari strategi peluncuran AI yang harus diperhatikan sejak awal.
Sistem AI terbuka, meskipun menawarkan kesempatan untuk belajar dari kumpulan data yang luas, dapat menciptakan risiko yang lebih besar. Ketidakamanan yang mungkin muncul selalu menjadi perhatian ketika sistem dirancang untuk publik. Sebaliknya, sistem AI yang tertutup mungkin lebih aman namun membutuhkan lebih banyak pengelolaan dan pelatihan model untuk memastikan mereka berfungsi sesuai dengan kehendak pengguna.
Karyawan memerlukan pelatihan yang mendalam untuk memahami cara kerja alat AI dan pentingnya menggunakan data dengan aman. Mereka harus bisa membedakan data yang boleh digunakan dan mana yang tidak seharusnya diungkapkan kepada model AI seperti model bahasa besar (LLM). Pengaruh dari penggunaan yang tidak etis terhadap AI semakin kompleks, terutama dengan munculnya serangan injeksi cepat yang bisa mengeksploitasi kelemahan dalam pengoperasian AI.
Strategi keamanan siber zero trust mengalami peningkatan perhatian. Dengan menerapkan prinsip zero trust, organisasi dapat membatasi akses berdasarkan fungsi dan kebutuhan pekerja, memberikan perlindungan lebih terhadap sumber daya internal. Ini akan membatasi potensi kerusakan yang dapat dilakukan penyerang dengan mengakses informasi sensitif dan penting.
Menyadari potensi dampak berbahaya dari kejahatan siber, penting bagi organisasi untuk tidak hanya mengandalkan keamanan bawaan dari alat AI. Mereka harus melakukan penyesuaian yang relevan terhadap kebijakan keamanan untuk memenuhi kebutuhan spesifik mereka. Kejahatan siber dapat menyebabkan kerugian hingga USD 8 triliun di tahun 2023, menurut laporan dari Cybersecurity Ventures, menjadikan keamanan proaktif sebagai salah satu landasan utama dalam setiap bisnis.
Dengan adanya evolusi teknologi AI, ancaman baru akan muncul. Ini menekankan pentingnya analis dan strategi keamanan yang matang dalam penerapan alat berbasis AI, terutama dalam lingkungan yang sensitif seperti perencanaan keuangan. Meskipun AI tidak akan mengambil alih peran penasihat keuangan, adaptasi dan implementasi teknologi ini diharapkan bisa memberikan keuntungan di masa depan, selama risiko terkait dapat dikelola dengan efektif.
Skala dan data yang digunakan dalam AI secara signifikan memperluas permukaan serangan yang terlibat dalam keseluruhan sistem. Kurangnya mitigasi risiko yang tepat hanya membutuhkan satu pelanggaran serius untuk membatalkan semua keuntungan yang didapat dari pemanfaatan AI. Oleh karena itu, penerapan kontrol keamanan yang ketat dan pencegahan harus menjadi prioritas utama saat menerapkan solusi berbasis AI dalam semua aspek, terutama dalam bidang perencanaan keuangan.
