Risiko dan Manfaat AI dalam Perencanaan Keuangan

Risiko dan Manfaat AI dalam Perencanaan Keuangan - Kecerdasan buatan (AI) telah menyebar ke hampir setiap industri karena perusahaan dan konsumen sama-sama ingin memanfaatkan efisiensi skalabilitasnya. Tugas-tugas seperti analisis data, transkripsi, dukungan pelanggan, dan segala hal di antaranya dapat dilakukan menggunakan AI untuk mengurangi waktu untuk mendapatkan hasil secara signifikan. Perencanaan keuangan tidak terkecuali.

Menurut survei dari F2 Strategy, lebih dari separuh perusahaan manajemen kekayaan telah menjalankan proyek AI. Mereka tertarik pada analisis prediktif tentang kondisi pasar dan perubahan sekuritas dari waktu ke waktu, pengenalan karakter optik untuk menganalisis dokumen, otomatisasi alur kerja, chatbot, dan banyak lagi. 

Potensinya jelas – AI dapat mengurangi waktu manusia yang dihabiskan untuk tugas-tugas ini hingga 90%. Pada saat yang sama, lebih dari 60% perusahaan mengatakan bahwa mereka membutuhkan lebih banyak edukasi tentang AI. Jadi, meskipun keuntungannya tidak dapat disangkal, rasio nilai terhadap risikonya kurang jelas.

Dinamika ini khususnya penting untuk perencanaan keuangan, di mana taruhannya lebih tinggi – uang keluarga dan individu secara langsung berisiko. Sementara layanan pengelolaan kekayaan yang dibuat khusus biasanya ditujukan untuk individu dengan kekayaan bersih yang lebih tinggi, AI memungkinkan untuk menawarkan layanan ini kepada kelompok orang yang lebih luas. 

Penasihat dapat mengembangkan profil pelanggan dan memberikan rencana yang dipersonalisasi berdasarkan usia, aset, risiko, tujuan, dan kebutuhan dalam waktu yang lebih singkat, yang berarti perusahaan dapat menawarkannya kepada lebih banyak orang. Ini merupakan pasar baru bagi pengelola kekayaan, tetapi juga kumpulan risiko yang lebih besar.

Kita harus selalu ingat bahwa pelaku ancaman juga menggunakan AI. AI menawarkan manfaat yang sama persis kepada penyerang – AI merupakan pengganda kekuatan yang memungkinkan mereka meningkatkan skala dan efektivitas kampanye mereka. 

Mereka bahkan dapat meracuni model AI itu sendiri untuk mengungkap informasi sensitif atau memberikan hasil yang berbahaya. Selain itu, karyawan yang tidak terlatih dengan baik dapat secara tidak sengaja mengungkap informasi sensitif melalui informasi yang mereka masukkan ke dalam perangkat AI, yang kemudian memasukkannya ke dalam aktivitas pembelajaran mesin mereka. Kita telah melihat contoh-contoh klaim kekayaan intelektual yang tidak sah.

Oleh karena itu, kontrol keamanan harus diintegrasikan ke dalam seluruh siklus hidup AI, termasuk pelatihan karyawan. Sebelum menggunakan alat AI apa pun, organisasi harus memahami klasifikasi privasi semua data yang mungkin dimasukkan, sumber data yang digunakan untuk melatih alat AI, dan spesifikasi protokol keamanan yang ada untuk melindungi informasi sensitif. Ini harus menjadi bagian dari peluncuran AI sejak hari pertama. 

Baca juga: Review Realme C67, Smartphone 2 Jutaan yang Layak Beli!

Sistem AI terbuka membawa lebih banyak risiko, karena dirancang agar dapat diakses oleh publik, yang memungkinkan mereka untuk belajar dari kumpulan data yang jauh lebih besar, tetapi juga memungkinkan manipulasi oleh aktor jahat. Sistem tertutup lebih aman, tetapi memerlukan lebih banyak manajemen langsung dan pelatihan model. 

Karyawan harus diberikan pelatihan mendalam tentang alat tersebut dan cara kerjanya, serta cara menggunakannya dengan aman – menekankan data mana yang dapat digunakan dan mana yang tidak boleh diekspos ke model bahasa besar (LLM) seperti jenis yang mendukung aplikasi AI generatif.

Saat menerapkan solusi berbasis AI, penting untuk mengidentifikasi cakupan alat dan membatasi akses datanya pada hal-hal yang benar-benar diperlukan untuk melatihnya. Kembangkan pemahaman yang komprehensif tentang privasi informasi, sumber data model, dan mekanisme keamanan bawaan yang sudah ada. 

Banyak alat AI yang memiliki pertahanan bawaan untuk melindungi dari penggunaan yang tidak etis – contoh yang bagus adalah aturan ChatGPT yang berupaya mencegah orang menggunakannya untuk tujuan jahat, seperti membuat malware. Namun, jelas juga bahwa aturan ini dapat dilewati melalui perintah yang ditulis dengan cerdik yang mengaburkan maksud pengguna. 

Ini adalah salah satu jenis serangan injeksi perintah, yang merupakan kategori ancaman yang unik untuk sistem berbasis AI. Kontrol yang kuat harus diterapkan untuk mencegah serangan ini sebelum terjadi. Secara umum, kontrol ini termasuk dalam cakupan strategi keamanan siber zero trust.

Alat AI, khususnya LLM yang memungkinkan AI generatif, tidak boleh diperlakukan sebagai alat perangkat lunak biasa. Alat tersebut lebih seperti hibrida antara alat dan pengguna. Program zero trust membatasi akses ke sumber daya berdasarkan fungsi pekerjaan, cakupan, dan kebutuhan individu seseorang. Hal ini membatasi kerusakan yang dapat dilakukan penyerang dengan membahayakan satu karyawan, karena membatasi rentang pergerakan lateral. 

Kita harus ingat bahwa menambahkan alat perangkat lunak apa pun juga meningkatkan permukaan serangan dengan menawarkan lebih banyak titik masuk bagi penyerang. Membahayakan alat – seperti alat AI – yang memiliki akses tak terbatas ke informasi identitas pribadi, rahasia perusahaan, alat milik sendiri, peramalan strategis, analisis kompetitif, dan lainnya dapat menjadi bencana besar. Mencegah pelanggaran semacam ini harus menjadi yang terdepan dalam diskusi tingkat strategi untuk menerapkan alat AI sejak awal. Setelah insiden keamanan siber, sering kali sudah terlambat.

Meskipun sebagian besar perangkat AI dilengkapi dengan keamanan bawaan, organisasi harus berhati-hati untuk menyesuaikannya dengan kebutuhan spesifik mereka. Mereka juga harus melampauinya. Meskipun ada kesamaan, setiap organisasi akan memiliki kasus penggunaan yang unik, dan mengkalibrasi pertahanan agar sesuai dengan dinamika ini merupakan hal yang penting untuk keamanan siber pada tahun 2024. 

Biaya kejahatan siber mencapai $8 triliun pada tahun 2023, menurut laporan dari Cybersecurity Ventures. Jelas, ini bukanlah ancaman khusus. Hal ini dapat dianggap sebagai salah satu ancaman utama yang dihadapi setiap bisnis saat ini, dan oleh karena itu keamanan proaktif merupakan dasar untuk menjalankan bisnis secara keseluruhan.

Ketika kita berbicara tentang AI, keamanan menjadi lebih penting lagi. AI tidak akan menggantikan penasihat keuangan, tetapi akan membawa industri ke tahap evolusi berikutnya, dan itu berarti ancaman baru. 

Skala model dan data yang diserapnya memperluas permukaan serangan secara eksponensial, dan satu pelanggaran saja dapat meniadakan semua keuntungan yang diperoleh perusahaan dengan memanfaatkan AI. Analisis dan kontrol keamanan siber, di bawah model zero trust, sangat diperlukan untuk membuka potensi penuh dari setiap alat berbasis AI.

Anda mungkin suka:Asus AI di Laptop Vivobook S 14 OLED S5406, Sejauh Mana Manfaat yang Dirasakan?