Bias AI dapat mengakibatkan keputusan untuk menawarkan suku bunga yang eksploitatif kepada etnis minoritas dan jalur kredit yang lebih kecil kepada perempuan
EVGENIA FILIMIANOVA
Kecerdasan buatan (AI) menimbulkan risiko terhadap stabilitas keuangan dan kepercayaan terhadap bank, demikian peringatan seorang analis Bank of England (BoE).
Model AI semakin banyak digunakan di berbagai industri untuk mengoptimalkan operasional. Perbankan tidak terkecuali. Namun, data yang bias atau algoritme tidak etis yang digunakan dalam AI dapat memperburuk risiko stabilitas keuangan, menurut sebuah blog yang ditulis oleh staf BoE.
Analis Kathleen Blake menulis dalam sebuah unggahan, yang diterbitkan pada Rabu (11/10), bahwa model AI dapat membawa bias yang tertanam dalam data pelatihan mereka ke dalam keputusan yang dibuat oleh lembaga keuangan.
Hal ini dapat berkisar dari keputusan untuk menawarkan suku bunga yang eksploitatif kepada etnis minoritas hingga menawarkan jalur kredit yang lebih kecil kepada kaum perempuan.
“Bagi masing-masing lembaga keuangan, penggunaan AI yang bias atau tidak adil dapat menimbulkan risiko reputasi dan hukum, risiko yang dipertimbangkan oleh banyak regulator yang berhati-hati dalam menetapkan per- syaratan permodalan,” kata Blake.
Dia mengutip contoh algoritma yang digunakan oleh Apple dan Goldman Sachs untuk mengambil keputusan mengenai permohonan kartu kredit, “yang tampaknya menawarkan jalur kredit yang lebih kecil kepada perempuan dibandingkan laki-laki”.
Meskipun Departemen Layanan Keuangan Negara Bagian New York tidak menemukan pelanggaran terhadap persyaratan pemberian pinjaman yang adil, Blake berpendapat bahwa di masa depan, insiden seperti itu dapat merusak reputasi dan kepercayaan.
“Kepercayaan merupakan konsep penting bagi stabilitas keuangan sistem keuangan secara agregat, namun juga stabilitas masing-masing institusi,” ujarnya.
Insiden terisolasi yang disebabkan oleh data AI yang bias mungkin tidak tampak signifikan, namun jika digabungkan dengan risiko lain, hal tersebut dapat menyebabkan hilangnya modal, sang analis memperingatkan.
Model AI diberi data yang dapat digunakan untuk mengambil keputusan. Model AI mengenali pola tertentu dan membuat prediksi ketika informasi yang memadai tersedia.
Jika data yang menginformasikan algoritma AI bias atau cacat, keputusan model akan mencerminkan hal tersebut.
Blake berpendapat bahwa bias AI tidak dapat dicegah hanya dengan menghapus beberapa fitur dari data masukan.
Dia membahas praktik pengurangan pinjaman asuransi dan hipotek yang melanggar hukum, ketika orang kulit putih secara historis diberi suku bunga yang lebih baik daripada kelompok etnis lainnya.
“Jika perusahaan melatih model mereka berdasarkan data historis yang bias, termasuk pengurangan data, terdapat risiko algoritma tersebut meniru pola pengambilan keputusan yang diskriminatif,” kata Blake.
Dia berpendapat bahwa penggunaan kumpulan data historis dapat membentuk proses pengambilan keputusan di masa depan dan secara signifikan berdampak buruk pada keluaran model AI.
Kepercayaan masyarakat terhadap sektor keuangan adalah kuncinya, kata blog tersebut. Pada saat tingkat kepercayaan rendah, yang dapat diperburuk oleh krisis biaya hidup dan tingginya inflasi, kepercayaan masyarakat tehadap lembaga keuangan dapat terombangambing.
“Bank sentral harus mempertimbangkan hal ini dalam penggunaan model AI,” kata Blake.
Bank Inggris Santander mengatakan, AI memiliki banyak kegunaan di sektor perbankan, termasuk meningkatkan layanan pelanggan dan mengoptimalkan manajemen pinjaman. “Hal ini juga dapat meningkatkan keamanan transaksi,” kata bank tersebut.
“Misalnya, jika Anda tinggal di satu kota dan ada aktivitas di kartu bank Anda di kota lain, data dari sistem geolokasi di ponsel Anda dapat digunakan untuk memeriksa lokasi Anda, memberi tahu Anda tentang aktivitas tersebut, dan meminta Anda untuk melakukan verifikasi. Hal ini membantu mencegah kejahatan seperti pencurian identitas yang melibatkan kartu,” kata Santander.
Kepala Teknologi di Barclays, Helena Sans, berpendapat bahwa kekuatan AI terletak pada kemampuannya untuk memberdayakan masyarakat “membantu mereka menafsirkan data yang kompleks guna membuat pilihan yang lebih tepat dan keputusan yang lebih baik”.
Permasalahan peraturan AI telah menjadi topik hangat di kalangan menteri, yang saat ini sedang mengerjakan buku putih dan konsultasi publik. Dokumen tersebut mencakup usulan reformasi peraturan.
Inggris akan menjadi tuan rumah pertemuan puncak global pertama mengenai keamanan AI pada November mendatang di Bletchley Park di Buckinghamshire. (eko)
