EtIndonesia. Penipuan pengembalian dana yang disebabkan oleh gambar yang dihasilkan AI merajalela di Tiongkok, dan toko-toko daring kesulitan menemukan cara untuk menghentikan kerugian.
Terlepas dari ancaman AI yang mengambil alih pekerjaan kita dan suatu hari nanti menjadi penguasa, kecerdasan buatan biasanya dipandang sebagai hal positif yang akan membantu memajukan peradaban manusia.
Kita sudah melihat kemajuan pesat di bidang-bidang seperti pemrograman, penelitian ilmiah, dan kesehatan, tetapi AI juga merupakan alat yang sangat ampuh di tangan mereka yang berniat jahat. Misalnya, di Tiongkok, karena kebijakan pengembalian yang unik, toko-toko daring saat ini mengalami kerugian besar akibat pengembalian dana berdasarkan foto yang diedit AI.
Di Tiongkok, Anda bisa mendapatkan pengembalian dana tanpa harus mengembalikan produk itu sendiri, asalkan Anda memiliki bukti foto yang menunjukkan bahwa produk tersebut cacat atau setidaknya tidak memenuhi standar kualitas umum. Sistem ini memang tidak pernah sepenuhnya aman, tetapi dengan munculnya AI, bisnis semakin sulit membedakan mana yang asli dan mana yang palsu.
Dari buah dan sayur berjamur hingga porselen yang tampak retak dan pakaian yang berjumbai, penipu pengembalian dana dilaporkan meraup untung besar secara online, sementara pebisnis tidak dapat berbuat banyak untuk mengatasinya.
Sebagian masalahnya adalah otomatisasi. Banyak platform belanja online mengharuskan pembeli mengunggah foto produk cacat mereka, dan jika algoritma menganggapnya cukup realistis, pengembalian dana akan diproses secara otomatis.
Namun, AI telah menjadi begitu hebat dalam mengedit foto dan video dengan elegan sehingga bahkan mata manusia pun tidak dapat membedakan antara gambar asli dan palsu.
Chen, yang mengelola toko buah dan sayur di Jiaxing, mengatakan bahwa dalam tiga bulan terakhir, tokonya telah menerima sembilan pengembalian. Awalnya, dia memercayai pembeli dan menawarkan pengembalian dana, tetapi ketika pengembalian menjadi terlalu sering, dia menjadi curiga. Dia menemukan tanda-tanda penyuntingan digital, tetapi platform tempat dia berjualan mengatakan kepadanya bahwa tidak ada bukti yang cukup jelas bahwa foto tersebut telah dimanipulasi oleh AI.
Beberapa situs belanja online telah memperkenalkan alat untuk menentukan apakah gambar produk dihasilkan oleh AI, dan menampilkan pesan peringatan di bawah gambar yang mencurigakan, tetapi mereka mengatakan tidak dapat menjamin keakuratan alat ini.
Pada bulan September, otoritas Tiongkok juga memberlakukan “Langkah Sementara untuk Pengelolaan Konten Buatan AI dan Konten Sintetis”, yang mewajibkan gambar dan video buatan AI diberi label, baik dengan label yang terlihat, seperti watermark, maupun label yang tertanam di dalam data. Meskipun penghapusan label ini dilarang, sulit dideteksi dalam praktiknya, sehingga ancaman penipuan tetap ada. (yn)
