‘Seperti orang sungguhan’: Saat AI menyamar jadi pencari cinta di aplikasi kencan

Anthropic mengungkap operasi studio berbasis di China yang menjalankan lebih dari 20 aplikasi kencan untuk pengguna AS, di mana sekitar 75% profil adalah persona AI dan 25% manusia sungguhan yang direkrut untuk panggilan video. Persona AI menggunakan model Claude untuk mengobrol dengan pengguna, sementara pekerja manusia dibayar per pesan, panggilan, dan follow-back media sosial. Pengguna seperti Max Aurel dan Aurelio Calix melaporkan pengalaman tertipu setelah membayar koin untuk melanjutkan percakapan, namun diminta tetap di aplikasi dan tidak boleh bertukar kontak. Mereka menyadari bahwa sebagian besar interaksi dilakukan oleh AI, bukan manusia sungguhan. Anthropic menyebut praktik ini sebagai aktivitas penipuan dan telah memblokir akun terkait, bekerja sama dengan perusahaan AI lain untuk memutus akses. Pakar menilai praktik serupa juga terjadi di luar China dan menyoroti dampak psikologis serta finansial bagi korban. Regulasi di China sudah mewajibkan keterbukaan penggunaan AI untuk layanan interaksi antropomorfik, namun kasus ini terjadi di luar negeri tanpa pemberitahuan. Para ahli menekankan perlunya tanggung jawab bersama dari studio, platform, penyedia model AI, dan regulator untuk melindungi pengguna.