Gurmeet Saran Bangun Infrastruktur Tepercaya untuk AI Claude

Gurmeet Saran, staf teknis di Anthropic dan anggota senior IEEE, mengembangkan infrastruktur tepercaya untuk membantu peneliti memahami perilaku Claude, chatbot AI buatan Anthropic. Fokusnya adalah memastikan data yang digunakan tertata, akurat, dan terlindungi agar keluaran AI lebih dapat diandalkan. Dalam wawancara dengan IEEE Spectrum, Saran menekankan bahwa privasi harus dirancang sejak awal ke dalam arsitektur sistem, bukan sekadar lapisan tambahan. Ia juga menyoroti pentingnya logika sistem yang dapat dipercaya agar klaim tentang perilaku AI dapat dipastikan, terutama untuk keselamatan sistem. Tantangan utama terletak pada model bahasa besar yang mekanismenya tidak mudah dipantau seperti basis data atau layanan web biasa. Anthropic menyatakan Claude harus membantu pengguna dan masyarakat sambil menghindari tindakan tidak aman, tidak etis, atau menipu, sehingga peneliti perlu dapat mengamati dan memahami perilaku model. Pengalaman Saran di Yahoo dan Intuit membentuk pendekatannya dalam menangani mutu data. Ia tumbuh di Kolkata dan tertarik pada komputer sejak kecil, sering menghabiskan waktu di laboratorium komputer saat sekolah.