Why Temperature 0 Isn't Deterministic

Artikel ini membahas mengapa pengaturan temperature 0 pada model bahasa besar (LLM) tidak menjamin output yang deterministik. Penulis menyajikan formula satu baris untuk menghitung seberapa sering token teratas berubah, serta menjelaskan mengapa penyelesaian yang identik dapat berbeda setelah sekitar seratus token. Topik ini relevan bagi praktisi data science dan pengembang AI yang mengandalkan reproduksibilitas output model.