Biaya API AI dihitung dari jumlah token input dikali harga input, ditambah jumlah token output dikali harga output, lalu dibagi satu juta, karena harga model biasanya ditulis per 1 juta token. Dengan rumus ini Anda bisa memperkirakan biaya sebuah fitur sebelum dipakai banyak orang.
Apa itu token?
Token adalah potongan teks yang diproses model. Satu kata bisa menjadi satu token atau lebih, tergantung panjang kata dan bahasanya. Sebagai gambaran kasar, teks bahasa Inggris rata-rata sekitar 4 karakter per token. Teks bahasa Indonesia cenderung memakai lebih banyak token untuk makna yang sama karena kata-katanya lebih panjang dan lebih jarang muncul di data latih. Angka pastinya selalu tercatat di respons API pada field usage.
Token input dan token output
- Token input (prompt): semua yang Anda kirim, termasuk instruksi sistem, riwayat percakapan, dan dokumen yang dilampirkan.
- Token output (completion): jawaban yang dihasilkan model.
Harga output biasanya beberapa kali lebih mahal daripada input. Itu sebabnya jawaban panjang lebih memengaruhi biaya daripada pertanyaan panjang.
Rumus biaya
biaya = (token_input x harga_input + token_output x harga_output) / 1.000.000Harga input dan output tiap model tercantum di tabel harga pada halaman API AI pay as you go.
Contoh perhitungan
Angka berikut hanya contoh untuk melatih rumus, bukan harga model tertentu. Misalkan sebuah model berharga $0,50 per 1 juta token input dan $2,00 per 1 juta token output. Sebuah chatbot layanan pelanggan rata-rata menerima 1.500 token input (instruksi, riwayat, dan pertanyaan) dan menghasilkan 400 token output per pesan.
| Komponen | Perhitungan | Hasil |
|---|---|---|
| Input per pesan | 1.500 x 0,50 / 1.000.000 | $0,00075 |
| Output per pesan | 400 x 2,00 / 1.000.000 | $0,0008 |
| Total per pesan | $0,00155 | |
| 1.000 pesan | 1.000 x 0,00155 | $1,55 |
Kalikan dengan kurs yang tampil di panel untuk mendapatkan perkiraan dalam rupiah.
Kenapa tagihan bisa lebih besar dari perkiraan?
Riwayat percakapan ikut terkirim
Pada chatbot, setiap pesan baru biasanya mengirim ulang seluruh riwayat percakapan. Pesan ke-20 bisa membawa ribuan token input walaupun pertanyaannya pendek.
Model "thinking" menghasilkan token tambahan
Model dengan mode berpikir menghasilkan token penalaran sebelum jawaban akhir, dan token itu umumnya dihitung sebagai output.
Dokumen besar di dalam prompt
Menempelkan file panjang ke setiap request memperbesar token input dengan cepat.
Tips menghemat biaya
- Pilih model sesuai tugas. Untuk klasifikasi, ringkasan pendek, atau ekstraksi data, model kecil sering sudah cukup.
- Batasi panjang jawaban dengan parameter
max_tokens. - Ringkas riwayat percakapan lama, jangan kirim semuanya.
- Buat API key terpisah per aplikasi agar biaya tiap fitur terlihat di log pemakaian.
- Kalau pemakaian sulit ditebak, bandingkan dengan API harian yang dibayar per hari dalam batas fair use.
Cara mengecek biaya sebenarnya
Setiap respons API berisi field usage dengan jumlah token input dan output. Di panel, halaman pemakaian menampilkan request, token, dan biaya per model dan per key, sehingga Anda bisa mencocokkan perkiraan dengan tagihan nyata.
Belum punya API key? Ikuti panduan membayar API AI dengan QRIS.