Pernah Ngerasa Ganjil Sama "Ingatan" AI?
Coba perhatiin lagi. Kamu ngobrol sama ChatGPT, cerita soal proyek yang lagi kamu kerjain, terus lanjut nanya hal lain yang nyambung sama cerita tadi. AI nya jawab dengan pas, seolah dia "inget" apa yang kamu ceritain sebelumnya.
Wajar kalau kamu mikir AI ini punya semacam otak yang nyimpen memori jangka panjang. Tapi kenyataannya nggak gitu. AI di balik chatbot itu nggak beda jauh sama orang yang amnesia total tiap beberapa detik. Dia nggak inget apa apa dari percakapan sebelumnya, kecuali dikasih tau ulang.
Stateless: Kata Kunci yang Perlu Kamu Tahu
Di dunia engineering, sifat ini disebut stateless. Artinya, setiap kali kamu manggil AI lewat API, permintaan itu berdiri sendiri, terpisah total dari permintaan sebelumnya. Nggak ada koneksi otomatis. Nggak ada "sesi" yang nyambung dengan sendirinya.
Bayangin kamu punya asisten yang tiap kali kamu ajak ngobrol, dia lupa semua yang pernah kamu omongin sebelumnya, dan itu terjadi tiap kali kamu buka mulut. Kedengarannya nggak berguna kan? Tapi nyatanya, ini gimana cara kerja AI generatif kayak GPT, Claude, atau Gemini di level paling dasar.
Terus Kenapa Kelihatan "Nyambung"?
Nah ini bagian menariknya. "Ingatan" yang kamu rasain waktu ngobrol sama ChatGPT itu bukan kemampuan bawaan si AI. Itu murni trik yang dibikin sama developer di belakang layar.
Caranya sederhana tapi kadang bikin orang kaget pas tau. Setiap kali kamu kirim pesan baru, aplikasi chat itu diam diam ngumpulin seluruh riwayat obrolan dari awal sampai pesan terakhir kamu, terus ngirim semuanya jadi satu paket ke AI. Jadi AI itu sebenarnya nggak "inget", dia cuma dikasih liat ulang seluruh transkrip percakapan tiap kali mau jawab.
Kebayang kalau obrolan kamu udah panjang, katakanlah 50 pesan bolak balik. Setiap kali kamu ngetik pesan ke 51, sistem itu ngirim ulang 50 pesan sebelumnya plus pesan baru kamu, ke AI. Tiap kali. Nggak cuma sekali di awal.
Gimana Bentuknya di Kode?
Buat yang penasaran gimana ini diimplementasi, gampangnya begini. Developer nyimpen riwayat obrolan dalam bentuk daftar, yang isinya siapa ngomong apa. Biasanya ada tiga peran:
- system, instruksi awal buat AI, misalnya "kamu adalah customer service yang ramah"
- user, pesan dari pengguna
- assistant, jawaban dari AI
Setiap kali ada pesan baru dari user, daftar ini nggak direset, tapi ditambahin di paling bawah, terus seluruh daftar itu yang dikirim ke AI. AI baca semuanya dari atas ke bawah, baru kasih jawaban berikutnya. Itu doang. Nggak ada memori ajaib, cuma daftar teks yang terus dikirim ulang.
Kenapa Ini Penting Buat Kamu, Bukan Cuma Developer
Kalau kamu punya bisnis atau lagi mikirin bikin fitur chatbot buat website atau produk kamu, pemahaman ini bukan cuma trivia teknis. Ada dua dampak nyata.
Pertama, soal biaya. Karena seluruh riwayat obrolan dikirim ulang tiap kali, makin panjang percakapan, makin banyak data yang harus diproses AI tiap kali kamu nanya sesuatu. Ini artinya biaya pemakaian API bisa naik seiring panjangnya obrolan, bukan cuma dari banyaknya pesan yang dikirim.
Kedua, soal desain sistem. Kalau kamu mau chatbot yang bisa "inget" pelanggan meskipun mereka nutup browser terus balik lagi besok, itu nggak otomatis kejadian. Harus ada tempat nyimpen riwayat obrolan di luar AI itu sendiri, biasanya di database. Baru pas pelanggan balik lagi, riwayat itu diambil dari database dan dikirim ulang ke AI biar dia kelihatan masih inget.
Ini yang sering luput dipikirin orang pas mau bikin chatbot. Bukan cuma soal pasang API AI, tapi juga soal gimana ngatur dan nyimpen konteks percakapan biar pengalamannya kerasa natural buat pengguna.
Yang Perlu Diingat
- AI itu stateless, nggak punya ingatan otomatis antar permintaan
- "Ingatan" yang kelihatan itu hasil dari ngirim ulang seluruh riwayat obrolan tiap kali
- Makin panjang obrolan, makin besar data yang diproses, makin besar juga biayanya
- Kalau mau chatbot inget pengguna lintas sesi, riwayat perlu disimpan sendiri, biasanya di database
Lanjut ke Part 2
Ngomongin soal riwayat obrolan yang dikirim ulang, ada satu hal lagi yang bikin ini makin menarik dan berkaitan langsung sama biaya, gimana sebenarnya AI "membaca" tulisan kita. Ternyata AI nggak baca kata per kata kayak manusia. Ada satuan yang jauh lebih kecil bernama token, dan ini yang nentuin harga di balik layar. Dibahas tuntas di Part 2.
Bagian dari series "Cara Kerja AI di Balik Layar". Ditulis buat siapa pun yang mau paham AI tanpa harus jadi engineer dulu.
