RAG untuk Pemula: Membangun Knowledge Base dari Dokumen Anda

Model bahasa besar punya satu kelemahan besar: mereka tidak tahu isi dokumen Anda. Dokumen internal, SOP, laporan keuangan, catatan rapat, semuanya berada di luar pengetahuan model. Fine-tuning bisa jadi jawaban, tapi mahal, lambat, dan cepat basi setiap kali dokumen berubah.

RAG (Retrieval-Augmented Generation) menawarkan jalan lain yang jauh lebih murah. Alih-alih menanam pengetahuan ke dalam bobot model, Anda menyimpannya di database vektor, lalu mengambil potongan yang relevan saat pertanyaan datang. Model hanya perlu membaca konteks yang diberikan. Hasilnya: jawaban akurat, sumber bisa dilacak, dan pembaruan cukup dengan mengganti dokumen.

Apa Itu RAG dan Mengapa Penting

RAG adalah pola arsitektur yang menggabungkan dua komponen: retriever (pencari dokumen relevan) dan generator (model bahasa yang menyusun jawaban). Alur sederhananya:

  1. Dokumen dipecah menjadi potongan kecil (chunk).
  2. Setiap chunk diubah menjadi vektor angka (embedding).
  3. Vektor disimpan di vector database.
  4. Pertanyaan pengguna juga diubah menjadi vektor.
  5. Sistem mencari chunk dengan kemiripan tertinggi.
  6. Chunk terbaik dimasukkan ke prompt bersama pertanyaan.
  7. Model menghasilkan jawaban berdasarkan konteks tersebut.

Keunggulan utamanya bukan sekadar akurasi. RAG membuat sistem Anda bisa menjawab pertanyaan tentang data yang baru diunggah lima menit lalu, tanpa retraining. Untuk kebutuhan otomatisasi AI di lingkungan bisnis, ini perbedaan yang menentukan antara prototipe dan produk yang benar-benar dipakai.

Menyiapkan Dokumen: Langkah yang Paling Sering Diremehkan

Kebanyakan proyek RAG gagal bukan karena modelnya lemah, tapi karena dokumennya berantakan. Sebelum menyentuh kode, pastikan dokumen Anda bisa dibaca mesin.

Ekstraksi Teks

PDF hasil scan butuh OCR. Tabel di PDF sering hancur saat diekstrak. Dokumen Word punya struktur heading yang berguna — manfaatkan, jangan dibuang. Simpan metadata: nama file, tanggal, bagian, dan nomor halaman. Metadata ini nanti menjadi penyaring saat pencarian.

Chunking yang Masuk Akal

Aturan umum: chunk sekitar 300–800 token dengan tumpang tindih (overlap) 10–20 persen. Tapi angka bukan segalanya. Potong berdasarkan struktur — per heading, per pasal, per fungsi dalam dokumentasi kode. Chunk yang memotong satu paragraf di tengah kalimat akan menghasilkan embedding yang buruk dan jawaban yang membingungkan.

Chunk terlalu kecil: konteks hilang. Chunk terlalu besar: noise mendominasi dan biaya token membengkak. Mulai dari 500 token, ukur, lalu sesuaikan.

Embedding dan Vector Database

Embedding mengubah teks menjadi vektor berdimensi ratusan. Dua teks dengan makna mirip akan memiliki vektor yang berdekatan. Untuk bahasa Indonesia, pilih model multibahasa — model khusus Inggris akan mengecewakan Anda pada istilah campuran.

Untuk vector database, jangan langsung memasang infrastruktur berat. Jika dokumen Anda di bawah puluhan ribu chunk, pencarian brute force dengan numpy sudah cukup cepat. Naik ke FAISS, Chroma, atau pgvector hanya ketika latensi mulai terasa. Jika Anda sudah memakai PostgreSQL, pgvector adalah pilihan paling hemat karena tidak menambah komponen baru.

# potongan kode inti, bukan proyek lengkap
chunks = split_text(doc, size=500, overlap=80)
vectors = embed_model.encode(chunks)
db.add(vectors, metadata=chunks_meta)

q = embed_model.encode([question])
hits = db.search(q, top_k=5)
context = "\n\n".join(h.text for h in hits)

Menyusun Prompt yang Patuh Konteks

Ini bagian yang sering diabaikan. Model cenderung berhalusinasi ketika konteks tidak memuat jawaban. Prompt harus tegas:

  • Perintahkan model menjawab hanya dari konteks yang diberikan.
  • Minta model menyebutkan sumber (nama file atau bagian) untuk setiap klaim.
  • Instruksikan model mengatakan "tidak ditemukan dalam dokumen" jika konteks tidak memadai.
  • Batasi panjang jawaban agar tetap ringkas dan mudah dibaca.

Kalimat penolakan eksplisit terasa sepele, tapi inilah yang membedakan asisten yang bisa dipercaya dari chatbot yang mengarang jawaban dengan percaya diri.

Evaluasi: Ukur, Jangan Tebak

Sistem RAG punya dua titik kegagalan terpisah: retrieval salah mengambil chunk, atau generator salah menafsirkan chunk yang benar. Uji keduanya secara terpisah.

Uji Retrieval

Siapkan 20–50 pertanyaan nyata beserta chunk yang seharusnya muncul. Ukur berapa persen chunk benar masuk ke top-k. Jika di bawah 80 persen, perbaiki chunking atau model embedding — bukan prompt.

Uji Jawaban

Periksa apakah jawaban setia pada konteks, tidak menambah fakta baru, dan menyebut sumber dengan benar. Evaluasi manual pada 30 sampel sudah cukup untuk menemukan pola kesalahan.

Jebakan Umum dan Cara Menghindarinya

  • Semua chunk diperlakukan sama. Beri bobot lebih pada dokumen terbaru atau bagian utama.
  • Hanya mengandalkan pencarian vektor. Gabungkan dengan pencarian kata kunci (hybrid search) untuk istilah teknis, kode produk, atau nama orang yang sering gagal ditangkap embedding.
  • Tidak ada penyaringan metadata. Jika pengguna bertanya tentang divisi tertentu, filter dulu sebelum mencari kemiripan.
  • Konteks terlalu panjang. Mengirim 20 chunk bukan lebih baik dari 5 chunk terbaik; model justru kehilangan fokus.
  • Dokumen basi menumpuk. Simpan versi dan hapus chunk lama saat dokumen diperbarui.

💡 Baca Juga & Rekomendasi Jaringan AI Network:

  • Gunakan racikan prompt profesional di SolusiAI.my.id (Rekomendasi Tools & Otomatisasi AI).
  • Pelajari tutorial skrip dan otomatisasi teknis di PromptHack.my.id (Kumpulan AI Prompt & Content Growth).

Kesimpulan

RAG bukan teknologi ajaib, melainkan rangkaian langkah sederhana yang dieksekusi dengan rapi. Kunci keberhasilannya ada pada kualitas dokumen, chunking yang menghormati struktur teks, model embedding yang sesuai bahasa, dan prompt yang disiplin terhadap konteks.

Mulailah dari yang kecil: satu folder dokumen, satu model embedding multibahasa, pencarian brute force, dan satu prompt tegas. Ukur hasilnya dengan pertanyaan nyata. Setelah terbukti berguna, barulah tambahkan vector database khusus, hybrid search, dan penyaringan metadata. Pendekatan bertahap ini menghemat waktu sekaligus memastikan setiap komponen yang Anda tambahkan benar-benar menyelesaikan masalah yang terukur — bukan sekadar menambah kompleksitas.

Post a Comment

Lebih baru Lebih lama