Prompt, RAG, atau Fine-Tuning: Memilih Cara Menyesuaikan AI untuk Kebutuhan Bisnis Anda

Ketika bisnis mulai memakai model bahasa besar (LLM) untuk layanan pelanggan, pembuatan dokumen, atau analisis internal, pertanyaan yang cepat muncul adalah: bagaimana membuat AI "paham" bisnis kita? Jawaban yang sering terdengar adalah "latih saja modelnya dengan data kita". Kenyataannya ada tiga pendekatan utama yang berbeda jauh dalam biaya, kecepatan, dan risiko: menyusun perintah (prompt engineering), menyambungkan model ke dokumen perusahaan (retrieval-augmented generation atau RAG), dan menyesuaikan model itu sendiri (fine-tuning). Memilih yang salah berarti membuang waktu dan anggaran, atau memperoleh hasil yang tidak akurat.

Artikel ini menjelaskan ketiga pendekatan dengan bahasa yang bisa dipahami pemilik bisnis dan manajer produk, kapan masing-masing tepat, bagaimana menggabungkannya, serta langkah-langkah memutuskan secara berurutan. Pesan utamanya: mulai dari yang paling sederhana dan murah, ukur hasilnya, lalu naik tingkat hanya bila ada bukti kebutuhan.

Ringkasan

• Prompt engineering adalah titik awal: murah, cepat diubah, dan sering sudah cukup untuk banyak kebutuhan
• RAG cocok bila AI harus menjawab berdasarkan dokumen perusahaan yang sering berubah dan perlu dikutip sumbernya
• Fine-tuning cocok untuk menyetel gaya, format, atau perilaku khusus yang konsisten, bukan untuk "menyuntikkan" pengetahuan yang berubah-ubah
• Ketiganya bisa digabungkan; urutan yang sehat adalah prompt, lalu RAG, lalu fine-tuning bila masih ada kesenjangan
• Apa pun pilihannya, siapkan set uji dan metrik agar keputusan berbasis bukti, bukan firasat

Tiga pendekatan dalam bahasa sederhana

Bayangkan Anda mempekerjakan seorang asisten baru yang sangat pandai dan berwawasan luas, tetapi belum mengenal bisnis Anda. Ada tiga cara membuatnya berguna.

Prompt engineering: memberi petunjuk tertulis

Anda memberi petunjuk jelas pada setiap permintaan: peran, nada bahasa, format jawaban, aturan yang harus dipatuhi, dan contoh jawaban yang baik. Model tidak berubah sama sekali; hanya instruksinya yang lebih baik. Analoginya, memberi asisten baru panduan kerja satu halaman setiap pagi.

RAG: memberi akses ke buku dan arsip

Sistem mencari potongan dokumen yang relevan (kebijakan, katalog, SOP, FAQ) lalu menyisipkannya ke dalam permintaan sehingga model menjawab berdasarkan dokumen tersebut. Model juga bisa menyebut sumbernya. Analoginya, asisten baru boleh membuka lemari arsip sebelum menjawab pertanyaan. Pembahasan lengkap ada di chatbot AI berbasis pengetahuan perusahaan dengan RAG.

Fine-tuning: melatih ulang kebiasaan model

Model dilatih lanjutan dengan ratusan hingga ribuan contoh pasangan masukan dan keluaran ideal, sehingga perilakunya bergeser: gaya menulis, struktur jawaban, atau cara memutuskan. Analoginya, asisten baru menjalani pelatihan intensif sampai terbiasa bekerja dengan cara Anda. Perlu dicatat, fine-tuning mengubah kebiasaan jauh lebih baik daripada menyimpan fakta yang akurat dan selalu terbaru.

Kapan prompt engineering sudah cukup

Banyak tim melompat ke teknik rumit sebelum mencoba yang paling sederhana. Prompt yang disusun dengan baik sering menyelesaikan 70 sampai 80 persen kebutuhan tanpa investasi besar.

Prompt cukup bila:

• Tugasnya umum dan tidak bergantung pada data internal, misalnya merangkum, menerjemahkan, atau menyusun draf surel
• Aturan dan nada bisa dijelaskan dalam beberapa paragraf
• Contoh jawaban ideal bisa diberikan langsung dalam permintaan (few-shot)
• Volume permintaan tidak besar sehingga biaya instruksi panjang tidak terasa
• Anda masih mengeksplorasi apa yang sebenarnya dibutuhkan

Praktik prompt yang baik

• Tentukan peran dan tujuan dengan jelas
• Sebutkan batasan: apa yang tidak boleh dijawab dan kapan harus menyerahkan ke manusia
• Minta format keluaran yang pasti (daftar, tabel, atau struktur data) agar mudah diproses sistem lain
• Sertakan 2 sampai 5 contoh yang mewakili kasus nyata, termasuk kasus sulit
• Simpan prompt dalam sistem versi dan uji setiap perubahan, karena perubahan kecil dapat menggeser hasil
• Pisahkan instruksi tetap dari data pengguna untuk mengurangi risiko injeksi perintah, lihat [keamanan aplikasi AI: prompt injection dan kebocoran data](/blog/keamanan-aplikasi-ai-prompt-injection-dan-kebocoran-data)

Kapan RAG adalah jawabannya

RAG paling tepat bila persoalan Anda adalah pengetahuan: AI harus menjawab berdasarkan fakta spesifik milik perusahaan yang model umum tidak punya.

RAG cocok bila:

• Jawaban harus bersumber dari dokumen internal: kebijakan, katalog produk, kontrak, SOP, basis pengetahuan
• Isi dokumen sering berubah (harga, aturan, stok, prosedur) dan jawaban harus selalu terbaru
• Anda perlu menampilkan sumber agar pengguna bisa memverifikasi
• Akses harus dibatasi: karyawan hanya boleh mendapat jawaban dari dokumen yang berhak mereka lihat
• Anda ingin mengurangi jawaban mengarang (halusinasi) dengan membatasi model pada konteks yang diberikan

Keunggulan RAG dibanding fine-tuning untuk pengetahuan

• **Pembaruan instan**: ganti dokumen, jawaban ikut berubah, tanpa pelatihan ulang
• **Sumber dapat ditelusuri**: mudah diaudit
• **Kontrol akses**: dokumen dapat disaring per pengguna
• **Biaya awal lebih rendah**: tidak perlu menyiapkan ribuan contoh pelatihan

Syarat keberhasilan RAG

Kualitas RAG sangat bergantung pada kualitas dokumen dan pencarian. Dokumen yang usang, bertentangan, atau berantakan menghasilkan jawaban buruk walaupun modelnya canggih. Siapkan dulu data dan kepemilikan dokumen; panduannya ada di kesiapan data perusahaan sebelum memulai proyek AI dan kualitas data dan tata kelola data. Atur juga cara memotong dokumen, pengindeksan, dan pengujian pencarian, bukan hanya kualitas jawaban akhir.

Kapan fine-tuning layak dipertimbangkan

Fine-tuning bukan jalan pintas untuk memasukkan pengetahuan bisnis. Ia berguna untuk kebutuhan yang lebih sempit.

Fine-tuning cocok bila:

• Anda membutuhkan gaya, nada, atau format yang sangat konsisten dan sulit dijelaskan lewat instruksi, misalnya suara merek tertentu atau struktur laporan yang baku
• Tugas bersifat spesifik dan berulang dalam volume besar, seperti mengklasifikasikan tiket, mengekstrak bidang dari dokumen, atau mengubah teks ke format tertentu
• Prompt yang sangat panjang membuat biaya dan kecepatan tidak lagi masuk akal, dan model yang lebih kecil yang disetel dapat menggantikan model besar dengan biaya lebih rendah
• Anda memiliki ratusan hingga ribuan contoh berkualitas tinggi yang sudah ditinjau ahli
• Kebutuhan akurasi tinggi pada tugas sempit tidak tercapai dengan prompt dan RAG

Hal yang perlu diwaspadai pada fine-tuning

• **Pengetahuan cepat usang**: fakta yang dilatihkan tidak ikut berubah ketika kebijakan berubah
• **Kebutuhan data berkualitas**: contoh yang buruk atau bias akan diwarisi model
• **Biaya dan waktu**: persiapan data, pelatihan, evaluasi, dan pemeliharaan setiap kali model dasar berganti
• **Risiko privasi**: data sensitif dalam pelatihan dapat muncul kembali pada keluaran; anonimkan dan pastikan kebijakan penyedia sesuai
• **Ketergantungan**: model yang disetel pada satu penyedia sulit dipindahkan, terkait [vendor lock-in di cloud dan software bisnis](/blog/vendor-lock-in-di-cloud-dan-software-bisnis-strategi-keluar)

Perbandingan ringkas

Berikut perbedaan praktis ketiganya, untuk pertimbangan awal.

• **Waktu mulai**: prompt hitungan hari, RAG hitungan minggu, fine-tuning hitungan minggu hingga bulan
• **Biaya awal**: prompt terendah, RAG menengah (infrastruktur pencarian dan pengolahan dokumen), fine-tuning tertinggi (data, pelatihan, evaluasi)
• **Kemudahan pembaruan**: prompt dan RAG mudah, fine-tuning perlu pelatihan ulang
• **Akurasi fakta bisnis**: RAG terbaik bila dokumennya baik, prompt terbatas, fine-tuning tidak diandalkan untuk fakta
• **Konsistensi gaya dan format**: fine-tuning terkuat, prompt baik bila contoh jelas, RAG tidak berfokus di sini
• **Transparansi sumber**: RAG unggul, lainnya lemah

Menggabungkan pendekatan

Dalam praktik, sistem yang baik sering memakai kombinasi.

• **Prompt dan RAG**: kombinasi paling umum untuk asisten internal dan chatbot layanan pelanggan. Prompt mengatur peran, nada, dan batasan; RAG menyuplai fakta
• **RAG dan model yang disetel**: model kecil yang disetel untuk gaya atau format tetap, dengan RAG untuk fakta
• **Agen dengan alat**: model memanggil sistem bisnis (stok, pesanan, harga) lewat API untuk data waktu nyata; lihat [AI agent untuk otomatisasi proses bisnis](/blog/ai-agent-untuk-otomatisasi-proses-bisnis) dan [Model Context Protocol (MCP)](/blog/model-context-protocol-mcp-menghubungkan-ai-dengan-sistem-bisnis)

Untuk data yang sangat dinamis seperti stok dan harga hari ini, jangan mengandalkan dokumen statis atau model yang dilatih; ambil langsung dari sistem sumber saat permintaan terjadi.

Pohon keputusan sederhana

Jawab pertanyaan berikut berurutan.

1. Apakah masalahnya berupa pengetahuan atau perilaku?

Jika AI salah karena tidak tahu fakta perusahaan, itu masalah pengetahuan, arahkan ke RAG atau integrasi data. Jika AI tahu tetapi gaya, format, atau cara memutuskannya tidak sesuai, itu masalah perilaku; mulai dari prompt, lalu pertimbangkan fine-tuning.

2. Seberapa sering informasinya berubah?

Sering berubah berarti RAG atau akses data langsung. Jarang berubah dan lebih berupa pola keputusan membuka opsi fine-tuning.

3. Sudahkah prompt terbaik dicoba dan diukur?

Jika belum, jangan lanjut. Perbaiki prompt, tambahkan contoh, dan ukur dengan set uji. Banyak proyek ternyata selesai di sini.

4. Apakah ada data pelatihan berkualitas?

Fine-tuning tanpa ratusan contoh bersih dan ditinjau ahli biasanya sia-sia. Bila belum ada, kumpulkan dulu lewat sistem yang sedang berjalan (prompt dan RAG) dengan umpan balik pengguna.

5. Apakah biaya per permintaan dan kecepatan sudah menjadi masalah?

Bila volume besar dan prompt panjang membuat biaya meningkat, model kecil yang disetel bisa lebih hemat. Lihat mengendalikan biaya AI: token dan inferensi.

Mengukur sebelum memutuskan

Apa pun pendekatannya, keputusan harus berdasarkan pengukuran.

• Kumpulkan 50 sampai 200 pertanyaan atau tugas nyata beserta jawaban yang diharapkan
• Nilai hasil tiap pendekatan secara konsisten: ketepatan, kelengkapan, keamanan, nada, dan kecepatan
• Libatkan ahli bidang untuk menilai sampel jawaban
• Ulangi pengujian setiap kali prompt, dokumen, atau model berubah
• Pantau setelah peluncuran dengan umpan balik pengguna dan sampel acak

Kerangka lengkapnya dibahas di evaluasi kualitas output AI (LLM evals). Tanpa set uji, tim cenderung menilai berdasarkan beberapa contoh yang mengesankan, lalu terkejut oleh kegagalan di lapangan.

Pertimbangan model: API cloud atau dikelola sendiri

Pilihan pendekatan juga terkait tempat model dijalankan. Menyetel dan menjalankan model sendiri memberi kendali atas data, tetapi menuntut infrastruktur dan keahlian. Memakai API dari penyedia lebih cepat dimulai, dengan pertimbangan privasi dan ketergantungan. Pembahasan lengkap ada di LLM self-hosted atau API cloud. Data sensitif sebaiknya tunduk pada kebijakan penggunaan AI dan tata kelola AI di perusahaan.

Contoh skenario

Chatbot layanan pelanggan toko online

Kebutuhan: menjawab pertanyaan kebijakan retur, pengiriman, dan produk. Pendekatan: prompt untuk nada dan batasan, RAG atas halaman kebijakan dan katalog, integrasi API untuk status pesanan. Fine-tuning tidak diperlukan pada tahap awal.

Klasifikasi tiket dukungan

Kebutuhan: mengelompokkan ribuan tiket per hari ke kategori dan prioritas. Pendekatan: mulai dari prompt dengan contoh; bila volume besar dan akurasi perlu naik, model kecil yang disetel dengan tiket berlabel. Terkait sistem tiket dukungan pelanggan dan SLA.

Penyusunan draf proposal sesuai gaya perusahaan

Kebutuhan: draf dengan struktur dan nada konsisten. Pendekatan: prompt dengan templat dan contoh, RAG untuk portofolio dan harga standar. Fine-tuning dipertimbangkan bila ratusan proposal terbaik tersedia dan gaya sulit dijelaskan.

Kesalahan yang sering terjadi

• Menganggap fine-tuning sebagai cara terbaik menanamkan fakta perusahaan
• Melompat ke fine-tuning tanpa mengukur kemampuan prompt dan RAG
• Memakai dokumen usang atau berantakan pada RAG, lalu menyalahkan modelnya
• Tidak membuat set uji sehingga tidak ada cara membandingkan pilihan
• Melatih dengan data sensitif tanpa anonimisasi dan tinjauan kebijakan
• Melupakan pemeliharaan: dokumen, prompt, dan model dasar berubah dari waktu ke waktu

Pertanyaan yang sering diajukan

Apakah fine-tuning membuat AI lebih pintar tentang bisnis saya?

Tidak otomatis. Ia terutama mengubah gaya dan perilaku. Untuk fakta bisnis yang akurat dan terbaru, RAG atau akses data langsung biasanya lebih tepat.

Berapa data yang dibutuhkan untuk fine-tuning?

Bergantung tugas, tetapi umumnya ratusan hingga ribuan contoh berkualitas tinggi. Kualitas dan keragaman lebih penting daripada jumlah semata.

Bisakah RAG dan fine-tuning dipakai bersamaan?

Bisa, dan sering menghasilkan sistem yang kuat: model yang disetel untuk gaya atau format tetap, dengan RAG untuk fakta terbaru.

Mana yang paling aman untuk data sensitif?

Tidak ada yang otomatis aman. Yang menentukan adalah tempat data diproses, kontrol akses, kebijakan penyedia, dan anonimisasi. RAG dengan kontrol akses per pengguna membantu memastikan orang hanya melihat dokumen yang berhak mereka akses.

Kesimpulan

Memilih antara prompt, RAG, dan fine-tuning adalah soal mencocokkan masalah dengan alat yang tepat. Mulai dari prompt yang baik, tambahkan RAG untuk pengetahuan perusahaan yang berubah, dan pertimbangkan fine-tuning hanya untuk perilaku atau format spesifik yang tidak tercapai dengan cara lain. Ukur dengan set uji di setiap tahap, dan keputusan Anda akan berbasis bukti, hemat biaya, dan mudah dipelihara.