Implementasi Model Retrieval Augmented Generation (RAG) pada Chatbot Customer Support PT. Gaws Inti Solusi

Abstract

Perkembangan teknologi Artificial Intelligence (AI), khususnya Large Language Models (LLM), membuka peluang baru dalam pengembangan chatbot untuk layanan pelanggan. Namun, LLM konvensional masih menghadapi permasalahan seperti halusinasi informasi dan keterbatasan konteks. Penelitian ini bertujuan untuk mengimplementasikan model Retrieval-Augmented Generation (RAG) dalam sistem chatbot guna mengatasi keterbatasan sistem layanan pelanggan di PT Gaws Inti Solusi. Metode pengembangan menggunakan pendekatan Agile dengan empat sprint iteratif yang meliputi setup lingkungan pengembangan, integrasi pipeline RAG, peningkatan UI/UX, serta optimasi sistem. Sistem yang dibangun memanfaatkan LangChain, ChromaDB, dan model LLM lokal (mistral:instruct) yang diintegrasikan dengan dashboard admin dan widget chatbot interaktif. Evaluasi menunjukkan bahwa pendekatan RAG mampu meningkatkan akurasi respons, mengurangi ketergantungan pada pimpinan perusahaan, serta mempercepat waktu tanggap layanan pelanggan. Dengan demikian, sistem ini memberikan kontribusi nyata dalam otomatisasi dan efisiensi layanan informasi di lingkungan perusahaan.