Cara Menjalankan Model AI Lokal dengan Open WebUI

Ollama di terminal cukup untuk satu orang teknis. Tapi begitu Anda ingin tim ikut memakai model lokal itu — admin yang minta bantuan draft, finance yang mau meringkas dokumen — menyuruh mereka membuka terminal adalah akhir cerita adopsi. Open WebUI menyelesaikannya: antarmuka chat sekelas ChatGPT yang berjalan di atas Ollama Anda sendiri, lengkap dengan akun per orang, riwayat percakapan, dan kemampuan membaca dokumen. Data tetap tidak pernah meninggalkan mesin Anda.

Kenapa perlu antarmuka di atas Ollama

Karena adopsi tim ditentukan oleh gesekan, bukan oleh kecanggihan. Terminal menyaring pemakainya menjadi satu-dua orang; antarmuka web yang familiar membuka pintu untuk semua. Ditambah tiga hal yang terminal tidak berikan: riwayat percakapan yang tersimpan dan bisa dicari, pengelolaan banyak pengguna dengan perannya, dan fitur unggah dokumen untuk ditanyai — fondasi menuju RAG sederhana yang kami bahas di tutorial lanjutannya, terbit dua hari lagi di blog ini.

Prasyarat: Ollama sudah terpasang dan bisa menjawab, seperti di tutorial instalasi Ollama.

Langkah 1: Jalankan Open WebUI dengan Docker

Satu perintah, untuk kasus paling umum (Ollama di mesin yang sama):

docker run -d --name open-webui \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Dua bagian yang bukan hiasan: --add-host memberi container jalan untuk menjangkau Ollama di mesin induk, dan -v open-webui:... menyimpan akun serta riwayat di volume — tanpanya, semua hilang tiap container dibuat ulang. Kalau istilah-istilah ini masih asing, mampir dulu ke Docker untuk pemula.

Buka http://localhost:3000 (atau IP mesin itu dari komputer lain di jaringan kantor).

Langkah 2: Sambungkan ke Ollama

Akun pertama yang dibuat otomatis menjadi admin. Setelah masuk, Open WebUI biasanya menemukan Ollama sendiri; kalau daftar modelnya kosong, buka Admin Panel → Settings → Connections dan pastikan alamat Ollama-nya http://host.docker.internal:11434. Setelah tersambung, semua model yang pernah Anda ollama pull muncul di pemilih model, dan Anda bisa mengunduh model baru langsung dari antarmuka.

Coba satu percakapan dengan pekerjaan nyata — tempel notulen setengah jadi dan minta rapikan. Perhatikan juga pemilih model di atas: percakapan berbeda boleh memakai model berbeda, model kecil yang cepat untuk tugas ringan, model besar untuk yang berat.

Langkah 3: Atur akun untuk beberapa pengguna

Di Admin Panel → Users, atur bagaimana orang bergabung. Setelan yang masuk akal untuk kantor: pendaftaran baru berstatus pending sampai disetujui admin, supaya siapa yang memakai selalu terkendali. Setiap orang mendapat riwayat percakapannya sendiri — draft milik admin tidak bercampur dengan analisis milik finance.

Satu keputusan kebijakan yang sebaiknya dibuat eksplisit sejak hari pertama, dan ini pelajaran dari banyak pemasangan: sepakati data apa yang boleh ditempel ke sistem ini. Memang semuanya lokal — justru itu nilai jualnya — tapi riwayat percakapan tetap tersimpan di satu mesin yang dibagi bersama; data gaji atau data kesehatan karyawan layak diperlakukan lebih hati-hati daripada draft email promosi.

Langkah 4: Unggah dokumen dan tanya isinya

Fitur yang paling cepat terasa nilainya: klik ikon lampiran di kotak chat, unggah PDF atau dokumen teks, lalu bertanya tentang isinya. Model menjawab berdasarkan dokumen itu, bukan ingatan internet-nya. Untuk pemakaian berulang — SOP, katalog, kebijakan internal — jangan unggah berulang kali: buat Knowledge (koleksi dokumen permanen) sekali, lalu rujuk di percakapan mana pun. Cara menyusunnya dengan benar, termasuk mengukur kualitas jawabannya, kami tulis terpisah di tutorial RAG.

Batas yang harus dipahami sebelum dipakai tim

• Kecepatan dibagi bersama. Satu mesin melayani semua; dua orang bertanya bersamaan berarti antre. Untuk tim kecil ini jarang terasa, untuk dua puluh pengguna aktif perlu mesin yang serius.
• Kualitas mengikuti model lokal Anda. Antarmuka boleh mirip ChatGPT; kemampuannya tetap kemampuan model yang muat di RAM Anda. Tugas menulis dan meringkas: sangat layak. Penalaran rumit: jangan berharap setara model API kelas atas.
• Akses dari luar kantor butuh kerja ekstra. Bawaannya hanya bisa diakses jaringan lokal — itu fitur keamanan, bukan kekurangan. Kalau perlu diakses dari rumah, jalurnya VPN atau reverse proxy ber-HTTPS, jangan sekadar membuka port ke internet.

Dengan Open WebUI terpasang, tim Anda punya "ChatGPT kantor" yang datanya tidak pernah pergi ke mana-mana. Langkah lanjut yang paling bernilai: menyambungkannya ke dokumen perusahaan lewat tutorial RAG yang menyusul di blog ini, atau minta kami merancang keseluruhan tumpukan AI lokal untuk bisnis Anda.