Cara Memulai Proyek AI di Perusahaan

Sekarang hampir di setiap perusahaan ada yang bertanya AI bisa dipakai untuk apa di bisnisnya. Proyek yang mandek biasanya dimulai dari teknologinya. Tim memilih model, membuat demo yang terlihat keren saat rapat, lalu tidak bisa menjawab apakah hasilnya cukup bagus untuk dipakai pelanggan atau karyawan. Proyek yang sampai ke production dimulai dari satu pekerjaan yang spesifik, cara mengukurnya, dan data yang sudah ada. Panduan ini membahas cara memilih pekerjaan pertama itu dan cara menjalankannya sebagai pilot kecil yang terukur.

Mulai dari Pekerjaan, Baru Pilih Model

Tulis pekerjaannya sebagai satu kalimat tentang apa yang dikerjakan orang hari ini, misalnya "tim finance mengetik ulang invoice supplier ke ERP" atau "customer service menjawab pertanyaan pengiriman yang sama seharian". Lalu catat berapa kali pekerjaan itu terjadi per bulan, berapa lama sekali mengerjakan, dan berapa kerugian kalau salah. Pekerjaan yang terjadi ribuan kali, polanya jelas, dan hasilnya bisa dicek orang adalah kandidat yang bagus. Pekerjaan yang terjadi dua kali setahun, atau yang kesalahannya mahal dan sulit ketahuan, kurang cocok jadi proyek pertama.

Use Case Pertama yang Cocok dan Kurang Cocok

Cek Datanya Sebelum Memilih Model

• Datanya disimpan di mana, dan apakah proyek bisa membacanya lewat API, view database, atau export rutin?
• Apakah datanya cukup rapi? Hasil scan dokumen yang buram atau knowledge base yang penuh kebijakan lama akan menghasilkan jawaban salah, model apa pun yang dipakai.
• Apakah ada data pribadi? Menurut UU Pelindungan Data Pribadi (UU PDP), Anda perlu dasar hukum untuk memprosesnya dan harus tahu data itu dikirim ke mana.
• Siapa pemilik datanya dan siapa yang bisa menyetujui pemakaiannya? Jawaban ini sering ditunggu berminggu-minggu, jadi tanyakan di hari pertama.
• Bisakah Anda mengumpulkan 50 sampai 200 contoh kasus asli beserta jawaban yang benar untuk dijadikan data uji?

API, Model Self-Hosted, atau Keduanya

API dari Anthropic, OpenAI, dan Google memberi akses ke model terkuat tanpa perlu mengurus infrastruktur, dan jadi cara tercepat untuk tahu apakah pekerjaannya bisa dikerjakan AI atau tidak. Model open-weight yang dijalankan sendiri dengan Ollama atau vLLM menjaga data tetap di dalam jaringan Anda dan biayanya tetap, yang penting kalau datanya sensitif atau volumenya sangat besar. Banyak tim membuat prototipe dengan API, mengukur kualitas yang dibutuhkan, lalu menguji apakah model self-hosted yang lebih kecil bisa mencapainya. Kalau aturan internal melarang data keluar dari server sendiri, langsung mulai dengan self-hosted.

Fine-tuning model jarang diperlukan untuk proyek pertama. Instruksi yang jelas, beberapa contoh di dalam prompt, dan pencarian dari dokumen Anda sendiri (RAG) sudah cukup untuk kebanyakan pekerjaan bisnis. Ketiganya juga lebih murah diubah ketika aturan bisnisnya berubah.

Menjalankan Pilot

1. 1Sepakati satu pekerjaan, siapa yang akan memakai hasilnya, dan angka yang menentukan berhasil atau tidak, misalnya akurasi di data uji atau menit yang dihemat per dokumen.
2. 2Susun data uji dari kasus asli beserta jawaban yang benar, dicek oleh orang yang mengerjakan pekerjaan itu sekarang.
3. 3Buat versi paling sederhana yang bisa menjalankan data uji, lalu ukur hasilnya sebelum menambah fitur.
4. 4Perbaiki kelompok kesalahan terbesar lebih dulu, biasanya lewat instruksi, kualitas input, atau retrieval, dan ukur ulang setiap kali ada perubahan.
5. 5Berikan ke sekelompok kecil pengguna asli dengan satu orang yang mengecek setiap hasil, dan catat setiap koreksi yang mereka lakukan.
6. 6Putuskan berdasarkan angka: diperluas, diubah cakupannya, atau dihentikan. Menghentikan pilot yang tidak mencapai target juga hasil yang sah.

Komponen Biayanya

• Pemakaian model, dibayar per token kalau lewat API, atau server GPU kalau self-hosted.
• Pekerjaan engineering untuk menghubungkan AI ke sumber data, aplikasi, dan sistem login Anda.
• Waktu dari orang yang paham prosesnya untuk menyusun data uji dan mengecek hasil. Biaya ini paling sering terlupa.
• Biaya berjalan setelah rilis: memantau kualitas jawaban, memperbarui dokumen dan prompt, dan menyesuaikan diri saat versi model berganti.

Perkirakan biaya token sejak awal dengan menjalankan data uji, lalu kalikan biaya per kasus dengan volume per bulan. Untuk kebanyakan pekerjaan bisnis, biaya token jauh lebih kecil daripada jam kerja yang dihemat. Tapi desain yang mengirim dokumen utuh di setiap request bisa membuat tagihan membengkak begitu volumenya naik.

Risiko yang Perlu Diatur Sejak Awal

• Jawaban salah yang disampaikan dengan yakin. Libatkan orang untuk mengecek apa pun yang menyangkut uang, kontrak, atau keselamatan, dan tampilkan dokumen sumber di samping jawabannya.
• Data perusahaan keluar. Baca ketentuan provider soal penyimpanan data dan pemakaian untuk training, dan pakai paket bisnis atau enterprise yang tidak memakai data Anda untuk training.
• Prompt injection, yaitu teks di dalam dokumen atau pesan pengguna yang mencoba mengubah instruksi. Jangan beri model akses ke tindakan yang tidak boleh ia lakukan sendiri.
• Karyawan yang tidak percaya atau tidak mau memakai tool-nya. Libatkan mereka saat menyusun data uji supaya mereka melihat sendiri di mana AI bekerja dengan baik dan di mana belum.