Menjalankan AI di Server Sendiri untuk Data Sensitif

Jalankan model AI di perangkat sendiri hanya jika datanya memang tidak boleh keluar, entah karena undang-undang, kontrak klien, atau aturan internal. Kalau yang dikejar penghematan, layanan AI berbayar hampir selalu lebih murah untuk volume usaha kecil dan menengah. Urutannya: petakan data, hitung tagihan bulanan, lalu periksa lisensi model.

Ketiga pemeriksaan itu saya uraikan di bawah dengan angka per Oktober 2026. Saya anggap Anda sudah tahu pekerjaan yang ingin diserahkan ke AI, misalnya merangkum kontrak, menjawab pertanyaan dari dokumen internal, atau memilah pesan pelanggan.

Data mana yang benar-benar tidak boleh keluar?

Kalimat "kita tidak boleh pakai AI cloud" biasanya mencampur tiga alasan yang berbeda. Pisahkan dulu, karena jawabannya juga berbeda.

Undang-undang. UU Pelindungan Data Pribadi (UU 27/2022) tidak melarang data pribadi dikirim ke luar negeri. Pasal 56 mengatur jenjangnya: negara tujuan harus punya perlindungan setara atau lebih tinggi; kalau tidak, harus ada perlindungan yang mengikat; kalau itu pun tidak ada, pemilik data harus memberi persetujuan.

Aturan pelaksananya, PP 33/2026, diundangkan 16 Juli 2026 dan mulai berlaku 16 Januari 2027 (Katadata, 3 September 2026). Menurut ringkasan kantor hukum yang terbit 9 Oktober 2026, PP ini menambah langkah sebelum pengiriman: petakan ke mana data pergi, kirim seperlunya, nilai risikonya bagi pemilik data, lalu beri tahu mereka tujuan serta pengamanannya. Mengirim data pelanggan ke layanan AI di luar negeri termasuk pengiriman semacam ini. Jadi urusannya dokumen dan prosedur, bukan larangan.

Kontrak. Perjanjian kerahasiaan (NDA) atau kontrak klien bisa lebih ketat daripada undang-undang. Pabrik bisa saja melarang gambar teknik mereka keluar dari jaringan Anda, apa pun isi UU PDP. Baca klausulnya. Sering kali klausul itu langsung memberi jawaban tanpa perlu analisis hukum panjang.

Kebijakan internal. Ada perusahaan yang memang tidak mau data gaji, notulen direksi, atau kode programnya tersimpan di server pihak lain. Itu pilihan sah. Namun, pilihan tetaplah pilihan, dan harganya perlu dihitung.

Sebelum membeli perangkat, ada beberapa jalan tengah:

Pilihan kedua sedikit lebih mahal. Anthropic, misalnya, mengenakan pengali 1,1 kali agar pemrosesan tetap di Amerika Serikat dan tambahan 10% untuk titik akses regional di penyedia cloud. Tak satu pun menaruh data di Indonesia, jadi cek dulu wilayah yang benar-benar tersedia sebelum mengandalkannya.

Pilihan ketiga jarang dipakai, padahal sederhana. Sebuah skrip pendek mengganti nama, nomor telepon, dan NIK dengan kode sementara sebelum teks dikirim, lalu mengembalikannya saat jawaban datang. Sebagian besar data pribadi jadi tidak ikut terkirim. Cara ini tidak berlaku kalau jawabannya justru bergantung pada identitas orangnya.

Berapa tagihannya per bulan?

Layanan AI menagih per token, yaitu potongan kata. Harga dihitung per sejuta token, terpisah antara teks yang Anda kirim (input) dan teks jawaban (output).

Per Oktober 2026, daftar harga Anthropic mencantumkan Claude Haiku 5.5 seharga US$0,10 per sejuta token input dan US$0,50 per sejuta token output. Claude Sonnet 5.5 dihargai US$2 dan US$10. Ambil contoh beban kerja yang wajar: 2.000 dokumen per hari, masing-masing sekitar 3.000 token masuk dan 500 token keluar.

Bandingkan dengan sisi perangkat. Menyewa satu H100, kartu grafis pusat data yang dibuat khusus untuk AI, dihargai US$2,89 per jam di daftar harga publik Runpod (Oktober 2026). Kalau menyala terus sebulan penuh, biayanya sekitar US$2.100, belum termasuk orang yang memasang dan merawatnya. Kartu sewaan di luar negeri juga tidak menyelesaikan soal lokasi data. Angka ini hanya patokan harga.

Membeli perangkat sendiri mengubah bentuk biayanya, tetapi kesimpulannya tetap sama untuk volume sebesar ini. Anda membayar di muka, membaginya kira-kira tiga tahun, lalu menambah listrik, pendingin ruangan, suku cadang, dan jam kerja orang yang merawat. Minta penawaran dari pemasok lokal. Harga kartu grafis di Indonesia ikut naik turun bersama kurs dan stok impor.

Terus terang saja: bagi sebagian besar usaha kecil dan menengah, model AI sendiri adalah keputusan privasi yang harus dibayar lebih, bukan cara berhemat. Hitungannya baru berbalik kalau server itu sibuk hampir sepanjang hari. Cara membagi pekerjaan antara model murah dan model mahal saya bahas di artikel pengendalian biaya LLM.

Model apa yang muat di satu mesin?

Model open-weight adalah model yang berkasnya bisa Anda unduh dan jalankan sendiri. Bedanya seperti membeli program dibanding menyewa akses ke layanan orang lain. Kini model yang cukup cakap sudah muat di perangkat yang terjangkau oleh perusahaan.

Model gpt-oss dari OpenAI, dirilis Agustus 2025, bisa jadi patokan. Versi besarnya, gpt-oss-120b, dirancang muat di satu GPU bermemori 80 GB seperti H100. Versi kecilnya, gpt-oss-20b, cukup dengan memori 16 GB, setara kartu grafis PC kelas atas.

Model kecil memang lebih murah dijalankan, tetapi kemampuannya jelas di bawah. Detail di dokumen panjang lebih mudah terlewat, instruksi yang rumit lebih sering meleset, dan bahasa Indonesianya kalah dari model besar yang disewakan. Jangan berpegang pada peringkat umum. Ambil 50 sampai 100 dokumen asli dari pekerjaan Anda, jalankan di model calon, lalu bandingkan jawabannya dengan jawaban staf Anda. Kumpulan uji kecil seperti ini, yang saya jelaskan di artikel evaluasi produk LLM, lebih jujur daripada peringkat publik mana pun.

Bolehkah modelnya dipakai untuk bisnis?

Model yang sudah diunduh tidak otomatis bebas dipakai. Setiap model punya lisensi sendiri, dan lisensinya bisa berbeda antarversi dalam keluarga yang sama.

Ambang 700 juta pengguna jelas tidak menyentuh UMKM Indonesia, tetapi kebijakan penggunaannya tetap mengikat. Simpan salinan berkas lisensi untuk versi yang Anda pasang, berdampingan dengan modelnya. Kode, berkas model, dan data latih masing-masing punya ketentuan sendiri; uraiannya ada di artikel lisensi AI tiga lapis.

Apa saja yang harus disiapkan kalau dijalankan sendiri?

Model di server sendiri adalah sistem produksi. Perawatannya setara database Anda, bahkan sedikit lebih.

• Hak akses. Siapa yang boleh bertanya, dan apakah mereka bisa melihat dokumen milik bagian lain? AI internal yang menjawab siapa saja dari folder mana saja tetap membocorkan data, hanya saja ke dalam perusahaan.
• Catatan penggunaan. Rekam siapa bertanya apa dan kapan. Catatan ini dibutuhkan saat pertama kali ada yang menanyakan asal sebuah jawaban.
• Masa simpan. Pertanyaan dan jawaban berisi data sensitif yang sama dengan yang sedang Anda lindungi. Tentukan berapa lama disimpan, lalu hapus sesuai jadwal.
• Pembaruan. Berkas model, program penjalannya, dan driver GPU sama-sama rutin diperbarui. Harus ada yang menguji lalu memasangnya.
• Orang kedua. Kalau hanya satu teknisi yang bisa menyalakan ulang server, sistem ikut berhenti saat dia cuti.

Menyimpan data di gedung sendiri tidak otomatis memenuhi UU PDP. Tujuan pemrosesan, hak akses, masa simpan, dan penanganan insiden tetap berlaku. Risiko sanksi administratif yang saya bahas di artikel denda UU PDP 2026 tidak mengecil hanya karena servernya ada di ruangan Anda.

Daftar keputusan singkat

1. Tulis data apa saja yang akan dilihat AI dan aturan mana (undang-undang, kontrak, kebijakan) yang membatasinya.
2. Kalau yang penting hanya lokasi dan pengiriman masih diizinkan, hitung dulu biaya layanan berwilayah tetap atau penghapusan nama.
3. Kalau tidak ada yang boleh keluar, perkirakan jumlah token per bulan, lalu bandingkan tagihan layanan dengan biaya penuh server sendiri selama tiga tahun.
4. Uji dua atau tiga model calon dengan 50–100 dokumen milik Anda.
5. Simpan berkas lisensi untuk versi model yang dipilih.
6. Tunjuk dua orang perawat server, dan atur hak akses, catatan penggunaan, serta masa simpan sebelum dokumen asli pertama masuk.

Jika Anda sedang menimbang pilihan ini untuk sistem tertentu, saya bisa membantu memetakan datanya, pilihan yang tersedia, dan biaya bulanan sebenarnya melalui layanan konsultasi arsitektur sistem.