Generative AI dalam Bisnis: Cara Kerja, Penerapan, dan Risiko yang Perlu Diantisipasi

Pernah menggunakan AI untuk membuat artikel, merangkum dokumen, menyusun email, atau menghasilkan gambar hanya dari sebuah instruksi? Itulah salah satu contoh penggunaan Generative AI.

Teknologi ini semakin menarik bagi perusahaan karena bisa membantu pekerjaan yang sebelumnya membutuhkan banyak waktu. Tim marketing dapat mengembangkan ide konten, tim customer service dapat menyiapkan jawaban pelanggan, dan tim IT dapat terbantu saat membaca dokumentasi atau menganalisis kode.

Namun, Generative AI bukan berarti semua pekerjaan bisa diserahkan begitu saja kepada mesin. Hasilnya bisa keliru, data perusahaan bisa terekspos, dan konten yang dihasilkan belum tentu sesuai dengan kebutuhan bisnis.

Jadi, bagaimana sebenarnya Generative AI bekerja? Apa saja manfaatnya bagi perusahaan, dan bagaimana cara menggunakannya dengan lebih aman?

1. Apa Itu Generative AI?

Generative AI adalah jenis kecerdasan buatan yang dapat menghasilkan konten baru berdasarkan pola yang dipelajari dari data.

Konten tersebut bisa berupa:

Teks, seperti artikel, email, laporan, dan ringkasan.
Gambar, seperti ilustrasi produk dan materi pemasaran.
Audio, seperti suara sintetis dan transkripsi berbantuan AI.
Video, seperti klip visual yang dibuat dari instruksi.
Kode program untuk membantu proses pengembangan aplikasi.

Berbeda dari sistem AI yang hanya mengklasifikasikan data atau memprediksi angka, Generative AI dirancang untuk menghasilkan keluaran baru berdasarkan instruksi dan konteks yang diberikan.

Sebagai contoh, sistem analitik biasa dapat membantu menjawab pertanyaan seperti, "Berapa penjualan bulan ini?" Generative AI dapat membantu menyusun ringkasan laporan penjualan, menjelaskan perubahan yang terjadi, atau membuat draf presentasi berdasarkan data yang disediakan.

Meski begitu, kemampuan menghasilkan jawaban yang terdengar meyakinkan tidak selalu berarti jawabannya benar. Hasil AI tetap perlu diperiksa, terutama ketika digunakan untuk keputusan penting.

2. Bagaimana Cara Kerja Generative AI?

Untuk memahami cara kerjanya, kita tidak harus langsung mempelajari matematika yang rumit. Secara sederhana, prosesnya dapat dibagi menjadi beberapa tahap.

Tahap 1: Model Belajar dari Data

Model Generative AI dilatih menggunakan kumpulan data yang sesuai dengan jenis tugasnya. Dalam pelatihan, model mempelajari pola, hubungan, struktur bahasa, atau karakteristik lain dari data tersebut.

Model bahasa, misalnya, belajar mengenali hubungan antarkata dan konteks kalimat. Model pembuat gambar mempelajari pola visual dari data pelatihan yang digunakan.

Tahap 2: Pengguna Memberikan Prompt

Prompt adalah instruksi atau masukan yang diberikan kepada AI.

Contohnya, daripada hanya menulis "Buat artikel tentang keamanan siber", pengguna bisa memberikan instruksi yang lebih jelas:

"Buat artikel untuk pemula tentang keamanan siber di perusahaan. Gunakan bahasa Indonesia yang santai, sertakan lima praktik keamanan dasar, dan berikan contoh yang mudah dipahami."

Instruksi yang lebih spesifik membantu mengarahkan keluaran agar sesuai dengan kebutuhan.

Tahap 3: Model Menghasilkan Keluaran

Setelah menerima instruksi, model memproses masukan berdasarkan pola yang dipelajarinya dan menghasilkan keluaran.

Pada model bahasa, proses ini umumnya melibatkan prediksi token berikutnya secara berurutan. Token dapat berupa bagian dari kata, kata, atau unit teks lainnya. Pada model pembuat gambar, mekanisme generasinya bisa berbeda, misalnya menggunakan pendekatan diffusion.

Karena arsitektur dan metode setiap model tidak selalu sama, tidak semua Generative AI bekerja dengan cara yang persis identik.

Tahap 4: Hasil Diperiksa dan Diperbaiki

Hasil pertama sebaiknya dianggap sebagai draf, bukan selalu sebagai hasil akhir.

Pengguna dapat meminta perbaikan struktur, memperjelas instruksi, menambahkan konteks, atau memeriksa jawaban menggunakan sumber yang dapat dipercaya.

Dalam bisnis, tahap pemeriksaan ini penting karena hasil AI bisa mengandung informasi yang tidak akurat, asumsi yang salah, atau detail yang tidak sesuai dengan kebijakan perusahaan.

3. Contoh Penggunaan Generative AI dalam Bisnis

Generative AI dapat digunakan dalam berbagai fungsi perusahaan. Pemilihan kasus penggunaan sebaiknya didasarkan pada kebutuhan nyata, bukan hanya karena teknologinya sedang populer.

Marketing dan Pembuatan Konten

Tim marketing dapat menggunakan AI untuk mengembangkan ide kampanye, menyusun draf artikel, membuat variasi judul, atau menyesuaikan pesan untuk beberapa segmen audiens.

Contohnya, satu informasi produk dapat dikembangkan menjadi draf artikel blog, caption media sosial, dan materi email pemasaran.

AI membantu mempercepat proses awal. Tim tetap perlu memeriksa fakta, gaya komunikasi merek, hak penggunaan materi, dan kesesuaian konten dengan target audiens.

Customer Service

AI dapat membantu menyiapkan jawaban untuk pertanyaan yang sering diajukan, merangkum percakapan pelanggan, dan menyusun draf respons berdasarkan dokumentasi resmi.

Misalnya, ketika pelanggan bertanya tentang prosedur pengembalian barang, AI dapat membantu menemukan informasi yang relevan dari kebijakan perusahaan dan menyusun jawaban yang lebih mudah dipahami.

Untuk kasus sederhana, proses ini dapat menghemat waktu. Namun, keluhan sensitif, sengketa, atau keputusan yang berdampak besar sebaiknya tetap melibatkan petugas yang berwenang.

Human Resources (HR)

Tim HR dapat memanfaatkan AI untuk membuat draf deskripsi pekerjaan, menyusun materi orientasi karyawan, atau merangkum dokumen pelatihan.

Namun, penggunaan AI untuk menyaring kandidat atau memberikan rekomendasi terkait pekerjaan perlu dilakukan lebih hati-hati. Data yang digunakan harus sesuai, potensi bias perlu dievaluasi, dan keputusan penting tidak sebaiknya diserahkan sepenuhnya kepada model.

IT dan Software Development

Tim IT dapat menggunakan Generative AI untuk membantu menjelaskan kode, membuat contoh fungsi, menyusun dokumentasi, atau mengembangkan skenario pengujian.

Sebagai contoh, developer dapat meminta AI menjelaskan fungsi dari sebuah potongan kode yang belum dipahami.

Meskipun membantu, kode yang dihasilkan tetap perlu menjalani code review, pengujian, dan pemeriksaan keamanan. Kode yang terlihat benar belum tentu aman atau sesuai dengan arsitektur aplikasi.

Analisis Dokumen dan Laporan

Perusahaan sering memiliki banyak dokumen, seperti laporan operasional, prosedur kerja, kebijakan internal, dan dokumentasi teknis.

Generative AI dapat membantu merangkum dokumen tersebut, membandingkan informasi, atau menyusun daftar pertanyaan untuk analisis lanjutan.

Jika perusahaan menggunakan AI untuk menjawab pertanyaan berdasarkan dokumen internal, salah satu pendekatan yang bisa dipertimbangkan adalah Retrieval-Augmented Generation (RAG). Pendekatan ini menggabungkan model generatif dengan mekanisme pencarian informasi dari sumber yang relevan.

RAG dapat membantu memberikan konteks yang lebih sesuai, tetapi tidak menjamin semua jawaban benar. Sumber yang digunakan dan hasil akhirnya tetap perlu diperiksa.

4. Manfaat Generative AI bagi Perusahaan

Manfaat Generative AI tidak hanya berkaitan dengan kecepatan membuat konten. Jika diterapkan secara tepat, teknologi ini dapat membantu meningkatkan efisiensi beberapa proses bisnis.

Menghemat waktu kerja. Pekerjaan seperti membuat draf, merangkum dokumen, dan menyusun format awal laporan dapat dilakukan lebih cepat.
Mendukung produktivitas karyawan. AI dapat membantu karyawan memulai pekerjaan, mengeksplorasi ide, dan memahami materi yang kompleks.
Mempercepat pengembangan ide. Tim dapat membandingkan beberapa pendekatan atau alternatif sebelum menentukan pilihan.
Membantu akses terhadap informasi. Jika dikonfigurasi dengan baik, AI dapat mempermudah pencarian dan pemahaman dokumentasi yang relevan.
Mendukung pengembangan produk. Perusahaan dapat mengeksplorasi fitur baru, prototipe, dan cara berinteraksi dengan pelanggan.

Walaupun demikian, manfaat tersebut tidak otomatis muncul hanya karena perusahaan berlangganan layanan AI. Hasilnya bergantung pada kualitas implementasi, proses kerja, kemampuan pengguna, dan pengendalian risiko.

5. Risiko Generative AI yang Perlu Diantisipasi

Sebelum menerapkan Generative AI secara luas, perusahaan perlu memahami bahwa teknologi ini juga memiliki risiko. Risiko yang muncul dapat berbeda berdasarkan model, data, konfigurasi, dan tujuan penggunaannya.

Halusinasi atau Jawaban yang Keliru

Generative AI dapat menghasilkan informasi yang tidak benar tetapi terdengar meyakinkan. Fenomena ini sering disebut AI hallucination.

Contohnya, AI membuat ringkasan regulasi dan menyebutkan nomor pasal yang ternyata tidak sesuai dengan sumber aslinya.

Cara menguranginya adalah meminta AI menyertakan sumber, memeriksa informasi penting melalui referensi resmi, dan tidak menggunakan hasil AI sebagai satu-satunya dasar keputusan berisiko tinggi.

Kebocoran Data Perusahaan

Karyawan mungkin memasukkan informasi rahasia ke layanan AI tanpa memahami bagaimana data tersebut diproses atau disimpan.

Contohnya, seseorang menempelkan database pelanggan, dokumen kontrak, atau source code internal ke layanan yang belum disetujui perusahaan.

Risikonya bergantung pada ketentuan layanan, konfigurasi, pengaturan retensi, dan cara data digunakan oleh penyedia. Karena itu, perusahaan perlu mengevaluasi layanan yang akan digunakan dan menentukan jenis data yang boleh dimasukkan.

Bias dalam Hasil AI

Model dapat menghasilkan jawaban yang bias atau memberikan perlakuan berbeda terhadap kelompok tertentu.

Risiko ini penting ketika AI digunakan untuk proses seperti rekrutmen, evaluasi kinerja, penilaian pelanggan, atau keputusan lain yang berdampak pada individu.

Pengujian perlu mencakup variasi data dan skenario penggunaan yang relevan. Keputusan penting juga perlu memiliki mekanisme evaluasi dan koreksi.

Hak Cipta dan Kepemilikan Konten

Konten yang dihasilkan AI dapat menimbulkan pertanyaan tentang sumber materi, hak penggunaan, lisensi, dan kepemilikan hasil.

Perusahaan sebaiknya memeriksa ketentuan layanan, lisensi aset yang digunakan, serta aturan yang relevan di wilayah operasionalnya. Jangan menganggap semua hasil AI otomatis bebas digunakan untuk kepentingan komersial.

Penyalahgunaan untuk Penipuan

Generative AI dapat digunakan untuk membuat pesan phishing yang lebih meyakinkan, meniru gaya komunikasi seseorang, atau menghasilkan suara dan gambar sintetis.

Untuk mengantisipasinya, perusahaan perlu memperkuat verifikasi identitas, edukasi karyawan, kontrol transaksi, dan prosedur konfirmasi untuk permintaan sensitif.

Serangan terhadap Aplikasi Berbasis AI

Aplikasi yang terhubung dengan model AI juga dapat menghadapi risiko keamanan khusus, misalnya prompt injection, yaitu instruksi berbahaya yang berusaha memanipulasi perilaku model.

Risiko ini menjadi lebih penting ketika AI memiliki akses ke dokumen internal, sistem bisnis, atau alat yang dapat melakukan tindakan tertentu.

Perlindungan perlu mencakup pembatasan akses, pemisahan instruksi dan data, pengujian keamanan, serta persetujuan manusia untuk tindakan berisiko tinggi.

Berbagai risiko Generative AI tersebut juga dibahas dalam profil Generative AI dari NIST, yang memberikan panduan untuk mengenali dan mengelola risiko sepanjang siklus hidup sistem AI.

Baca referensi Generative AI Risk Management dari NIST

6. Cara Menerapkan Generative AI dengan Lebih Aman

Perusahaan tidak harus langsung membangun sistem AI yang kompleks. Pendekatan bertahap justru dapat membantu menguji manfaat teknologi sebelum digunakan dalam proses yang lebih kritis.

Mulai dari Kasus Penggunaan yang Jelas

Tentukan masalah yang ingin diselesaikan.

Misalnya, perusahaan ingin mengurangi waktu yang dibutuhkan untuk merangkum dokumen internal. Ukur waktu proses saat ini, tentukan target perbaikan, dan uji apakah AI benar-benar membantu.

Hindari memulai proyek hanya dengan tujuan umum seperti "menggunakan AI agar perusahaan lebih modern".

Pilih Layanan yang Sesuai

Evaluasi kemampuan layanan, keamanan, ketentuan pemrosesan data, kontrol akses, integrasi, biaya, dan kebutuhan bisnis.

Untuk penggunaan perusahaan, pertimbangkan apakah layanan menyediakan pengaturan administratif, kontrol data, mekanisme audit, dan perlindungan yang sesuai dengan kebijakan organisasi.

Tetapkan Kebijakan Penggunaan AI

Buat aturan yang mudah dipahami karyawan. Kebijakan tersebut dapat mencakup:

Layanan AI yang diperbolehkan.
Jenis data yang boleh dan tidak boleh dimasukkan.
Kewajiban memeriksa hasil AI.
Penggunaan AI untuk pekerjaan yang sensitif.
Persetujuan yang diperlukan sebelum hasil dipublikasikan atau digunakan.
Prosedur pelaporan jika terjadi kesalahan atau kebocoran data.

Kebijakan harus disertai edukasi agar karyawan memahami alasan di balik aturan tersebut.

Terapkan Kontrol Keamanan

Jika aplikasi AI terhubung dengan sistem internal, gunakan prinsip least privilege, yaitu memberikan akses seminimal mungkin sesuai kebutuhan.

Selain itu, pertimbangkan autentikasi yang kuat, pembatasan akses ke dokumen, pencatatan aktivitas, pengujian keamanan, dan pemantauan penggunaan.

Untuk sistem yang dapat menjalankan tindakan, seperti mengirim email atau mengubah data, berikan pembatasan yang lebih ketat dan persetujuan manusia pada tindakan yang berisiko.

Evaluasi Hasil Secara Berkala

Pengujian sebaiknya tidak hanya menilai apakah jawaban terlihat bagus. Periksa juga akurasi, konsistensi, keamanan, potensi bias, waktu yang dihemat, dan dampak terhadap proses bisnis.

Simpan contoh hasil yang berhasil maupun gagal untuk membantu evaluasi berikutnya. Jika sistem mengalami perubahan model atau konfigurasi, lakukan pengujian ulang sesuai tingkat risikonya.

7. Contoh Implementasi: Generative AI untuk Dokumentasi IT

Bayangkan sebuah perusahaan memiliki banyak dokumentasi teknis, tetapi tim IT sering kesulitan menemukan prosedur yang tepat ketika menangani masalah.

Perusahaan ingin menggunakan AI untuk membantu menjawab pertanyaan berdasarkan dokumentasi internal.

Salah satu rancangan awalnya adalah:

Kumpulkan dokumentasi yang telah disetujui untuk digunakan.
Klasifikasikan dokumen berdasarkan sensitivitas dan hak akses.
Hubungkan dokumen ke sistem pencarian yang relevan.
Gunakan model generatif untuk menyusun jawaban berdasarkan hasil pencarian.
Tampilkan referensi dokumen yang digunakan agar pengguna dapat memeriksanya.
Batasi akses sesuai peran pengguna.
Uji akurasi jawaban, kebocoran informasi, dan ketahanan terhadap prompt injection.

Sebagai contoh, ketika seorang analis bertanya, "Bagaimana prosedur awal menangani alert malware?", sistem dapat mencari SOP terkait dan menyusun ringkasan langkah-langkahnya.

Analis tetap harus membuka SOP sumber dan mengikuti prosedur resmi. AI berfungsi sebagai alat bantu untuk menemukan dan memahami informasi, bukan pengganti proses operasional yang telah ditetapkan.

Keberhasilan implementasi dapat diukur melalui waktu pencarian dokumen, akurasi jawaban, tingkat penggunaan, dan jumlah kesalahan yang ditemukan selama pengujian.

8. Bagaimana Mengukur Keberhasilan Generative AI?

Sebelum implementasi, tentukan indikator yang akan digunakan untuk mengevaluasi hasilnya.

Waktu penyelesaian tugas: apakah proses menjadi lebih cepat?
Akurasi keluaran: seberapa sering jawaban sesuai dengan sumber dan kebutuhan?
Tingkat koreksi: berapa banyak hasil yang harus diperbaiki oleh pengguna?
Adopsi pengguna: apakah karyawan benar-benar menggunakan sistem?
Biaya operasional: apakah penghematan waktu sebanding dengan biaya layanan dan pengawasan?
Insiden keamanan: apakah terdapat kebocoran data, akses tidak sah, atau penyalahgunaan?
Kepuasan pengguna: apakah sistem membantu menyelesaikan pekerjaan dengan lebih baik?

Metrik perlu disesuaikan dengan tujuan penggunaan. Untuk pembuatan draf artikel, waktu dan kualitas konten mungkin menjadi indikator utama. Untuk dokumentasi keamanan, akurasi, keterlacakan sumber, dan kontrol akses bisa jauh lebih penting.

9. Kesimpulan

Generative AI memberikan peluang bagi perusahaan untuk mempercepat pekerjaan, membantu pengembangan ide, dan mempermudah pengolahan informasi. Teknologi ini dapat digunakan di bidang marketing, customer service, HR, software development, hingga dokumentasi internal.

Namun, penerapan yang baik tidak berhenti pada pemilihan model AI. Perusahaan perlu memahami risiko halusinasi, kebocoran data, bias, hak penggunaan konten, dan serangan terhadap aplikasi berbasis AI.

Pendekatan yang paling masuk akal adalah memulai dari kebutuhan yang jelas, memilih layanan yang sesuai, menetapkan kebijakan, menerapkan kontrol keamanan, dan mengukur hasilnya secara berkala.

Dengan cara tersebut, Generative AI dapat menjadi alat bantu bisnis yang berguna tanpa mengabaikan keamanan, kualitas, dan tanggung jawab penggunaannya.

Generative AI dalam Bisnis: Cara Kerja, Penerapan, dan Risiko yang Perlu Diantisipasi