Tren penggunaan teknologi Artificial Intelligence (AI) atau kecerdasan buatan semakin cepat masuk ke berbagai lini bisnis, mulai dari pemasaran, layanan pelanggan, analisis data hingga pengambilan keputusan. Namun di balik peluang efisiensi tersebut, pemilik bisnis menghadapi risiko baru. Antara lain ketergantungan pada AI, kebocoran data, serangan siber, keputusan yang keliru hingga hilangnya diferensiasi bisnis.
Pesan tersebut menjadi perhatian utama dalam Workshop “AI for Business Owners” yang diselenggarakan SyaREA World (SW) selama tiga hari di IPB International Convention Center Bogor pekan lalu. Workshop diikuti sekitar 50 pengusaha Muslim, dengan pembelajaran AI yang secara khusus ditempatkan dari perspektif business owner.
Founder SyaREA World, Syamsul Safin dalam siaran persnya di Jakarta, kemarin mengatakan, penggunaan AI perlu dikendalikan agar teknologi tidak justru mengendalikan pemilik bisnis. Menurutnya, penggunaan AI yang tanpa arah dapat membuat pengusaha masuk ke dalam ‘labirin tak berujung’. Pemilik bisnis akan terus mengeksplorasi tools baru, mengikuti perkembangan teknologi dan menghabiskan energi untuk mencoba berbagai kemampuan AI. Sementara tujuan awal penggunaan teknologi justru terlupakan,“Bagi kami, workshop ini adalah rescue mission dari labirin tak berujung. Kami tidak ingin pengusaha sekadar menjadi pengguna AI yang sibuk mencoba berbagai tools. Yang jauh lebih penting adalah mereka memahami posisi AI dalam arsitektur bisnisnya, apa yang boleh dibantu AI, apa yang harus tetap diputuskan manusia, dan batas apa yang tidak boleh dilewati,” paparnya.
Salah satu perhatian utama SyaREA World adalah risiko hilangnya diferensiasi ketika AI digunakan secara seragam. AI dapat menghasilkan berbagai materi dengan cepat. Namun ketika banyak pelaku bisnis menggunakan tools, pola dan instruksi yang serupa, produk, konten maupun komunikasi perusahaan berpotensi menjadi semakin mirip dan generik.
Menurutnya, kondisi tersebut berbahaya bagi bisnis karena pada dasarnya pelanggan bersedia membayar lebih untuk sesuatu yang memiliki perbedaan dan tidak mudah ditemukan di tempat lain. Alhasil ketika diferensiasi hilang, produk dapat terjebak menjadi komoditas, bisnis menjadi tidak terlihat di tengah banjir konten, dan nilai pembeda perusahaan semakin sulit dibangun,“Dalam kondisi generik, banyak pengusaha yang terjebak pada perang harga. Padahal perang harga tidak pernah dimenangkan oleh yang kecil. Yang bertahan adalah yang bermodal paling dalam. Margin yang tergerus akan mematikan kemampuan bertumbuh,” ujar Syamsul.
SyaREA World juga mengingatkan para business owners untuk memperhatikan risiko keamanan ketika AI mulai terhubung dengan data dan sistem perusahaan. Data pelanggan, strategi bisnis, dokumen internal, informasi keuangan hingga pengetahuan perusahaan dapat menjadi informasi sensitif apabila dimasukkan ke dalam sistem AI tanpa tata kelola yang memadai.
Risiko semakin kompleks ketika perusahaan mulai menggunakan AI Agent, yaitu sistem AI yang tidak hanya menghasilkan jawaban, tetapi dapat berinteraksi dengan berbagai aplikasi, data, API, tools dan sistem perusahaan. Dalam materi workshop tersebut, peserta diperkenalkan pada berbagai titik kerentanan AI Agent. Antara lain injeksi perintah tersembunyi (indirect prompt injection), pencurian atau eksfiltrasi data, penyalahgunaan hak akses, manipulasi memory atau context, kebocoran API key, serta serangan melalui tools dan server eksternal.
Kerentanan juga dapat muncul pada infrastruktur yang menjadi tempat AI berjalan. Termasuk eksploitasi sistem operasi, server-side request forgery (SSRF), remote code execution (RCE), container escape, serangan webhook, hingga DDoS dan resource exhaustion. Dengan kata lain, semakin luas akses yang diberikan kepada AI, semakin penting pula pengendalian akses dan keamanan sistem. “Oleh karena itu, jangan sampai demi mengejar efisiensi dengan AI, perusahaan justru membuka pintu bagi risiko keamanan data, privasi dan kebocoran informasi,” kata Syamsul.
Risiko tersebut bukan sekadar teoritis. National Institute of Standards and Technology (NIST) memasukkan antara lain confabulation atau hallucination, kebocoran data dan keamanan informasi sebagai bagian dari risiko yang perlu dikelola dalam penggunaan generative AI. Microsoft juga melaporkan dalam Work Trend Index 2025 bahwa 78 persen pengguna AI di tempat kerja yang disurvei menggunakan atau membawa tools AI mereka sendiri ke tempat kerja. Fenomena tersebut menunjukkan pentingnya tata kelola perusahaan agar penggunaan AI oleh individu tidak berjalan tanpa kontrol organisasi.
Selain keamanan, SW menyoroti risiko lain yang sering luput. Yakni bahwa AI dapat membuat seseorang merasa mampu memahami sesuatu hanya karena berhasil memperoleh jawaban dari mesin. Syamsul menyebut kondisi ini sebagai “halusinasi kepintaran” yang jauh lebih berbahaya dari pada efek Dunning – Kruger.
Efek Dunning-Kruger adalah bias kognitif ketika seseorang dengan kemampuan atau pengetahuan yang minim dalam suatu bidang justru merasa sangat pintar, hebat, dan percaya diri secara berlebihan.“Kalau pada efek Dunning Kruger orang tahu sedikit sudah merasa tahu banyak. Kalau dengan AI, orang yang sebenarnya tidak tahu apa-apa, langsung merasa tahu segalanya. Ini kan sangat berbahaya kalau diterapkan dalam konteks bisnis,” tegasnya.
Oleh karena itu, lanjutnya, business owner perlu tetap memiliki kemampuan untuk menguji, memverifikasi dan mempertanyakan hasil yang diberikan AI. Hal tersebut menjadi penting karena AI tidak hanya digunakan untuk pekerjaan administratif. Ketika AI mulai digunakan untuk analisis, strategi, pelayanan pelanggan bahkan pengambilan keputusan, kesalahan yang tidak terdeteksi dapat berdampak langsung terhadap bisnis.
Tidak Harus Menjadi Ahli AI
Kata Syamsul, SyaREA World menawarkan perspektif berbeda. Dimana business owner perlu memahami batas, manfaat, risiko dan arah penggunaan AI, tanpa harus menguasai seluruh aspek teknisnya. Tak perlu menjadi ahli AI, pemilik bisnis cukup memahami AI sampai pada lapisan arsitektur bisnis yang berkaitan dengan visi-misi, nilai inti, strategi dan arah perusahaan. “Cukup tahu seperlunya. Gunakan AI sampai lapisan arah, visi-misi perusahaan, nilai inti, strategi dan rancangan usaha. Sisanya serahkan kepada tim dan terus awasi,” tuturnya.
Dengan demikian, AI dapat ditempatkan sebagai sparing partner strategis untuk menguji keputusan, mempercepat analisis, menemukan kelemahan strategi dan membantu eksekusi. Sementara arah dan keputusan akhir bisnis tetap berada di tangan manusia. Bagi SyaREA World, pertanyaan penting di era AI bukan sekadar “AI bisa melakukan apa?”, tetapi juga “Apa yang seharusnya tetap menjadi keputusan manusia?” Karena pada akhirnya, teknologi boleh semakin pintar. Namun jangan sampai bisnis kehilangan jati diri karena terlalu sibuk mengikuti kepintaran teknologi.
