Kecerdasan buatan semakin cepat masuk ke lingkungan perusahaan.
AI kini digunakan untuk menulis kode, menganalisis data, membuat laporan, membantu pekerjaan administratif, hingga menjalankan tugas secara otomatis melalui agen AI.
Namun, semakin banyak akses yang diberikan kepada AI, semakin besar pula risiko keamanan yang harus dihadapi perusahaan.
Akamai memperingatkan bahwa masalahnya bukan hanya satu celah keamanan. Berbagai komponen dalam ekosistem AI dapat saling terhubung membentuk sebuah rantai risiko.
Satu kelemahan pada salah satu bagian dapat membuka jalan menuju sistem lain yang lebih penting.
AI Kini Menjadi Bagian dari Operasional Perusahaan
Pada awal perkembangan AI generatif, banyak perusahaan masih menggunakan teknologi tersebut dalam tahap eksperimen.
Kini kondisinya berubah.
AI mulai menjadi bagian dari aktivitas operasional perusahaan. Karyawan menggunakan AI untuk membantu pekerjaan. Developer menggunakan AI coding assistant. Perusahaan menggunakan layanan AI berbasis cloud. Beberapa organisasi bahkan mulai menggunakan agen AI yang dapat menjalankan tindakan atas nama karyawan.
Perubahan ini membuat AI tidak lagi hanya menjadi sebuah aplikasi tambahan. AI mulai mendapatkan akses ke data, sistem, dan aset perusahaan.
Masalahnya: Keamanan Tidak Selalu Mengikuti Kecepatan Adopsi
Menurut laporan Akamai State of the Internet bertajuk "The Enterprise AI Usage Risk Report 2026", adopsi AI di perusahaan berkembang lebih cepat dibandingkan mekanisme pengamanannya.
Kondisi tersebut menciptakan permukaan serangan baru. Masalah dapat muncul dari berbagai arah.
Mulai dari akun AI pribadi yang digunakan karyawan, ekstensi browser, software developer, hingga agen AI yang memiliki kemampuan menjalankan tindakan secara otomatis.
Akamai menyebut data perusahaan kini dapat tersebar melalui jutaan prompt, akun yang tidak dikelola perusahaan, serta agen AI otonom.
Apa Itu Shadow AI?
Salah satu risiko terbesar adalah shadow AI.
Istilah tersebut merujuk pada penggunaan layanan AI oleh karyawan tanpa pengawasan atau persetujuan resmi dari perusahaan.
Misalnya, seorang karyawan menggunakan chatbot AI pribadi untuk membantu mengolah dokumen perusahaan.
Jika dokumen tersebut berisi informasi sensitif, data dapat keluar dari lingkungan yang dikendalikan perusahaan.
Masalahnya menjadi semakin kompleks karena perusahaan belum tentu mengetahui layanan AI apa saja yang digunakan oleh seluruh karyawannya.
Satu Celah Bisa Menjadi Rantai Masalah
Ancaman AI tidak selalu bekerja dengan cara menyerang satu sistem secara langsung.
Seorang penyerang dapat mencari titik terlemah dalam ekosistem.
Misalnya:
AI digunakan oleh developer.
Developer menggunakan ekstensi browser. Ekstensi memiliki izin akses yang sangat luas.
Ekstensi kemudian mendapatkan akses terhadap data tertentu. Data tersebut dapat digunakan untuk menyerang sistem berikutnya.
Dengan kata lain, keamanan AI harus dilihat sebagai sebuah rantai. Jika satu mata rantai lemah, bagian lain dapat ikut terdampak.
Vibe Hacking: Memanipulasi Instruksi untuk AI Coding
Akamai mengidentifikasi beberapa metode serangan baru. Salah satunya adalah vibe hacking. Serangan ini memanfaatkan file instruksi lokal dalam lingkungan kerja developer.
Penyerang dapat memodifikasi file tersebut secara halus.
Ketika AI coding assistant membaca instruksi yang telah dimanipulasi, AI dapat menghasilkan kode yang tidak aman atau menjalankan tindakan yang sebenarnya tidak diinginkan pengguna.
Yang membuatnya berbahaya adalah perubahan tersebut dapat terlihat seperti bagian normal dari workflow developer.
Masalahnya bukan AI tidak mampu menulis kode.
Masalahnya adalah AI dapat diarahkan oleh lingkungan yang telah dimanipulasi.
CursorJacking Mengincar Ekstensi Browser
Ancaman lainnya adalah CursorJacking. Metode ini memanfaatkan ekstensi browser dengan izin akses yang terlalu luas.
Ekstensi tersebut dapat memiliki kemampuan mengakses informasi sensitif dalam lingkungan browser. Informasi yang menjadi target dapat mencakup kunci API, basis kode, hingga riwayat percakapan.
Akamai mencatat hampir 75 persen ekstensi AI meminta izin akses tingkat tinggi atau kritis.
Bahkan, sekitar 16,3 persen ekstensi tersebut diketahui memiliki CVE atau kerentanan keamanan yang sudah teridentifikasi.
CometJacking: Website Bisa Menjadi Jalur Serangan
Ancaman lain yang ditemukan adalah CometJacking. Serangan ini menggunakan teknik indirect prompt injection. Penyerang menyisipkan instruksi berbahaya ke halaman web publik.
Ketika halaman tersebut dibaca oleh agen AI, instruksi tersembunyi tersebut berpotensi memengaruhi tindakan AI.
Jika agen memiliki akses yang cukup luas, dampaknya bisa lebih serius.
Agen dapat berpotensi melakukan tindakan seperti mengirim file, email, atau menggunakan kredensial sesi tanpa disadari pengguna.
Ini menunjukkan bahwa ancaman terhadap AI tidak selalu berasal dari model AI itu sendiri.
Sumbernya bisa berasal dari lingkungan yang dibaca atau digunakan oleh AI.
Agen AI Membawa Risiko Baru
Agen AI berbeda dari chatbot biasa.
Chatbot biasanya memberikan respons berdasarkan perintah pengguna. Agen AI dapat memiliki kemampuan untuk menjalankan tindakan.
Misalnya, agen dapat mengakses aplikasi, membaca file, mengirim informasi, atau menjalankan workflow tertentu. Semakin banyak kemampuan yang diberikan kepada agen, semakin besar pula dampak jika agen tersebut disalahgunakan.
Karena itu, perusahaan perlu memperlakukan agen AI seperti pengguna atau sistem yang memiliki hak akses.
Bukan sekadar chatbot.
5 Persen Karyawan Bisa Menjadi Prioritas
Akamai menyarankan perusahaan memberikan perhatian khusus kepada pengguna AI dengan aktivitas paling tinggi.
Menurut laporan tersebut, sekitar 5 persen karyawan berisiko tinggi dapat menghasilkan sebagian besar interaksi melalui prompt AI.
Kelompok tersebut perlu menjadi prioritas dalam pemantauan dan pembinaan keamanan.
Tujuannya bukan melarang penggunaan AI. Justru sebaliknya.
Perusahaan perlu mengetahui bagaimana AI digunakan dan data apa yang berinteraksi dengan sistem AI.
Perusahaan Perlu Mengendalikan Shadow AI
Salah satu langkah yang disarankan adalah mengurangi penggunaan shadow AI.
Perusahaan dapat menerapkan single sign-on atau SSO pada berbagai platform AI yang digunakan secara resmi.
Dengan cara tersebut, perusahaan dapat memiliki visibilitas lebih baik terhadap layanan yang digunakan karyawan.
Perusahaan juga perlu melakukan identifikasi secara rutin terhadap layanan AI berbasis SaaS yang digunakan di lingkungan kerja.
Tujuannya adalah memastikan penggunaan AI tidak berkembang menjadi area yang tidak diketahui oleh tim keamanan.
DLP Konvensional Tidak Lagi Cukup
Sistem Data Loss Prevention atau DLP selama ini banyak digunakan untuk mencegah kebocoran data.
Namun, pola penggunaan AI membuat pendekatan tersebut perlu diperbarui. Data sensitif tidak selalu keluar melalui email atau transfer file.
Data dapat masuk ke AI melalui prompt. Karyawan dapat melakukan copy-paste. Dokumen dapat diunggah ke layanan AI.
Agen AI juga dapat memproses informasi secara otomatis.
Karena itu, Akamai mendorong pemantauan yang lebih kontekstual dan real-time terhadap interaksi AI.
Ekstensi Browser Harus Dipandang sebagai Risiko Tinggi
Ekstensi browser sering dianggap sebagai fitur kecil. Padahal, beberapa ekstensi memiliki izin yang sangat luas. Ekstensi tertentu dapat membaca atau memodifikasi informasi yang muncul di browser.
Jika ekstensi tersebut memiliki kerentanan atau berasal dari sumber yang tidak terpercaya, risikonya dapat menjadi serius.
Hal yang sama berlaku untuk Integrated Development Environment atau IDE yang digunakan developer.
Ketika AI terintegrasi langsung dengan lingkungan pengembangan, sistem tersebut berpotensi mendapatkan akses terhadap kode dan sumber daya penting perusahaan.
AI Membutuhkan Prinsip Least Privilege
Salah satu pendekatan penting adalah prinsip least privilege.
Artinya, AI hanya diberikan akses yang benar-benar diperlukan untuk menjalankan tugas.
Jika sebuah agen hanya perlu membaca satu folder, tidak perlu memberikan akses ke seluruh penyimpanan perusahaan.
Jika AI hanya perlu membuat draft email, tidak harus diberikan izin mengirim email secara otomatis.
Semakin sedikit hak akses yang diberikan, semakin kecil pula dampak jika sistem tersebut disalahgunakan.
Keamanan AI Harus Bersifat Berkelanjutan
Keamanan tidak cukup dilakukan ketika AI pertama kali dipasang. Penggunaan AI terus berubah. Karyawan dapat menggunakan layanan baru. Perusahaan dapat memasang ekstensi baru. Model AI dapat memperoleh kemampuan tambahan. Agen AI dapat diberikan akses baru. Karena itu, keamanan harus menjadi proses berkelanjutan.
Perusahaan perlu terus memantau:
- AI apa yang digunakan.
- Siapa yang menggunakannya.
- Data apa yang diproses.
- Akses apa yang dimiliki AI.
- Tindakan apa yang dilakukan agen.
- Ekstensi dan integrasi apa yang terhubung.
- Apakah terdapat perilaku yang tidak biasa.
AI Tidak Harus Dilarang
Temuan Akamai bukan berarti perusahaan harus berhenti menggunakan AI.
Justru AI semakin penting bagi produktivitas bisnis. Persoalannya adalah bagaimana perusahaan mengadopsinya secara aman.
Melarang AI sepenuhnya mungkin justru mendorong karyawan menggunakan layanan secara diam-diam. Pendekatan yang lebih efektif adalah menyediakan ekosistem AI yang aman dan terkontrol.
Dengan begitu, karyawan tetap dapat menggunakan AI tanpa mengorbankan keamanan data perusahaan.
Era Baru Keamanan Siber
AI mengubah cara perusahaan bekerja. Namun, AI juga mengubah cara serangan siber dilakukan. Penyerang tidak lagi hanya mencari server yang rentan. Mereka dapat mencari ekstensi browser.
File instruksi. Prompt. Agen AI. Integrasi SaaS. Atau kredensial yang digunakan oleh sistem AI. Permukaan serangan menjadi jauh lebih luas.
Fakta Penting
- Adopsi AI di perusahaan berkembang lebih cepat dibandingkan sistem pengamanannya.
- Shadow AI menjadi salah satu risiko karena penggunaan AI tidak resmi sulit dipantau.
- Akamai mengidentifikasi tiga metode serangan baru: vibe hacking, CursorJacking, dan CometJacking.
- Vibe hacking dapat memanfaatkan manipulasi file instruksi dalam lingkungan developer.
- CursorJacking memanfaatkan izin luas pada ekstensi browser.
- CometJacking menggunakan indirect prompt injection untuk memengaruhi agen AI.
- Hampir 75 persen ekstensi AI meminta izin akses tingkat tinggi atau kritis.
- Sekitar 16,3 persen ekstensi AI memiliki CVE yang telah diketahui.
- Sekitar 5 persen karyawan dengan aktivitas AI tertinggi dapat menjadi kelompok prioritas pemantauan.
- Agen AI perlu diberikan hak akses minimum dan dipantau perilakunya.
AI Membuka Pintu Baru, Keamanan Harus Mengikuti
Perusahaan sedang berlomba memanfaatkan AI untuk meningkatkan produktivitas.
Namun, semakin dalam AI masuk ke sistem perusahaan, semakin besar pula tanggung jawab untuk mengamankannya. Masalah terbesar mungkin bukan satu celah keamanan.
Masalahnya adalah ketika berbagai celah kecil saling terhubung. Satu ekstensi yang rentan. Satu akun AI yang tidak diawasi.
Satu prompt yang berisi data sensitif. Satu agen AI dengan hak akses terlalu luas. Jika semuanya terhubung, satu kelemahan dapat menjadi awal dari masalah yang jauh lebih besar. Karena itu, keamanan AI tidak lagi cukup dilakukan di satu titik.
Setiap mata rantai dalam ekosistem AI harus diamankan.
Sebab di era AI, satu celah kecil dapat membuka pintu menuju seluruh sistem.
