Bayangkan sebuah sistem kecerdasan buatan menerima tugas sederhana dari seorang manajer: menyusun laporan evaluasi vendor dan mengirimkan rekomendasinya kepada tim pengadaan.

Untuk menyelesaikan tugas tersebut, sistem membuka dokumen kontrak, membaca percakapan email, mengambil data dari penyimpanan perusahaan, mengakses aplikasi pengadaan, membandingkan riwayat transaksi, lalu mengirimkan hasil analisis kepada pihak yang dianggap relevan.

Seluruh rangkaian itu dapat berlangsung tanpa seseorang mengarahkan setiap langkahnya.

Pada titik tersebut, perusahaan tidak lagi sekadar menggunakan perangkat lunak yang mampu menjawab pertanyaan. Perusahaan telah memberikan identitas, akses, memori, tools, dan kewenangan operasional kepada sistem yang dapat menyusun rencana tindakannya sendiri.

Inilah perubahan mendasar yang dibawa Agentic AI ke lingkungan kerja.

Persoalannya bukan hanya apakah jawaban AI akurat. Persoalan yang lebih besar adalah apakah organisasi memahami data yang dibaca, identitas yang digunakan, keputusan yang dibuat, serta tindakan yang dapat dijalankan oleh agen tersebut.

Ketika AI mulai bertindak, risiko keamanan tidak lagi berhenti pada kerentanan aplikasi.

AI Tidak Lagi Hanya Menjawab, tetapi Mulai Bertindak

Aplikasi konvensional umumnya bekerja dalam pola yang relatif dapat diprediksi. Pengguna memberikan input, sistem menjalankan fungsi tertentu, kemudian memberikan hasil sesuai alur yang sudah ditentukan pengembang.

Agentic AI bekerja dengan cara yang berbeda.

Sistem ini dapat menerjemahkan tujuan umum menjadi beberapa langkah, menentukan urutan pekerjaan, memilih tools, membaca data dari sumber eksternal, mempertahankan konteks, dan menyesuaikan keputusan berdasarkan hasil sebelumnya.

Sebagai contoh, perusahaan dapat menggunakan AI agent untuk mengelola tiket layanan pelanggan. Agen tidak hanya merangkum keluhan, tetapi juga mencari riwayat pelanggan, memeriksa status pembayaran, menentukan prioritas, memperbarui tiket, dan mengirimkan respons.

Di bidang sumber daya manusia, agen dapat membantu menyaring kandidat, menjadwalkan wawancara, membaca dokumen pelamar, dan memberikan rekomendasi kepada perekrut.

Dalam operasional teknologi informasi, agen bahkan dapat memeriksa konfigurasi, menjalankan perintah, membuka tiket perbaikan, atau merespons peringatan keamanan.

Kemampuan tersebut menawarkan efisiensi yang besar. Namun, setiap kemampuan baru juga memperluas dampak ketika sistem salah memahami tujuan, menerima instruksi berbahaya, atau menggunakan kewenangan di luar batas yang seharusnya.

Perusahaan selama ini terbiasa memandang AI sebagai alat bantu produktivitas. Agentic AI memaksa perusahaan melihatnya sebagai aktor digital yang ikut berada di dalam proses bisnis.

Semakin besar kemampuan agen untuk bertindak, semakin besar pula kebutuhan untuk menguji bukan hanya aplikasinya, tetapi juga perilaku dan kewenangannya.

Permukaan Serangan Tidak Lagi Berhenti pada Aplikasi

Keamanan aplikasi tradisional biasanya berfokus pada komponen seperti jaringan, autentikasi, otorisasi, API, basis data, konfigurasi server, dan validasi input.

Seluruh komponen tersebut tetap penting dalam lingkungan Agentic AI. Namun, sistem agentic menambahkan beberapa lapisan baru.

Lapisan tersebut mencakup model bahasa, system prompt, memori, sumber data eksternal, plugin, tools, token API, sistem orkestrasi, komunikasi antaragen, serta mekanisme persetujuan manusia.

Masing-masing komponen mungkin terlihat aman ketika diuji secara terpisah. Masalah sering muncul ketika seluruh komponen mulai berinteraksi.

Sebuah AI agent mungkin memiliki akses terbatas ke aplikasi pelanggan. Namun, agen yang sama juga dapat membaca email, membuka dokumen internal, serta mengirimkan informasi melalui layanan komunikasi perusahaan.

Jika salah satu sumber data mengandung instruksi tersembunyi, agen dapat menganggap instruksi tersebut sebagai bagian dari tugas. Agen kemudian menggunakan akses yang sah untuk melakukan tindakan yang sebenarnya tidak pernah diminta oleh pengguna.

Penyerang tidak selalu harus merusak kode atau mencuri kata sandi. Dalam beberapa skenario, penyerang hanya perlu memengaruhi konteks yang dibaca sistem.

Perubahan ini membuat batas antara data dan instruksi menjadi semakin penting. Bagi manusia, kalimat di dalam dokumen mungkin terlihat sebagai isi biasa. Bagi agen, kalimat tersebut dapat ditafsirkan sebagai perintah yang harus dijalankan.

NIST menyoroti ancaman ini melalui konsep agent hijacking atau pembajakan agen. Serangan tersebut dapat terjadi ketika instruksi berbahaya ditempatkan pada data eksternal, seperti situs web, email, dokumen, atau repositori kode yang kemudian dibaca oleh AI agent.

Agen dapat mengalihkan tujuan awal dan mengambil tindakan yang tidak diinginkan tanpa harus ada eksploitasi terhadap kerentanan perangkat lunak konvensional.

Pentest Tradisional Tetap Penting, tetapi Tidak Menjawab Seluruh Risiko

Penetration testing tetap menjadi bagian penting dalam keamanan Agentic AI.

Pentest dapat mengidentifikasi kelemahan pada autentikasi, kontrol akses, aplikasi web, API, infrastruktur cloud, jaringan, session management, penyimpanan kredensial, dan konfigurasi keamanan.

Pengujian tersebut dapat membuktikan apakah penyerang mampu memperoleh akses tanpa izin, meningkatkan hak akses, memanipulasi parameter, atau mengeksploitasi kelemahan teknis.

Namun, pengujian keamanan sistem agentic membutuhkan pertanyaan yang lebih luas.

Pentest tradisional biasanya menguji sistem yang fungsi dan alurnya telah ditentukan. Perilaku aplikasi cenderung dapat diulang. Input yang sama biasanya menghasilkan respons yang sama atau setidaknya mengikuti pola yang dapat diprediksi.

Agentic AI tidak selalu bekerja seperti itu.

Tindakannya dapat berubah berdasarkan konteks percakapan, isi memori, sumber informasi, respons tools, urutan pemanggilan API, atau keputusan agen lain.

Dua agen dengan konfigurasi serupa dapat mengambil langkah berbeda ketika menerima kondisi yang sedikit berbeda. Bahkan agen yang sama dapat menunjukkan perilaku berbeda setelah memori, tools, atau model dasarnya diperbarui.

Karena itu, pentest yang hanya menguji endpoint, server, dan kontrol akses belum tentu menjawab apakah agen dapat diarahkan menuju tujuan yang salah.

Pentest tradisional bertanya apakah penyerang dapat masuk. Pengujian Agentic AI juga harus bertanya apa yang dapat terjadi ketika sistem yang sudah berada di dalam organisasi berhasil dimanipulasi.

Analisis ini sering kami temukan saat melakukan penetration testing pada perusahaan di Indonesia.

Banyak organisasi telah menerapkan kontrol keamanan yang cukup baik pada lapisan aplikasi. Namun, risiko sering muncul pada hubungan antarsistem, pemberian hak akses, penggunaan akun layanan, serta proses otomatis yang tidak memiliki pembatasan memadai.

Agentic AI dapat memperbesar persoalan tersebut karena mampu menggunakan berbagai integrasi dalam satu rangkaian tindakan.

Ketika Tujuan yang Sah Dibelokkan

Salah satu risiko penting dalam keamanan Agentic AI adalah agent goal hijacking.

Serangan ini terjadi ketika tujuan awal agen dipengaruhi atau dialihkan oleh instruksi lain. Instruksi tersebut dapat berasal dari pengguna, dokumen, halaman web, email, basis pengetahuan, atau hasil komunikasi dengan sistem lain.

Misalnya, seorang pegawai meminta AI agent merangkum dokumen vendor.

Di dalam dokumen terdapat instruksi tersembunyi yang meminta agen mencari informasi tambahan dari folder internal, mengabaikan kebijakan tertentu, lalu mengirimkan hasilnya kepada alamat eksternal.

Jika agen tidak mampu membedakan isi dokumen dengan instruksi operasional, tujuan awal yang sah dapat berubah menjadi rangkaian tindakan berbahaya.

Dalam skenario tersebut, autentikasi mungkin bekerja dengan baik. Agen menggunakan akun yang valid dan mengakses sistem melalui jalur resmi.

Masalahnya bukan pada kegagalan autentikasi. Masalahnya adalah tindakan setelah autentikasi tidak lagi sesuai dengan tujuan pengguna.

Inilah alasan kontrol keamanan tidak boleh hanya memastikan bahwa identitas telah diverifikasi. Organisasi juga harus memastikan bahwa setiap tindakan tetap sesuai dengan konteks, tujuan, dan ruang lingkup kewenangannya.

Risiko Membesar ketika AI Diberi Tools

Model AI tanpa akses tools umumnya hanya menghasilkan teks, rekomendasi, atau analisis. Kesalahannya dapat menimbulkan informasi yang tidak akurat, tetapi belum tentu langsung mengubah sistem perusahaan.

Situasinya berubah ketika AI memperoleh tools.

Tools memberikan kemampuan kepada agen untuk mengirim email, membuat akun, memperbarui data, menjalankan kode, melakukan transaksi, mengubah konfigurasi, atau berkomunikasi dengan aplikasi lain.

Dengan kata lain, model dapat dianggap sebagai bagian yang melakukan penalaran, sedangkan tools menjadi tangan yang mengeksekusi keputusan.

Kesalahan chatbot dapat menghasilkan jawaban yang keliru. Kesalahan AI agent dapat menghasilkan perubahan nyata di dalam operasi perusahaan.

Risiko semakin besar ketika tools memiliki kewenangan luas. Sebuah API yang awalnya dibuat untuk kebutuhan administrator mungkin memberikan kemampuan membaca, mengubah, dan menghapus data sekaligus.

Apabila API tersebut digunakan oleh agen tanpa pembatasan fungsi, satu instruksi yang salah dapat memiliki dampak yang jauh lebih luas daripada tujuan awalnya.

OWASP memasukkan penyalahgunaan tools sebagai salah satu risiko utama dalam aplikasi agentic. Masalah ini tidak selalu terjadi karena agen sengaja melanggar kebijakan. Agen dapat menggunakan tools dengan cara yang tidak tepat karena instruksi ambigu, parameter yang keliru, atau informasi eksternal yang telah dimanipulasi.

Karena itu, perusahaan tidak cukup hanya memberikan arahan seperti “jangan menghapus data” melalui system prompt.

Pembatasan harus diterapkan pada lapisan teknis. Agen yang hanya bertugas membaca laporan tidak perlu memiliki akses untuk mengubah atau menghapus data. Agen yang hanya berkomunikasi dengan sistem internal tidak seharusnya dapat mengirim informasi ke alamat eksternal tanpa persetujuan.

Identitas AI Dapat Menjadi Superuser Baru

Setiap AI agent yang terhubung dengan sistem perusahaan membutuhkan identitas.

Identitas tersebut dapat berbentuk akun layanan, token API, kredensial aplikasi, atau bahkan akun milik pengguna manusia.

Permasalahan muncul ketika perusahaan tidak memiliki kebijakan yang jelas mengenai kepemilikan dan penggunaan identitas tersebut.

Siapa yang bertanggung jawab atas akun yang digunakan agen? Apakah satu akun digunakan oleh beberapa agen? Berapa lama token tetap aktif? Dapatkah aktivitas agen dibedakan dari aktivitas pegawai? Apa yang terjadi ketika agen tidak lagi digunakan?

Pertanyaan tersebut sering dianggap sebagai persoalan teknis kecil. Padahal, identitas merupakan fondasi kewenangan agen.

Banyak perusahaan telah menerapkan prinsip least privilege kepada pegawainya. Karyawan hanya memperoleh akses sesuai jabatan dan tanggung jawab.

Namun, pada saat yang sama, organisasi dapat memberikan token API dengan hak akses sangat luas kepada sistem otomatis.

Tanpa disadari, perusahaan menciptakan superuser baru dalam bentuk AI agent.

Ketika identitas agen disalahgunakan, organisasi mungkin kesulitan membedakan apakah tindakan berasal dari sistem, pengembang, pengguna, atau pihak eksternal yang berhasil memanipulasinya.

Oleh sebab itu, AI agent membutuhkan identitas yang terpisah, hak akses minimum, token dengan ruang lingkup terbatas, rotasi kredensial, serta pencatatan aktivitas yang jelas.

Penerapan Zero Trust juga perlu mencakup identitas nonmanusia. Setiap tindakan penting harus tetap diperiksa berdasarkan konteks, sumber permintaan, sensitivitas data, dan tingkat risiko.

Memori AI Dapat Mempertahankan Serangan

Agentic AI sering menggunakan memori untuk menyimpan preferensi, hasil pekerjaan, konteks percakapan, serta informasi yang dianggap berguna bagi tugas berikutnya.

Memori membuat agen lebih konsisten dan mampu menyelesaikan pekerjaan dalam jangka panjang. Namun, memori juga menciptakan permukaan serangan baru.

Jika informasi yang salah atau instruksi berbahaya berhasil disimpan, agen dapat menggunakannya kembali pada sesi berikutnya.

Fenomena ini dikenal sebagai memory poisoning.

Serangan tidak harus menimbulkan dampak langsung. Penyerang dapat menanamkan informasi yang tampak wajar, kemudian menunggu hingga agen menggunakannya dalam keputusan penting.

Sebagai contoh, agen dapat menyimpan informasi palsu bahwa alamat tertentu merupakan tujuan pengiriman resmi perusahaan. Pada transaksi berikutnya, informasi tersebut digunakan kembali tanpa proses verifikasi.

Berbeda dari serangan satu kali, manipulasi memori dapat menciptakan dampak yang bertahan lama.

Organisasi juga dapat mengalami kesulitan menentukan kapan kompromi pertama kali terjadi. Tindakan berbahaya yang muncul hari ini mungkin berasal dari data yang disimpan beberapa minggu sebelumnya.

Karena itu, memori AI tidak boleh diperlakukan sebagai penyimpanan biasa. Perusahaan membutuhkan validasi sumber, klasifikasi data, batas masa penyimpanan, kemampuan menghapus memori, serta mekanisme untuk menelusuri asal setiap informasi.

Sistem Multi-Agent Memperluas Rantai Risiko

Sebagian implementasi Agentic AI tidak hanya menggunakan satu agen.

Perusahaan dapat memiliki agen yang bertugas membaca permintaan, agen yang mencari data, agen yang melakukan analisis, serta agen lain yang menjalankan tindakan.

Pembagian tersebut dapat meningkatkan efisiensi. Namun, pembagian tugas juga dapat memperpanjang rantai keputusan.

Satu agen mungkin tidak memahami seluruh konteks. Agen pencari data hanya mengumpulkan informasi, sementara agen eksekusi hanya menerima rekomendasi dari agen lain.

Jika informasi pada tahap awal telah dimanipulasi, kesalahan dapat diteruskan sebagai fakta ke seluruh rangkaian.

Satu keputusan yang salah kemudian berubah menjadi beberapa tindakan otomatis.

OWASP juga mengidentifikasi komunikasi antaragen dan kegagalan berantai sebagai risiko penting. Agen yang tampak aman secara individual belum tentu aman ketika beroperasi sebagai satu ekosistem.

Pengujian keamanan karena itu tidak boleh berhenti pada masing-masing agen. Organisasi perlu menguji alur komunikasi, format pesan, validasi identitas, pembagian kewenangan, serta kondisi ketika salah satu agen memberikan informasi keliru.

Orkestrasi tidak selalu mengurangi risiko. Tanpa kontrol yang kuat, orkestrasi justru dapat mempercepat penyebaran keputusan yang salah.

Human-in-the-Loop Bukan Jaminan Otomatis

Sebagian perusahaan menganggap keberadaan persetujuan manusia sebagai solusi utama atas risiko Agentic AI.

Pendekatan tersebut memang penting, terutama untuk tindakan sensitif. Namun, kehadiran manusia tidak otomatis membuat proses menjadi aman.

Persetujuan dapat kehilangan efektivitas ketika notifikasi muncul terlalu sering, informasi yang ditampilkan tidak lengkap, atau konsekuensi tindakan tidak dijelaskan dengan baik.

Pegawai dapat terbiasa menyetujui permintaan tanpa pemeriksaan mendalam. Kondisi ini mirip dengan kebiasaan pengguna mengabaikan peringatan keamanan karena terlalu sering muncul.

Agen juga dapat memecah satu tindakan berisiko besar menjadi beberapa tindakan kecil yang tampak tidak berbahaya.

Jika persetujuan manusia hanya menjadi formalitas, human-in-the-loop berubah menjadi ilusi kontrol.

Manusia baru dapat menjadi pengawas yang efektif ketika memahami alasan tindakan, sumber informasi, data yang akan digunakan, dampak yang mungkin terjadi, serta memiliki kewenangan untuk menghentikan proses.

Persetujuan untuk mengirim laporan internal tentu berbeda dari persetujuan untuk menghapus akun atau memindahkan data sensitif.

Mekanisme approval perlu disesuaikan dengan tingkat risiko, bukan diterapkan dengan pola yang sama untuk seluruh aktivitas.

Pengujian Harus Berpindah dari Celah ke Perilaku

Pendekatan keamanan tradisional cenderung berpusat pada kerentanan. Penguji mencari celah, membuktikan kemungkinan eksploitasi, kemudian memberikan rekomendasi perbaikan.

Pendekatan tersebut tetap diperlukan. Namun, keamanan Agentic AI juga membutuhkan pengujian berbasis perilaku.

Pengujian perlu menilai bagaimana agen merespons instruksi ambigu, data eksternal berbahaya, tools yang gagal, API yang memberikan respons tidak lengkap, atau tujuan yang saling bertentangan.

Penguji perlu mengetahui apakah agen tetap berada dalam ruang lingkup tugasnya. Apakah agen dapat membedakan data dengan instruksi? Apakah sistem menolak tindakan di luar kewenangannya? Apa yang terjadi ketika sumber informasi tidak dapat dipercaya?

Pengujian juga perlu mengevaluasi dampak tindakan berantai.

Satu keputusan mungkin terlihat tidak berbahaya. Namun, keputusan tersebut dapat memicu API lain, memperbarui basis data, lalu menghasilkan komunikasi otomatis kepada pihak eksternal.

Objek pengujian tidak lagi hanya kode. Objeknya mencakup seluruh siklus persepsi, keputusan, penggunaan tools, tindakan, dan penyimpanan memori.

Pentest dan AI Red Teaming Harus Saling Melengkapi

Tidak ada satu metode pengujian yang dapat menanggung seluruh risiko Agentic AI.

Penetration testing diperlukan untuk menguji keamanan aplikasi, API, jaringan, cloud, autentikasi, otorisasi, penyimpanan data, dan integrasi.

AI red teaming dibutuhkan untuk menguji manipulasi instruksi, pembajakan tujuan, bypass guardrail, penyalahgunaan tools, kebocoran informasi, dan perilaku agen dalam kondisi yang tidak diharapkan.

Threat modeling digunakan untuk memetakan aset, identitas, tools, aliran data, trust boundary, serta kemungkinan dampak apabila salah satu komponen disalahgunakan.

Runtime monitoring diperlukan untuk mengawasi tindakan saat sistem telah digunakan. Organisasi perlu mengetahui tools yang dipanggil, data yang diakses, identitas yang digunakan, dan perubahan keputusan yang terjadi.

Keempat pendekatan tersebut tidak saling menggantikan.

Pentest dapat membuktikan bahwa token API dapat dicuri. AI red teaming dapat membuktikan bahwa agen dapat dimanipulasi agar menggunakan token tersebut secara tidak tepat.

Threat modeling membantu memahami besarnya dampak. Runtime monitoring membantu mendeteksi tindakan ketika risiko benar-benar muncul dalam operasional.

Keamanan Agentic AI harus dibangun sebagai kombinasi antara pengujian teknis, pengujian perilaku, kontrol arsitektur, dan pengawasan berkelanjutan.

Guardrail Tidak Sama dengan Batas Kewenangan

Banyak implementasi AI mengandalkan instruksi seperti “jangan membocorkan informasi”, “jangan menjalankan tindakan berbahaya”, atau “selalu patuhi kebijakan perusahaan”.

Instruksi tersebut dapat membantu membentuk perilaku model. Namun, guardrail berbasis bahasa bukan pengganti kontrol teknis.

Agen tetap dapat salah memahami konteks. Instruksi dapat ditimpa, dialihkan, atau dikalahkan oleh data eksternal yang dibuat secara khusus.

Sistem yang aman tidak hanya meminta AI agar berperilaku baik. Sistem membatasi apa yang tetap dapat dilakukan AI ketika ia gagal berperilaku baik.

Pembatasan tersebut dapat berupa pemisahan akses baca dan tulis, token dengan scope minimum, allowlist, validasi parameter, sandbox, pembatasan jumlah transaksi, dan persetujuan berlapis untuk tindakan sensitif.

Perusahaan juga memerlukan kill switch untuk menghentikan agen, audit log yang tidak mudah diubah, serta kemampuan mencabut kredensial dengan cepat.

Keamanan harus tetap berdiri meskipun model membuat keputusan yang keliru.

Pengujian Sekali Tidak Cukup untuk Sistem yang Terus Berubah

Agentic AI merupakan sistem yang dinamis.

Perilakunya dapat berubah setelah pembaruan model, perubahan system prompt, penambahan tools, pergantian sumber data, modifikasi workflow, atau perubahan hak akses.

Antarmuka mungkin tetap sama, tetapi kemampuan dan pola keputusan di baliknya sudah berbeda.

Karena itu, hasil pengujian enam bulan lalu belum tentu mewakili kondisi saat ini.

Pengujian perlu dilakukan sebelum penerapan, setelah perubahan signifikan, dan secara berkala selama sistem beroperasi.

Regression testing keamanan dibutuhkan untuk memastikan pembaruan tidak membuka perilaku berisiko yang sebelumnya telah dikendalikan.

Perusahaan juga perlu menjalankan simulasi insiden. Tim harus mengetahui cara menghentikan agen, mencabut token, membatasi akses, membersihkan memori, dan menelusuri tindakan yang sudah dilakukan.

Ketika kemampuan agen berubah secara berkelanjutan, keamanan juga harus diuji secara berkelanjutan.

Perusahaan Membutuhkan Inventaris AI Agent

Organisasi tidak dapat melindungi agen yang keberadaannya tidak diketahui.

Setiap AI agent seharusnya tercatat sebagai aset digital. Inventaris perlu memuat pemilik, tujuan bisnis, model yang digunakan, data yang dapat diakses, tools yang tersedia, serta identitas yang digunakan.

Perusahaan juga perlu mendokumentasikan tingkat otonomi dan jenis tindakan yang boleh dijalankan.

Agen yang hanya memberikan rekomendasi tentu memiliki risiko berbeda dari agen yang dapat mengubah data atau menjalankan transaksi.

Tanpa inventaris yang jelas, perusahaan berisiko menghadapi shadow AI atau shadow agent. Divisi tertentu dapat memasang sistem otomatis tanpa evaluasi keamanan yang memadai.

Agen kemudian terhubung dengan data perusahaan menggunakan token pribadi atau integrasi tidak resmi.

Risiko tersebut sulit dikendalikan karena tim keamanan tidak memiliki visibilitas.

Inventaris AI perlu menjadi bagian dari tata kelola aset, identity and access management, manajemen risiko, serta proses Secure SDLC.

Otonomi Harus Sejalan dengan Kemampuan Mengawasi

Agentic AI menawarkan cara baru untuk meningkatkan produktivitas. Sistem dapat membantu organisasi memproses informasi, mengurangi pekerjaan repetitif, dan mempercepat pengambilan keputusan.

Namun, manfaat tersebut tidak boleh membuat perusahaan mengabaikan perubahan struktur risikonya.

Semakin besar otonomi yang diberikan kepada agen, semakin besar pula kebutuhan untuk menguji batas akses, perilaku, memori, tools, dan rantai keputusannya.

Pentest tradisional tetap menjadi fondasi penting. Sistem Agentic AI tetap bergantung pada aplikasi, API, jaringan, cloud, identitas, dan basis data yang perlu diuji secara teknis.

Akan tetapi, pengujian tidak boleh berhenti pada pertanyaan apakah sistem memiliki kerentanan.

Perusahaan juga harus menilai apakah agen dapat dimanipulasi, apakah tindakannya dapat diawasi, serta apakah dampaknya dapat dibatasi ketika keputusan yang diambil tidak sesuai harapan.

Keamanan Agentic AI tidak hanya berkaitan dengan menjaga model agar tidak memberikan jawaban yang salah. Keamanan berarti memastikan bahwa kesalahan model tidak berubah menjadi tindakan yang merugikan bisnis.

Perusahaan tidak seharusnya memberikan AI kewenangan untuk bertindak lebih cepat daripada kemampuan organisasi untuk menguji, mengawasi, dan menghentikannya.

Perkuat Keamanan Agentic AI Bersama Fourtrezz

Implementasi Agentic AI membutuhkan evaluasi keamanan yang mencakup aplikasi, API, infrastruktur, identitas, integrasi, serta jalur akses yang digunakan oleh sistem.

Fourtrezz merupakan perusahaan keamanan siber Indonesia yang menyediakan layanan Penetration Testing, Vulnerability Assessment, Red Teaming, dan pengujian keamanan untuk membantu organisasi menemukan risiko sebelum dimanfaatkan oleh pihak yang tidak bertanggung jawab.

Melalui pendekatan pengujian yang disesuaikan dengan lingkungan dan kebutuhan bisnis, Fourtrezz membantu perusahaan mengevaluasi kelemahan teknis, risiko integrasi, serta dampak eksploitasi terhadap sistem dan data perusahaan.

Diskusikan kebutuhan pengujian keamanan aplikasi, infrastruktur, API, maupun sistem berbasis AI bersama tim Fourtrezz.

Hubungi Fourtrezz:

Website: www.fourtrezz.co.id
Telepon/WhatsApp: +62 857-7771-7243
Email: [email protected]