Saat penyedia SaaS berlomba untuk mengintegrasikan AI ke dalam penawaran produk mereka agar tetap kompetitif dan relevan, tantangan baru muncul di dunia AI: shadow AI.
Shadow AI mengacu pada penggunaan alat dan kopilot AI yang tidak sah di organisasi. Misalnya, pengembang yang menggunakan ChatGPT untuk membantu penulisan kode, staf penjualan yang mengunduh alat transkripsi rapat yang didukung AI, atau staf dukungan pelanggan yang menggunakan Agentic AI untuk mengotomatiskan tugas – tanpa melalui saluran yang tepat. Jika alat ini digunakan tanpa sepengetahuan TI atau tim Keamanan, alat tersebut sering kali tidak memiliki kontrol keamanan yang memadai, sehingga membahayakan data perusahaan.
Tantangan Deteksi AI Bayangan
Karena alat shadow AI sering kali tertanam dalam aplikasi bisnis yang disetujui melalui asisten AI, kopilot, dan agen, alat ini bahkan lebih sulit ditemukan dibandingkan IT bayangan tradisional. Meskipun aplikasi bayangan tradisional dapat diidentifikasi melalui metodologi pemantauan jaringan yang memindai koneksi tidak sah berdasarkan alamat IP dan nama domain, asisten AI ini dapat tidak terdeteksi karena mereka berbagi alamat IP atau domain dengan aplikasi yang disetujui.
Selain itu, beberapa karyawan menggunakan alat AI mandiri yang dikaitkan dengan akun pribadi, seperti instans ChatGPT pribadi, untuk membantu tugas terkait pekerjaan. Meskipun aplikasi AI ini tidak terhubung ke infrastruktur perusahaan, masih terdapat risiko bahwa karyawan akan memasukkan data sensitif ke dalamnya, sehingga meningkatkan kemungkinan kebocoran data.
Risiko Keamanan Shadow AI
Seperti aplikasi bayangan lainnya, aplikasi AI bayangan memperluas permukaan serangan melalui integrasi dan API yang tidak dipantau. Mereka sering kali dibuat dengan konfigurasi yang lemah seperti izin berlebihan, kata sandi duplikat, dan tidak ada identifikasi multi-faktor (MFA), sehingga meningkatkan risiko eksploitasi dan pergerakan lateral dalam jaringan.
Namun, alat shadow AI bahkan lebih berbahaya daripada aplikasi bayangan tradisional karena kemampuannya dalam menyerap dan berbagi informasi. Sebuah studi menemukan bahwa sebanyak 15% karyawan memposting data perusahaan di alat AI. Karena model GenAI belajar dari setiap interaksi, ada risiko model GenAI akan memaparkan informasi sensitif kepada pengguna yang tidak berwenang atau menyebarkan informasi yang salah.
Bagaimana Reco Menemukan Shadow AI di SaaS
Reco, solusi keamanan SaaS, menggunakan teknologi grafik berbasis AI untuk menemukan dan membuat katalog bayangan AI. Berikut cara kerja Reco:
- Integrasi Direktori Aktif: Reco dimulai dengan berintegrasi dengan Direktori Aktif organisasi Anda, seperti Microsoft Azure AD atau Okta, untuk mengumpulkan daftar aplikasi dan alat AI yang disetujui dan dikenal.
- Analisis Metadata Email: Reco menganalisis metadata email dari platform seperti Gmail dan Outlook untuk mendeteksi komunikasi dengan alat yang tidak sah. Ini menyaring aplikasi internal dan email pemasaran dan berfokus pada indikator penggunaan, seperti konfirmasi akun dan permintaan unduhan.
- Pencocokan Modul GenAI: Dengan menggunakan model eksklusif yang disesuaikan berdasarkan interaksi dan NLP, Reco mengkonsolidasikan dan membersihkan daftar, mencocokkan identitas dengan aplikasi dan alat AI yang sesuai. Kemudian, ia membuat daftar semua aplikasi SaaS dan alat AI yang digunakan, siapa yang menggunakannya, dan mekanisme autentikasi apa yang digunakan.
- Deteksi Aplikasi Bayangan: Dengan membandingkan daftar ini dengan daftar aplikasi dan alat AI yang dikenal, Reco menghasilkan daftar aplikasi tidak sah dan alat AI bayangan.
Apa yang Dapat Diberitahukan Reco kepada Anda tentang Alat Shadow AI
Setelah Reco membuat daftar alat dan aplikasi shadow AI, Reco dapat menjawab pertanyaan seperti:
Aplikasi SaaS manakah yang saat ini digunakan di seluruh organisasi Anda? Dari aplikasi berikut, manakah yang menggunakan asisten dan kopilot AI?
Reko menginventarisir semua aplikasi yang berjalan di lingkungan Anda yang terkait dengan email bisnis Anda. Ini membuat daftar siapa yang menggunakan apa, bagaimana mereka mengautentikasi, dan menghasilkan log aktivitas untuk memahami perilaku mereka. Dengan begitu, ini dapat memperingatkan aktivitas mencurigakan, seperti download berlebihan, berbagi file eksternal, atau perubahan izin. Ini juga memberikan Skor Risiko Vendor sehingga tim keamanan dapat memprioritaskan aplikasi yang lebih berisiko.
Koneksi aplikasi-ke-aplikasi apa yang ada?
Aplikasi SaaS tidak beroperasi sebagai pulau. Anda perlu memahami bagaimana mereka berinteraksi dengan aplikasi lain untuk mengelola risiko secara efektif. Reco menunjukkan kepada Anda semua integrasi aplikasi-ke-aplikasi yang ditemukan dalam lingkungan Anda. Misalnya, Anda dapat melihat apakah alat AI telah terhubung ke aplikasi bisnis penting seperti Gmail atau Snowflake, dan izin apa yang dimiliki setiap aplikasi AI.
Identitas apa yang menggunakan setiap alat AI? Izin apa yang mereka miliki dan bagaimana cara mengautentikasinya?
Salah satu tantangan utama dalam keamanan SaaS adalah kurangnya sentralisasi – manajemen identitas tersebar di beberapa aplikasi. Reco menggabungkan identitas di seluruh aplikasi SaaS sehingga Anda dapat mengelolanya dari satu konsol. Anda dapat mengetahui izin apa saja yang dimiliki setiap identitas, cara autentikasinya, dan apakah mereka memiliki hak istimewa Admin atau tidak. Siapa yang tidak mengaktifkan MFA? Siapa yang memiliki izin berlebihan? Anda dapat membuat peran dan menerapkan kebijakan yang mencakup banyak aplikasi.
Tindakan apa yang diambil setiap identitas di seluruh aplikasi SaaS dan AI dan kapan hal ini terjadi?
Teknologi grafik pengetahuan berbasis AI dari Reco memetakan semua aplikasi SaaS yang ditemukan – termasuk aplikasi yang terkena sanksi dan aplikasi bayangan – yang terkait dengan identitas manusia dan mesin, tingkat izin, dan tindakannya. Grafik pengetahuan kemudian mencari perubahan pada vektor-vektor ini seiring waktu. Jika grafik menunjukkan perubahan dramatis, maka Reco memperingatkan adanya anomali. Misalnya, jika terjadi penurunan keterlibatan pengguna, Reco dapat memperkirakan karyawan tersebut berencana meninggalkan organisasi.
Cari tahu aplikasi AI mana yang mengakses data sensitif dan siapa yang menggunakannya. Kemudian, menerapkan kebijakan tata kelola dan manajemen akses melalui platform Reco.
Apa yang Tidak Dapat Dilakukan Reco untuk Keamanan Shadow AI
Karena Reco beroperasi dalam kapasitas read-only dan tanpa agen, terdapat batasan tertentu pada kemampuan keamanan shadow AI-nya. Inilah yang tidak bisa dilakukan Reco:
- Mencegah Masukan Data: Reco tidak dapat menghentikan pengguna memasukkan data sensitif ke alat atau aplikasi AI yang tidak sah.
- Blokir Alat AI Bayangan: Reco tidak secara langsung memblokir atau menonaktifkan alat atau integrasi shadow AI karena tidak mengganggu fungsionalitas aplikasi.
- Batasi Perilaku Pengguna: Reco tidak dapat menerapkan kebijakan atau mencegah pengguna mengakses alat yang tidak disetujui—Reco hanya dapat mendeteksi dan memperingatkan aktivitas.
- Ubah Izin: Reco tidak dapat mengubah izin pengguna atau mencabut akses ke alat shadow AI, karena hanya memiliki akses baca-saja ke data dan tidak memiliki akses tulis ke aplikasi SaaS.
- Hentikan Integrasi API: Reco tidak dapat mencegah alat AI bayangan pihak ketiga terhubung melalui API, tetapi Reco dapat mengidentifikasi dan memperingatkan koneksi ini.
Pada akhirnya, Reco adalah alat visibilitas dan deteksi. Hal ini tidak dapat mengambil tindakan sendiri, namun dapat memberdayakan tim Keamanan dengan pengetahuan yang diperlukan untuk mengambil tindakan yang tepat pada waktu yang tepat guna mengurangi risiko.
Bagaimana Reco Terus Mengamankan Aplikasi SaaS dan Alat AI
Setelah Reco menemukan semua aplikasi bayangan dan alat AI Anda, melakukan inventarisasi, dan memberi peringkat pada aplikasi tersebut, Reco memberikan keamanan berkelanjutan untuk siklus hidup SaaS secara penuh. Reco memberikan:
- Manajemen dan kepatuhan postur: Reco mengidentifikasi kesalahan konfigurasi yang dapat membahayakan data Anda, seperti pengguna yang memiliki izin berlebihan, file yang terekspos secara publik, akun basi, dan mekanisme autentikasi yang lemah. Fitur 'Cara Memperbaiki' memberikan petunjuk tentang cara membersihkan risiko. Ia terus memantau perubahan konfigurasi yang dapat menyebabkan paparan data melalui SaaS Security Posture Management (SSPM).
- Identitas dan Tata Kelola Akses: Reco menyatukan identitas di seluruh aplikasi SaaS Anda, memungkinkan pengelolaan izin dan peran terpusat. Dengan menganalisis tingkat izin pengguna dan perilaku dalam ekosistem SaaS Anda, Reco memberikan visibilitas terhadap kesenjangan paparan kritis yang dapat menyebabkan pelanggaran.
- Deteksi dan Respons Ancaman: Reco memberikan peringatan real-time untuk aktivitas tidak biasa yang mungkin mengindikasikan niat jahat, seperti perjalanan yang tidak mungkin dilakukan, pengunduhan yang tidak biasa, perubahan izin yang mencurigakan, atau upaya login yang gagal berulang kali. Ini terintegrasi dengan SIEM atau SOAR Anda sehingga organisasi dapat memulihkan risiko SaaS secara efisien dalam alur kerja yang ada.
Untuk mempelajari lebih lanjut tentang Reco, Anda dapat menonton rekaman demo di sini. Atau kunjungi reco.ai untuk menjadwalkan demo langsung.
