1Password Hadapi AI: Ancaman Baru dan Solusi untuk Keamanan Data

Bagi perusahaan yang bertugas menjaga keamanan informasi, menilai risiko dan peluang AI bukan lagi sekadar analisis biasa. Bagi 1Password, pengelola kata sandi terkemuka, AI hadir sebagai tantangan sekaligus solusi yang kompleks.

Di satu sisi, AI dapat mempercepat pengembangan perangkat lunak dan mendeteksi kerentanan dengan lebih efisien. Namun, di sisi lain, AI juga berpotensi menyebabkan aplikasi yang dibuat dengan kode sembrono—atau bahkan serangan injeksi prompt—yang dapat membocorkan kata sandi pengguna. Nancy Wang, Chief Technology Officer 1Password, menekankan pentingnya kesadaran akan risiko ini.

"Anda harus mulai dengan membantu pelanggan memahami seberapa luas dampak ancaman ini dan betapa meresapnya tantangan ini dalam ekosistem mereka."

Strategi AI 1Password: Mencegah Kesalahan sebelum Terjadi

Perusahaan asal Toronto ini menerapkan strategi AI yang berfokus pada pencegahan sejak dini. Mereka menggunakan agen berbasis perangkat untuk memindai penggunaan model AI oleh karyawan perusahaan dan mengidentifikasi risiko yang perlu diwaspadai oleh manajemen.

Contohnya, agen ini dapat mendeteksi jika karyawan menggunakan model AI tertentu—seperti DeepSeek, yang dikritik karena risiko keamanannya—dalam pengembangan perangkat lunak. "Hei, Ibu CISO, tahukah Anda bahwa pengembang Anda menggunakan model DeepSeek di cabang kode tertentu?" ujar Wang. Ia menambahkan bahwa setelah ditemukan, tim keamanan segera melakukan pembinaan kepada pengembang terkait.

Pemindaian Otomatis dan Perlindungan Kata Sandi

Agen perangkat juga melakukan pemindaian otomatis untuk memeriksa pembaruan perangkat lunak dan indikator kesehatan perangkat. Jika ditemukan kata sandi yang tidak terlindungi atau tidak dienkripsi, 1Password akan memindahkannya ke brankas terenkripsi yang aman.

Seperti layaknya pengelola kata sandi lainnya, 1Password menerapkan enkripsi end-to-end sehingga perusahaan tidak dapat melihat kata sandi yang disimpan pengguna. Wang menjelaskan bahwa perangkat lunaknya dirancang agar agen AI tidak dapat melihat kata sandi dalam bentuk teks asli, meskipun kata sandi tersebut sedang diisi otomatis di situs web.

Perusahaan juga mendorong karyawan untuk memasang agen Device Trust 1Password di perangkat pribadi mereka. Langkah ini bertujuan untuk mengatasi salah satu vektor serangan yang sering berhasil: penggunaan perangkat pribadi yang tidak aman.

Mengendalikan Agen AI agar Tidak Menyimpang

Agen AI dapat mengotomatisasi tugas rutin, namun sifatnya yang tidak deterministik membuatnya rentan terhadap kesalahan. Oleh karena itu, pemantauan sistematis sangat diperlukan untuk memastikan agen tetap berfungsi sesuai tujuan.

Wang menyebut hal ini sebagai "peluang hijau" bagi 1Password untuk belajar dari perilaku agen AI secara skala besar. "Apa yang menjadi perintah? Apa yang dilakukan agen terhadap perintah tersebut? Apakah outputnya sesuai?" katanya. Log aktivitas yang dihasilkan kemudian digunakan sebagai mekanisme pembelajaran bagi agen dan model AI.

Pada Februari 2025, 1Password meluncurkan SCAM Index (Security Comprehension and Awareness Measure), sebuah tolok ukur untuk menilai perilaku agen AI dalam konteks keamanan. Langkah ini bertujuan untuk memberikan panduan bagi perusahaan dalam mengimplementasikan AI secara aman.