LLM Red Teaming
CATEGORYUji ketahanan proaktif terhadap prompt injection, jailbreak, dan celah logika.
Saat AI Diam-Diam Menjadi Risiko
Alat AI hadir dalam pekerjaan sehari-hari lebih cepat daripada kebanyakan kebijakan keamanan dapat mengimbanginya, mulai dari chatbot customer service hingga alat internal yang dibangun di atas model LLM AI. Setiap alat tersebut menjadi titik baru di mana data sensitif dapat bocor, prompt yang disusun dengan cermat dapat memanipulasi hasil, atau kontrol akses yang belum sempat diatur dapat mengekspos lebih dari yang seharusnya.
