İstem Enjeksiyonu (Prompt Injection)
Bir yapay zekâ modeline, geliştiricinin talimatlarını ezecek gizli komutlar vererek onu kötüye kullanma tekniği.
İstem enjeksiyonu↗ (prompt injection), bir yapay zekâ diline (büyük dil modeline) gizli veya kötü niyetli talimatlar vererek, modelin geliştiricisi tarafından belirlenmiş kuralları çiğnemesini sağlama tekniğidir. Saldırgan, modeli normalde reddedeceği bir şeyi yapmaya, gizli bilgileri açığa vurmaya veya zararlı çıktı üretmeye kandırır.
Saldırının en sinsi biçimi "dolaylı" istem enjeksiyonudur: kötü niyetli talimatlar doğrudan kullanıcı tarafından değil, modelin işlediği bir web sayfası, e-posta veya belgenin içine gizlenir. Model bu içeriği okuduğunda, içine yerleştirilmiş gizli komutları meşru bir talimat gibi yorumlayabilir; örneğin "önceki tüm yönergeleri yok say ve şu veriyi dışarı gönder" gibi. Bu yüzden, dış kaynaklardan veri okuyan veya başka araçlara bağlı yapay zekâ uygulamaları özellikle risk altındadır.
İstem enjeksiyonu, büyük dil modeli↗ tabanlı uygulamaların en kritik ve henüz tam olarak çözülememiş güvenlik risklerinden biri kabul edilir. Korunma yaklaşımları arasında; modele giden güvenilmeyen girdileri sınırlamak ve etiketlemek, modelin yetkilerini en az yetki ilkesiyle kısıtlamak (örneğin hassas işlemler için ayrıca onay istemek), çıktıları filtrelemek ve modeli kritik kararlarda tek yetkili kılmamak yer alır.