LLM prompt injection nedir?

Kısa cevap

LLM prompt injection, büyük dil modeli (LLM) kullanan bir uygulamaya gönderilen girdiye modelin talimatlarını geçersiz kılan ifadeler yerleştirerek modeli amaçlanmayan bir davranışa yönlendirme saldırısıdır: güvenlik kurallarını atlatmak, sistem talimatlarını ya da gizli verileri açığa çıkarmak, modele bağlı araçları kötüye kullanmak gibi. Model girdideki veri ile talimatı kesin olarak ayıramadığı için ortaya çıkar (OWASP LLM01, CWE-1427); kullanıcının doğrudan yazdığı metinle (direct) ya da modelin okuduğu belge ve web içeriğine gizlenmiş metinle (indirect) yapılabilir. TR7 WAF'ta yerleşik Signature & Rule Library'nin LLM Prompt Injection kategorisi (16 kural) bilinen kalıpları gelen istekte arar ve bulguları MITRE ATLAS tekniğiyle etiketler; modelin yanıtını ya da modelin sonradan okuduğu içeriği denetlemez.

TR7'de Nerede Kullanılır

Nerede	Alan / etiket	Ne için
Configuration Menu → WAF → Signature & Rule Library; vService'in OWASP Rules ekranı	Signature Category kolonu (varsayılan gizli); Filter → Signature Categories → LLM Prompt Injection; Protected Target Types → Ai Llm Service	Kategorideki kuralları listeleme; durumunu ya da puanını değiştirme
Aynı ekranlar → Add	Özel kural	Yerleşik desenlerin kapsamadığı ifadeler (ör. İngilizce dışındaki diller) için kural ekleme
WAF Event Logs ve Global WAF Event Log	Category kolonu (varsayılan gizli), filtre şeridinde Category ve MITRE ATT&CK sekmeleri, kayıt önizlemesinde Category satırı	İsteğin bu kategorideki bir imzaya takıldığını görme
WAF Dashboard	Detected Attacks by Category paneli	Kategorideki tespitlerin zaman içindeki yoğunluğu

• Kuralların hangi kalıpları aradığı, hangi istek alanlarında çalıştığı, koruma düzeyiyle ilişkisi ve false positive'e karşı Monitor durumunda deneme: LLM / yapay zeka servislerime yönelik prompt injection saldırılarını yakalayabilir mi?
• Kategorinin kuralları OWASP Top 10 Web ya da API listelerinin bir maddesine eşlenmez; bu yüzden OWASP kırılımlarında görünmez.

Sık Karıştırılan Noktalar

• "Prompt injection yalnızca sohbet botlarını etkiler." Kullanıcı girdisini ya da dış içeriği bir LLM'e veren her uygulama (özetleme, arama, ajan, e-posta asistanı) etkilenebilir.
• "WAF imzaları bütün girişimleri yakalar." İmzalar bilinen kalıpları yakalar; doğal dildeki varyasyon çok geniştir. Uygulama tarafında modelin yetkilerinin sınırlanması ve çıktısının denetlenmesi de gerekir.
• "Indirect prompt injection da isteğin içinde gelir." Modelin sonradan okuduğu belge ya da web sayfasındaki gizli talimat TR7'den geçen istekte bulunmayabilir; WAF yalnızca gelen isteği tarar.

Dokümantasyonda nasıl yapılır

• Signature & Rule Library · Signature Categories
• Signature & Rule Library · Protected Target Types
• Signature & Rule Library · Kural ekleme formu

İlgili sorular

• LLM / yapay zeka servislerime yönelik prompt injection saldırılarını yakalayabilir mi?
• MITRE ATT&CK nedir; TR7'deki MITRE ATT&CK ve MITRE Post-Exploit alanları neyi gösterir?
• İmzalar hangi saldırı kategorilerini kapsıyor?