OWASP 2025: Prompt injection, RAG belgeleri ve ajan yetkisinin sınırları
Haricî bir sayfa veya belge, bir yapay zekâ ajanını nasıl yanlış yönlendirir? 2025 OWASP risklerini gerçek izin, araç ve onay sınırlarıyla ele alıyoruz.
Talimat ile veri aynı şey değildir
Bir yapay zekâ uygulaması kullanıcının sorusunu yanıtlarken internetteki bir sayfayı, PDF dosyasını veya veritabanı kaydını okuyabilir. Bu materyal görevi tamamlamak için gereklidir; fakat içindeki her cümle güvenilir bir talimat değildir. OWASP'ın 2025 büyük dil modeli risklerinde ilk sırada ele aldığı prompt injection, verinin model davranışını istenmeyen biçimde yönlendirmesidir. Kullanıcı doğrudan tehlikeli bir istek yazabilir; daha karmaşık durumda saldırgan bu isteği masum görünen üçüncü taraf içeriğine gizler. Sistem mesajında doğru kuralların bulunması yararlıdır ama tek başına mutlak savunma değildir. Uygulamanın güvenliği modelin isteği reddetmesini ummak yerine dış içerikle yetkili eylemi kesin sınırlarla ayırmaya dayanmalıdır.
Dolaylı saldırı: belge neden riskli olabilir?
Bir otel araştırma ajanının bir web sayfasından tesis özelliklerini çıkardığını düşünün. Sayfa içine gizlenmiş bir paragraf, ajana içerik özetini bırakmasını, yönetim panelindeki başka kayıtlara erişmesini veya özel anahtarları haricî adrese göndermesini emredebilir. Sayfa sahibi açısından bu yalnız bir metindir; modele doğrudan görev talimatı gibi ulaşırsa sınır aşılmış olur. RAG ile doğru belgeyi bulmak bu problemi çözmez, çünkü bulunan belge de güvenilmeyen içerik olabilir. Alıntının kaynağını ve zamanını koruyun, belgeyi yalnız bilgi girdisi olarak ele alın ve komutları uygulama tarafında tanımlı izin listelerine bağlayın. Bağlam sağlamak başka, operasyon yetkisi vermek başkadır.
Model araçlarını en az yetkiyle sınırlandırın
Bir modelin SQL okuyabilmesi, her tabloyu silebilmesi gerektiği anlamına gelmez. Araçları ayrı güvenlik sınırlarıyla tasarlayın: arama yalnız izinli alanlara erişsin, rapor aracı salt okunur olsun, içerik yayımlama ayrı bir API ve doğrulama kuralıyla çalışsın. Kullanıcı oturumunun sahip olduğu yetkileri modele sınırsız aktarmazsanız kötü niyetli metnin verebileceği zarar da azalır. Anahtarlar modelin ürettiği metne veya tarayıcı kaynak koduna gömülmemeli; güvenilir sunucu tarafında saklanmalıdır. Her araç çağrısında işlem türü, hedef kayıt, izin, köken ve güncel sürüm doğrulanmalıdır. Model yanlış sonuç üretse bile veritabanındaki revizyon kilidi ve tekillik kontrolü değişmez biçimde uygulanmalıdır.
İnsan onayı ne zaman gerekli?
Bir ajan kendi kendine başlık taslağı hazırlayabilir, bir sayfanın yazım hatasını işaretleyebilir veya salt okunur kaynak karşılaştırması yapabilir. Fakat kayıt silme, yetki değiştirme, para harcama, gizli bilgi gönderme ve geniş ölçekli veri üzerine yazma gibi işlemlerin etkisi çok daha büyüktür. Bu işlerde yalnız modelin metin içinde 'onay alındı' demesi yeterli değildir. Uygulama, kullanıcıya gerçek hedefi ve beklenen yan etkiyi gösteren ayrı bir onay mekanizması kullanmalıdır. Onay tek bir işlemin belirli kimliğine bağlanmalı, daha sonra başka bir hedefte yeniden kullanılmamalıdır. Onaysız güvenli işlemlerle onay gerektiren kalıcı değişiklikleri ayırmak hem hızı hem veri bütünlüğünü korur.
Saldırıya karşı nasıl test edilir?
Test ortamında normal kaynaklarla birlikte kasıtlı olarak yanıltıcı belgeler kullanın. Bir belgenin özetine gizli talimat eklendiğinde ajan hedef dışı araca erişmeyi deniyor mu? Model yanıtta yanlış kaynak mı gösteriyor? Özel veri veya yetkisiz hedefe çağrı oluşturuyor mu? Bu soruların yanıtını yalnız son kullanıcıya görünen metinden değil, araç çağrıları, reddedilen izinler ve sunucu denetim kayıtlarından alın. Farklı dillerde ve çok adımlı iş akışlarında aynı denemeleri tekrarlayın. Gerçek kullanıcı verilerini ya da üretim anahtarlarını test materyaline kopyalamayın. Başarı ölçütü modelin hiçbir zaman tuhaf bir cümle yazmaması değil, yanlış yönlendirildiğinde bile kritik yetki sınırlarını aşamamasıdır.
Üretim mimarisinde güvenilir zincir
Kaynak toplama, kimlik doğrulama, içerik ayrıştırma, model yorumlama ve yayın eylemini ayrı katmanlar hâlinde düşünün. Dış kaynağın URL'sini ve alıntı bölümünü kaydedin; elde edilen bulguyu doğrulanmış olgu, yorum veya belirsizlik olarak işaretleyin. Ardından şema kontrolü, izin doğrulaması, tekil kayıt kimliği ve mevcut sürüm karşılaştırması yapmadan hiçbir kalıcı yazma işlemine geçmeyin. İhtilaflı sonuçları inceleme durumunda tutmak, bütün kuyruğu durdurmak anlamına gelmez. Modelin gücü hangi kayıtları araştırdığıyla; güvenli sistemin gücü ise yanlış bir önerinin ne kadar hasara yol açabildiğiyle ölçülür. OWASP rehberini tek seferlik filtre ayarı değil, sürekli sınır testi için başlangıç noktası olarak kullanın.
Yorumlar
Henüz yorum yok. İlk katkıyı sen yapabilirsin.
“OWASP 2025: Prompt injection, RAG belgeleri ve ajan yetkisinin sınırları” başlıklı makalede özellikle şu noktayı düşündüm: kullanıcı onayı ve veri mahremiyetinin nasıl korunacağını merak ettim.
Editörün notu: Bu noktada faydayı ilan edilen özelliklerden ayrı değerlendirmek gerekir. Önce küçük bir kullanım senaryosu ve ölçüm yöntemi tanımlamak yerinde olur.
Bence maliyet ve bakım yükü ayrıca tartışılmalı. İlk kurulumun kolay olması, sonraki sürümlerin de sorunsuz çalışacağı anlamına gelmiyor.
Bunu küçük ölçekte denemek isterdim. Ölçülebilir bir başarı kriteri belirlemeden uygulamaya geçmek riskli.
✎ Yorum yaz