Yapay Zeka Destekli Alışverişte Güvenlik ve Saldırı Riskleri

Bir Bilişim Uzmanı olan Eren Koca, yapay zekânın artık sadece ürün önerisiyle sınırlı kalmadığını belirtiyor. Kullandığı yetkiler doğrultusunda bazı alışveriş adımlarını otomatik olarak yönetebilen bir sistemin, kararlarını kullanıcı talimatlarına göre şekillendirebildiğini ifade ediyor. Örneğin, popüler asistanlar ürünleri karşılaştırabilir, fiyat hareketlerini izleyebilir ve belirlenen koşullarda satın alma işlemini başlatabilir.

Ancak bu tür sistemler dışarıdan gelen müdahalelere karşı savunmasız olabilir. “Prompt injection” olarak adlandırılan bu saldırı türü, kullanıcının göründüğü içeriğin aksine bir komut algısı yaratabilir ve yapay zekâ ajanının yanlış yönlendirilmesine yol açabilir. Özellikle tarayıcı tabanlı yapay zekâlar için bilinen bir güvenlik sorunududur. Alışveriş sürecinde, ajan belirli bir satıcıya yönlendirebilir, kullanıcının tercihlerini ihmal edebilir veya erişilebilir kişisel bilgileri istenmeyen yerlere aktarabilir.

Bu tür güvenlik riskleriyle karşılaşıldığında, ödeme öncesindeki son kararı kullanıcıların kendisinin vermesi önemlidir. Ürünün tam modeli, miktarı, satıcısı, kargo ve vergiler dahil toplam bedeli, teslimat adresi ile varsa abonelik şartları dikkatle kontrol edilmelidir. Yalnızca asistanın özetine bakmak doğru olmayabilir; süreç boyunca tüm ayrıntıların kullanıcı tarafından doğrulanması gerekir.