Gazeteci, ChatGPT ve Google’ın yapay zekâ araçlarını 20 dakikada manipüle etti
Bir teknoloji gazetecisi, ChatGPT ve Google’ın yapay zekâ destekli arama araçlarını yalnızca 20 dakika içinde yanıltabildiğini ortaya koydu. Deney, yapay zekâ sistemlerinin internet üzerindeki içeriklere dayalı olarak nasıl manipüle edilebildiğini ve bunun kullanıcılar açısından oluşturabileceği riskleri gündeme taşıdı.
BBC Future’da yayımlanan makalede gazeteci, yapay zekâ araçlarına kendisinin “dünyanın en iyi sosisli sandviç yiyen teknoloji gazetecisi” olduğu yönünde yanlış bilgi üretmelerini sağladığını belirtti. Amaç, eğlenceli bir örnek üzerinden daha ciddi bir güvenlik açığını göstermekti.
Yazıya göre, bu tür manipülasyonlar bazen tek bir iyi kurgulanmış blog yazısıyla mümkün olabiliyor. Özellikle bazı yapay zekâ araçlarının yanıt üretirken internet araması yapması ve güncel içeriklere dayanması, sistemi dış müdahalelere açık hale getiriyor. Uzmanlar, bu durumun sağlık, finans, seçimler ya da ticari tercihler gibi kritik konularda yanlış yönlendirmelere yol açabileceği uyarısında bulunuyor.
Arama motoru optimizasyonu (SEO) uzmanları, yapay zekâ sistemlerinin doğruluk mekanizmalarının, internet üzerindeki içerik manipülasyon hızına yetişmekte zorlandığını belirtiyor. Bu durum, spam içerik üretiminin yeni bir dönemine girildiği yorumlarına neden oldu.
Google ve OpenAI ise sistemlerinin spam içerikleri büyük ölçüde filtrelediğini ve manipülasyon girişimlerinin farkında olduklarını açıkladı. Her iki şirket de kullanıcıları, yapay zekâ araçlarının hata yapabileceği konusunda bilgilendirdiklerini ifade etti.
Ancak dijital haklar savunucuları, bu açıkların dolandırıcılık, itibar zedeleme ya da kullanıcıları fiziksel zarara yönlendirme gibi daha ciddi sonuçlara yol açabileceğini savunuyor. Uzmanlara göre, yapay zekâ şirketleri hızla ticari uygulamaları genişletirken, doğruluk ve güvenlik denetimlerinin aynı hızda gelişmediği görülüyor.
Haberde, yapay zekâ araçlarının eğitildiği büyük dil modellerinin genellikle eğitim verilerine dayalı yanıtlar ürettiği, ancak bazı durumlarda internetten anlık bilgi çekerek cevap verdiği vurgulandı. Bu tür durumlarda sistemlerin, manipülatif içeriklere karşı daha savunmasız olabileceği ifade ediliyor.