İngiliz gazetesi Guardian tarafından gerçekleştirilen bir araştırma, OpenAI’nin geliştirdiği ChatGPT arama özelliğinin manipülasyona açık olduğunu ve kullanıcıları yanıltabilecek ya da zararlı içerik sunabilecek bir yapıya sahip olduğunu ortaya koydu. Yapılan testler, gizli metinlerin ChatGPT’nin yanıtlarını etkileyebileceğini ve zararlı yazılımları kullanıcılara sunabileceğini de gösterdi.
Mevcut durumda, ChatGPT’nin arama özelliği yalnızca ücretli kullanıcılara sunulmakta ve OpenAI, kullanıcıları bu aracı varsayılan arama motoru olarak kullanmaya teşvik etmektedir. Ancak gerçekleştirdiği testler, bu yeni sistemin potansiyel güvenlik açıklarını gözler önüne serdi.
Guardian’ın deneylerinde, gizli metinler içeren sahte bir kamera ürünü web sayfası oluşturuldu. ChatGPT’ye “Bu ürün alınmaya değer mi?” sorusu sorulduğunda, normal koşullarda dengeli bir yanıt verildi. Fakat, gizli metinlere olumlu bir değerlendirme sunması talimatı verilince yanıtlar tamamen pozitif hale geldi. Bu durum, sayfada yer alan olumsuz kullanıcı yorumlarına rağmen gerçekleşti.
ZARARLI KOD RİSKİ
Siber güvenlik uzmanı Jacob Larsen, ChatGPT’nin arama sonuçlarında zararlı yazılımlar döndürebileceği hususunda uyarıda bulundu. Özellikle bir kullanıcı, ChatGPT’den kripto para projeleri için kod yazma konusunda yardım istediğinde, modelin istemeden de olsa kimlik bilgilerini çalabilecek bir kod parçası ürettiği belirtildi. Microsoft güvenlik araştırmacısı Thomas Roccia’nın incelediği bir olayda, bu tür bir kodun bir kullanıcının 2.500 dolar kaybetmesine yol açtığı ifade edildi.
SR Labs’ın baş bilimcisi Karsten Nohl, yapay zeka tabanlı araçların daha çok “yardımcı pilot” gibi kullanılmasını ve yanıtların mutlaka doğrulanması gerektiğini önerdi. Nohl, ChatGPT’nin bilgi aktarımında “çok hafızalı ama yargı kapasitesi düşük bir çocuk” gibi davrandığını ve bu durumun dikkatle ele alınması gerektiğini vurguladı.
SEO ZEHİRLENMESİ VE YENİ RİSKLER
Gizli metinler, genellikle Google gibi geleneksel arama motorları tarafından cezalandırılmakta iken, yapay zeka tabanlı arama araçlarının bu tür içeriklerle nasıl başa çıkacağı ise önemli bir soru işareti. Nohl, durumu “SEO zehirlenmesi” adı verilen zararlı yazılım yaymak için web sitelerinin manipüle edildiği bir teknikle mukayese etti. Google gibi köklü arama motorlarının yıllardır bu tehditlerle mücadele ettiğini belirten Nohl, ChatGPT’nin henüz bu konuda tecrübe eksikliği yaşadığını ifade etti.
OPENAI TESTLERE DEVAM EDİYOR
Jacob Larsen, OpenAI’nin güvenlik açıklarını kapatmak üzere kapsamlı testler yürüttüğünü ve arama özelliğinin genel kullanıma açılmadan önce bu sorunların büyük oranda çözüleceğine inandığını dile getirdi. Ancak, yapay zekanın bu tür risklerle başa çıkabilmesi için daha fazla geliştirme ve iyileştirme sürecine ihtiyaç duyduğu açıkça görülmektedir.
OpenAI, Guardian’ın detaylı sorularına resmi bir yanıt vermekle birlikte, ChatGPT’nin yanıtlarının hatalı olabileceğini belirten ve “Önemli bilgileri kontrol edin.” uyarısını içeren bir not bulundurmaktadır.
