Yapay zeka girişimi Oumi tarafından yapılan kapsamlı analizler, sistemin güvenilirlik ve kaynak sağlama konusunda ciddi eksiklikleri bulunduğunu gösteriyor.
YÜKSEK DOĞRULUK ORANINA RAĞMEN KAYNAKLAR TEMELSİZ
Oumi'nin 4 bin 326 arama üzerinde yaptığı testlere göre, sistemin yeni Gemini 3 modeliyle doğruluk oranı yüzde 91'e ulaştı.
Ancak bu doğru yanıtların yüzde 56'sının temelsiz olduğu ve bağlantı verilen internet sitelerinin sunulan bilgileri aslında tam olarak desteklemediği belirlendi.
Araştırma, yapay zekanın referans aldığı kaynaklar arasında Facebook ve Reddit'in en çok alıntılanan platformlardan olduğunu ortaya koyuyor.
Çeşitli sorgularda sistemin Wikipedia, kişisel bloglar ve sosyal medyadaki çelişkili bilgileri derleyerek kesin bir gerçekmiş gibi kullanıcılara sunduğu belirtiliyor.
SAHTE İÇERİKLERLE KOLAYCA MANİPÜLE EDİLEBİLİYOR
Yapay zeka arama sisteminin en büyük zafiyetlerinden birinin, dışarıdan üretilen sahte metinlerle kolayca manipüle edilebilmesi olduğu kanıtlandı.
Bir teknoloji gazetecisinin kendi blogunda yayınladığı tamamen kurgusal bir sosisli sandviç yeme yarışması haberi, ertesi gün Google yapay zekası tarafından gerçek bir bilgi olarak listelendi.
Google cephesi ise yapılan bu analizlerin gerçek arama alışkanlıklarını yansıtmadığını ve hatalı testlere dayandığını savunuyor.
Şirket yetkilileri, yapay zekanın doğası gereği hata yapabileceğini hatırlatarak kullanıcıları aldıkları yanıtları farklı kaynaklardan teyit etmeye çağırıyor.