Yapay zeka girişimi Oumi tarafından yapılan kapsamlı analizler, sistemin güvenilirlik ve kaynak sağlama konusunda ciddi eksiklikleri bulunduğunu gösteriyor.
YÜKSEK DOĞRULUK ORANINA RAĞMEN KAYNAKLAR TEMELSİZ
Oumi'nin 4 bin 326 arama üzerinde yaptığı testlere göre, sistemin yeni Gemini 3 modeliyle doğruluk oranı yüzde 91'e ulaştı.
Ancak bu doğru yanıtların yüzde 56'sının temelsiz olduğu ve bağlantı verilen internet sitelerinin sunulan bilgileri aslında tam olarak desteklemediği belirlendi.
Çeşitli sorgularda sistemin Wikipedia, kişisel bloglar ve sosyal medyadaki çelişkili bilgileri derleyerek kesin bir gerçekmiş gibi kullanıcılara sunduğu belirtiliyor.
SAHTE İÇERİKLERLE KOLAYCA MANİPÜLE EDİLEBİLİYOR
Yapay zeka arama sisteminin en büyük zafiyetlerinden birinin, dışarıdan üretilen sahte metinlerle kolayca manipüle edilebilmesi olduğu kanıtlandı.
Bir teknoloji gazetecisinin kendi blogunda yayınladığı tamamen kurgusal bir sosisli sandviç yeme yarışması haberi, ertesi gün Google yapay zekası tarafından gerçek bir bilgi olarak listelendi.
Şirket yetkilileri, yapay zekanın doğası gereği hata yapabileceğini hatırlatarak kullanıcıları aldıkları yanıtları farklı kaynaklardan teyit etmeye çağırıyor.
