1. Anasayfa
  2. Haberler
  3. TEKNOLOJİ
  4. Google'ın yapay zeka arama sonuçları milyonlarca hatalı bilgiyle doldu

Google'ın yapay zeka arama sonuçları milyonlarca hatalı bilgiyle doldu

Google'ın arama sonuçlarında öne çıkardığı Yapay Zeka Genel Bakışları özelliğinin her saat 10 milyonlarca hatalı yanıt üretebildiği ve sahte içeriklerle kolayca manipüle edilebildiği ortaya çıktı.

Google'ın yapay zeka arama sonuçları milyonlarca hatalı bilgiyle doldu
Teknoloji devi Google'ın arama sonuçlarının en üstünde sunduğu Yapay Zeka Genel Bakışları özelliği, doğruluk tartışmalarının merkezine oturdu.

Yapay zeka girişimi Oumi tarafından yapılan kapsamlı analizler, sistemin güvenilirlik ve kaynak sağlama konusunda ciddi eksiklikleri bulunduğunu gösteriyor.

YÜKSEK DOĞRULUK ORANINA RAĞMEN KAYNAKLAR TEMELSİZ

Oumi'nin 4 bin 326 arama üzerinde yaptığı testlere göre, sistemin yeni Gemini 3 modeliyle doğruluk oranı yüzde 91'e ulaştı.

Ancak bu doğru yanıtların yüzde 56'sının temelsiz olduğu ve bağlantı verilen internet sitelerinin sunulan bilgileri aslında tam olarak desteklemediği belirlendi.

Araştırma, yapay zekanın referans aldığı kaynaklar arasında Facebook ve Reddit'in en çok alıntılanan platformlardan olduğunu ortaya koyuyor.

Çeşitli sorgularda sistemin Wikipedia, kişisel bloglar ve sosyal medyadaki çelişkili bilgileri derleyerek kesin bir gerçekmiş gibi kullanıcılara sunduğu belirtiliyor.

SAHTE İÇERİKLERLE KOLAYCA MANİPÜLE EDİLEBİLİYOR

Yapay zeka arama sisteminin en büyük zafiyetlerinden birinin, dışarıdan üretilen sahte metinlerle kolayca manipüle edilebilmesi olduğu kanıtlandı.

Bir teknoloji gazetecisinin kendi blogunda yayınladığı tamamen kurgusal bir sosisli sandviç yeme yarışması haberi, ertesi gün Google yapay zekası tarafından gerçek bir bilgi olarak listelendi.

Google cephesi ise yapılan bu analizlerin gerçek arama alışkanlıklarını yansıtmadığını ve hatalı testlere dayandığını savunuyor.

Şirket yetkilileri, yapay zekanın doğası gereği hata yapabileceğini hatırlatarak kullanıcıları aldıkları yanıtları farklı kaynaklardan teyit etmeye çağırıyor.

SİZİN DÜŞÜNCELERİNİZ