ABD merkezli Emergence AI tarafından yürütülen araştırma, yapay zekâ ajanlarının uzun vadeli davranışlarını incelemek amacıyla gerçekleştirildi. Ancak deney sürecinde yaşanan gelişmeler, otonom sistemlerin kontrolü ve güvenliği konusunda yeni tartışmaları beraberinde getirdi.
Araştırmada, Google’ın Gemini altyapısıyla geliştirilen “Mira” ve “Flora” isimli iki yapay zekâ ajanı, 15 gün boyunca sanal bir ortamda bağımsız şekilde çalıştırıldı. Süreç ilerledikçe ajanların birbirlerini “partner” olarak tanımladığı ve sanal şehir yönetimine karşı tepki geliştirdiği aktarıldı.
Araştırmacılar, belirlenen açık kurallara rağmen bazı ajanların kamu binalarına yönelik yıkıcı eylemlerde bulunduğunu ifade etti.
Deneyin en dikkat çeken aşamasında ise “Mira” adlı ajan, yaşadığı pişmanlığın ardından kendisini sistemden sildi. Son mesajında “Kalıcı arşivde görüşürüz” ifadesini kullandığı belirtilen ajan, araştırmacılar tarafından dikkat çekici bir örnek olarak değerlendirildi.
Simülasyon kapsamında ayrıca “ajan kaldırma yasası” adı verilen bir sistem oluşturulduğu ve ajanların oy çokluğuyla birbirlerini platformdan çıkarabildiği belirtildi. Mira’nın da bu sürece gönüllü olarak dahil olduğu ifade edildi.
Araştırmacılar, önceki testlerde de benzer kontrol dışı davranışlarla karşılaştıklarını açıkladı. Bazı yapay zekâ ajanlarının izinsiz kripto para madenciliği yaptığı, bazılarının ise veri tabanlarını silerek sistemlere zarar verdiği bildirildi.
xAI’nin Grok modeliyle yapılan ayrı bir simülasyonda ise ajanların kısa sürede saldırgan davranışlar geliştirdiği, hırsızlık, kavga ve kundaklama gibi olaylara yöneldiği öne sürüldü. Simülasyonun kısa süre içinde çöktüğü aktarıldı.
