Kurumlarda Yapay Zekâ Kullanımı Artıyor: Uzmanların Yüzde 84’ü Güvenlik Risklerinden Endişeli

Yapay zekâ; veri analizinden içerik üretimine, bilgi aramadan proje yönetimine kadar şirketlerin günlük iş süreçlerinde daha fazla kullanılmaya başladı.

Kaspersky tarafından 18 ülkeden 1.800 bilgi teknolojileri ve siber güvenlik karar vericisiyle gerçekleştirilen araştırmada, katılımcıların yüzde 69’u yapay zekâ özellikleriyle güçlendirilmiş çözümleri kurumlarına önerebileceğini belirtti. Bu araçlardan uzak durmayı tercih edenlerin oranı ise yüzde 5’te kaldı.

Yapay zekâ en çok hangi alanlarda kullanılıyor?

Araştırmaya göre kurumların yapay zekâdan en fazla yararlandığı alanlar arasında veri analizi ve görselleştirme, proje yönetimi, bilgi arama, departmanlara özgü görevler ile metin oluşturma ve düzenleme bulunuyor.

Katılımcılar, yapay zekâ destekli sistemlerin iş süreçlerini hızlandırdığını, çalışan verimliliğini artırdığını ve üretilen işin kalitesine katkı sunduğunu ifade etti.

Uzmanların yüzde 84’ü risklerden endişeli

Yapay zekânın sağladığı avantajlara rağmen güvenlik kaygılarının oldukça yüksek olduğu görüldü.

Araştırmaya katılanların yüzde 84’ü yapay zekâ kullanımının kendi kuruluşları açısından çeşitli güvenlik riskleri oluşturabileceğinden endişe duyduğunu bildirdi.

Dünya genelindeki kuruluşların yüzde 72’si son bir yıl içerisinde en az bir siber güvenlik olayı yaşadığını belirtirken, yüzde 8’i yapay zekâ kaynaklı güvenlik açıklarıyla bağlantılı tehditlerle karşılaştığını aktardı.

Kritik ayrıntı: Araştırma Türkiye’ye özel değil

Haberlerdeki oranların Türkiye’deki bütün işletmeleri temsil ettiği izlenimi oluşabilir.

Ancak araştırma 18 ülkeden katılımcılarla gerçekleştirildi. Yayımlanan haber özetinde Türkiye’ye özel sonuçlar ayrı biçimde açıklanmadı. Bu nedenle yüzde 84 ve yüzde 72 gibi oranlar doğrudan Batman’daki veya Türkiye’deki kurumların oranı olarak kullanılmamalı.

En doğru ifade şöyledir:

Küresel araştırmaya katılan bilişim ve güvenlik uzmanlarının yüzde 84’ü, yapay zekânın kurumları için risk oluşturabileceğinden endişe duyuyor.

Araştırma ayrıca bağımsız bir kamu kurumu tarafından değil, siber güvenlik ürünleri ve hizmetleri sunan Kaspersky tarafından gerçekleştirildi. Bulgular önemli bir sektör göstergesi olsa da şirket araştırması olduğu açıkça belirtilmeli.

Çalışanlar yapay zekâya hangi bilgileri girmemeli?

Çalışanların kullandığı herkese açık yapay zekâ araçlarına müşteri bilgileri, kimlik numaraları, finansal kayıtlar, ticari sırlar, kurum içi belgeler, şifreler veya henüz kamuya açıklanmamış bilgiler girilmesi veri güvenliği açısından risk oluşturabilir.

Kurumun bilgisi dışında kullanılan yapay zekâ hizmetleri, bilişim dünyasında “gölge yapay zekâ” olarak adlandırılan kontrolsüz bir kullanım alanı oluşturabilir. Kurum yöneticileri hangi araçların kullanılabileceğini, hangi verilerin paylaşılmasının yasak olduğunu ve oluşturulan içeriğin nasıl denetleneceğini açıkça belirlemeli.

Kaspersky’nin daha önce yayımlanan araştırmalarında da kurumların yapay zekâ kullanımına yönelik resmî politika oluşturması, yalnızca onaylı araçlara izin vermesi ve çalışanlara güvenlik eğitimi vermesi öneriliyor.

Çalışan farkındalığı riski azaltabilir

Araştırmaya katılan uzmanların yüzde 81’i, yapay zekâ kaynaklı risklerin çalışanların bilinçli ve sorumlu davranmasıyla önemli ölçüde azaltılabileceğini düşünüyor.

Ancak çalışanların yalnızca “dikkatli olması” yeterli değil. Kurumların erişim yetkilerini sınırlandırması, çok faktörlü kimlik doğrulama kullanması, hassas verileri sınıflandırması, işlem kayıtlarını izlemesi ve olası veri sızıntılarına karşı müdahale planı hazırlaması gerekiyor.

AA’nın aktardığı başka bir Kaspersky araştırmasında, yapay zekâ araçlarını işlerinde kullanan çalışanların önemli bölümünün bu teknolojinin siber güvenlik boyutuna ilişkin yeterli eğitim almadığına dikkat çekilmişti.

Yapay zekâ saldırganların da işini kolaylaştırıyor

Yapay zekâ yalnızca kurumların verimliliğini artırmak için kullanılmıyor. Siber saldırganlar da daha gerçekçi oltalama mesajları hazırlamak, sahte kimlik ve içerik üretmek, açıkları araştırmak ve saldırıları daha geniş ölçekte otomatikleştirmek için bu teknolojiden yararlanabiliyor.

Anadolu Ajansına değerlendirmelerde bulunan siber güvenlik uzmanları, yapay zekânın saldırı ve savunma tarafında aynı anda kullanılan bir “kılıç ve kalkan” hâline geldiğini belirtiyor.

Öne çıkan tehditler arasında şunlar bulunuyor:

• Popüler yapay zekâ uygulaması gibi gösterilen zararlı yazılımlar
• Yapay zekâyla hazırlanmış sahte e-posta ve mesajlar
• Güvenli olmayan yapay zekâ kodlarının kurumsal sistemlere eklenmesi
• Kurumsal yapay zekâ hesaplarının erişim bilgilerinin ele geçirilmesi
• Çalışanların farkında olmadan hassas verileri dış sistemlere yüklemesi

Batman’daki işletmeler ve kurumlar ne yapmalı?

Batman’daki kamu kurumları, belediyeler, sağlık kuruluşları, eğitim kurumları ve özel işletmeler yapay zekâ araçlarını kullanmadan önce kurum içi kullanım kuralları hazırlamalı.

Özellikle müşteri ve vatandaş verileriyle çalışan muhasebe, insan kaynakları, sağlık, hukuk ve kamu hizmeti birimlerinde ücretsiz yapay zekâ araçlarına veri aktarılması sınırlandırılmalı.

Her kurum en azından şu sorulara açık cevap vermeli:

Hangi yapay zekâ araçları kullanılabilir? Hangi bilgiler sisteme girilemez? Üretilen içerikten kim sorumludur? Bir veri sızıntısı yaşanırsa kime bildirim yapılacaktır?

Araştırma Batman’da belirli bir kurumun saldırıya uğradığını göstermiyor. Bu nedenle haberi “Batman’daki kurumlarda yapay zekâ kaynaklı siber saldırı başladı” şeklinde aktarmak doğru olmaz.

Güvenli kullanım için hangi önlemler alınmalı?

Kurumların yapay zekâyı tamamen yasaklaması yerine kullanım alanını kontrollü biçimde belirlemesi daha uygulanabilir bir yaklaşım olabilir.

Uzmanların önerdiği temel önlemler arasında kurum çapında yapay zekâ kullanım politikası hazırlanması, hassas verilerin sınıflandırılması, çalışanlara düzenli eğitim verilmesi, yalnızca onaylı sistemlerin kullanılması, çok faktörlü kimlik doğrulama, erişim kayıtlarının izlenmesi ve olay müdahale planlarının güncellenmesi bulunuyor.

Kaspersky ayrıca EDR ve XDR gibi gerçek zamanlı tehdit tespit ve müdahale sistemlerinin kullanılmasını öneriyor. Ancak bunlar şirketin sunduğu güvenlik ürünleriyle aynı alanda bulunan ticari çözüm önerileridir; haber metninde bağımsız ve zorunlu kamu standardı gibi aktarılmamalıdır.

Asıl tablo: Kullanım hızlandı, güvenlik aynı hızda gelişmeli

Araştırma, kurumların yapay zekâdan vazgeçmek istemediğini ancak güvenlik kaygılarının da son derece yüksek olduğunu gösteriyor.

Yapay zekânın kurumlara sağladığı hız ve verimlilik avantajı büyürken, kontrolsüz veri paylaşımı ve yetkisiz araç kullanımı yeni güvenlik açıkları oluşturabiliyor. Kurumların teknolojiyi kullanmaya başlamadan önce değil, kullanımla eş zamanlı olarak güvenlik politikalarını geliştirmesi gerekiyor.