Yapay zeka çağında siber güvenlik: 2023’te tehdit ortamında neler değişti?

 

Kaspersky uzmanları, yayınladıkları son raporda yapay zekanın 2023 siber güvenlik ortamı üzerindeki derin tesirini ortaya koydu. Çok taraflı bir yaklaşımla gerçekleştirilen tahlilde yapay zekanın tesirleri araştırılıyor, yapay zekanın siber güvenlik uzmanları ve regülasyon yetkilileri tarafından kullanımına odaklanılıyor ve siber hatalılar tarafından potansiyel olarak nasıl istismar edilebileceği bedellendiriliyor. Kaspersky Security Bulletin (KSB) içinde yer alan bu kapsamlı inceleme, siber güvenlik alanındaki değerli değişimlere ışık tutan iddiaların ve derinlemesine raporların yıllık derlemesine karşılık geliyor.

Teknolojik ilerlemenin ve toplumsal değişimlerin süratli temposu devam ederken, “Yapay Zeka” terimi kendisini global gündemin ön saflarında sağlam bir formda konumlandırdı. Büyük lisan modellerinin (LLM’ler) giderek yaygınlaşmasıyla birlikte güvenliğe ve kapalılığa dair kaygılardaki artış, yapay zekayı direkt siber güvenlik dünyasıyla ilişkilendiriyor. Kaspersky araştırmacıları, yapay zeka araçlarının 2023 yılında siber hatalılara berbat niyetli faaliyetlerinde nasıl yardımcı olduğunu ortaya koyarken, birebir vakitte bu teknolojinin savunma alanındaki potansiyel uygulamalarını da gözler önüne seriyor. Kaspersky uzmanları raporda ayrıyeten gelecekte yapay zeka ile ilgili tehditlerin nasıl değişebileceğine de değiniyor.

Daha karmaşık güvenlik açıkları

Belli talimatları takip edebilen LLM’ler tüketiciye yönelik daha fazla esere entegre edildikçe, üretken yapay zeka ile klasik teknolojilerin kesiştiği noktada yeni ve karmaşık güvenlik açıkları ortaya çıkacak. Bu da siber güvenlik uzmanlarının garanti altına alması gereken taarruz yüzeyini genişlemesine neden olacak. Bu durum, geliştiricilerin LLM aracıları tarafından başlatılan hareketler için kullanıcı onayı üzere yeni güvenlik tedbirleri üzerinde çalışmasını gerektiriyor. 

Siber güvenlik uzmanları için kapsamlı yapay zeka asistanları çıkacak

Kırmızı grup üyeleri ve araştırmacılar, yenilikçi siber güvenlik araçları için üretken yapay zekadan yararlanacak ve bu da LLM yahut makine tahsili (ML) tabanlı asistanların yolunu açacak. Bu araç, pentesting ortamında yürütülen komutlara dayalı rehberlik sunarak kırmızı grupların vazifelerini otomatikleştirme potansiyeline sahip.

Yapay hudut ağları dolandırıcılığa yönelik görseller üretmek için daha fazla kullanılacak

Önümüzdeki yıl, dolandırıcılar yapay hudut ağlarını kullanarak taktiklerini güçlendirecek ve daha ikna edici geçersiz içerikler oluşturmak için yapay zeka araçlarından yararlanacak. Zahmetsizce ikna edici görseller ve görüntüler üretebilen makus niyetli aktörler, dolandırıcılık ve sahtekarlıklarla ilgili siber tehditleri tırmandırma riskini artıracak.

 

Yapay zeka 2024 yılında tehdit ortamında çığır açan değişimlerin itici gücü olmayacak

Yukarıda yer verilen gelişmelere karşın Kaspersky uzmanları, yapay zekanın yakın vakitte tehdit ortamını kıymetli ölçüde değiştireceği konusuna kuşkuyla yaklaşıyor. Siber hatalılar üretken yapay zekayı benimserken, tıpkı durum yazılımların ve ağların güvenliğini artırmak için gelişmiş araçları test edecek siber güvenlik uzmanları için de geçerli. Bu da hücum ortamının büyük ölçüde değişmesini muhtemel kılmıyor.

Özel dalın katkısıyla yapay zeka ile ilgili daha fazla regülasyon teşebbüsü olacak

Teknoloji geliştikçe, bu gelişime uygun düzenleme ve regülasyonlar da kelam konusu oluyor. Bu doğrultuda yapay zeka ile ilgili düzenleyici teşebbüslerin sayısı da artacak. Teknoloji şirketleri üzere kamu harici aktörler, yapay zeka geliştirme ve kullanma konusundaki uzmanlıkları göz önüne alındığında, hem global hem de ulusal platformlarda yapay zeka regülasyonlarına dair tartışmalar açısından çok kıymetli bilgiler sağlayabilir.

Yapay zeka tarafından oluşturulan içeriklerin filigranla işaretlenmesi gündeme gelecek

Sentetik içeriğin işaretlenmesi yahut tanımlanması için daha fazla düzenlemenin yanı sıra yeni hizmet sağlayıcı siyasetleri da gerekecek. Bunun sonucunda hizmet sağlayıcılar tespit teknolojilerine yatırım yapmaya devam edecek. Geliştiriciler ve araştırmacılar ise daha kolay tanımlama ve kaynak gösterme için sentetik medyayı filigranlama metotlarına katkıda bulunacaklar.

Kaspersky Güvenlik Uzmanı Vladislav Tushkanov, bahisle ilgili olarak şunları söyledi: “Siber güvenlikte yapay zeka iki ucu keskin bir kılıca benziyor. Yapay zekanın uyarlanabilen yetenekleri, gelişen tehditlere karşı proaktif bir kalkan sunarak savunmamızı güçlendirebilir. Lakin tıpkı dinamizm, saldırganlar daha sofistike akınlar düzenlemek için yapay zekadan yararlanması sonucunu da doğurabilir. Hassas bilgileri çok paylaşmadan, sorumlu kullanım sağlayarak gerçek dengeyi kurmak, dijital sonlarımızı teminat altına almak ismine çok değerlidir.”

Kaynak: (BYZHA) Beyaz Haber Ajansı