Siber Karmaşa, Saldırı Atında Mıyız?

Yapay zeka geliştikçe onu kullanarak yapabileceğimiz şeylerin sayısı ve kapsamı da artıyor. Hikaye yazmaktan kod yazmaya, eğitimden sağlığa pek çok alanda yapay zeka kullanılmaya başlandı. Özellikle ajanlar geliştikçe önem kazanan başka bir kullanım alanı daha var: siber güvenlik.
Yazılımcılar hızlı kod yazmak ve yazılmış kodları gözden geçirmek için yapay zekadan faydalanıyorlar, bunun güvenlik için kullanılan kodlara da yansıması pek de şaşırtıcı değil. Yapay zeka şirketleri modellerinin zararlı amaçlar için kullanılmalarını önlemek için sürekli yeni önlemler üzerinde çalışıyorlar ama bu her zaman yeterli olmuyor.
Anthropic, yakın zamanda kendi geliştirdikleri yapay zeka Claude’nin kötü niyetli kişilerce kandırılarak 30 özel şirket ve devlet kurumuna siber saldırı yapmak için kullanıldığını keşfettiklerini açıkladı. Grup kendilerini siber güvenlik araştırmacısı olarak tanıtıp yapay zekayı kendilerine minimum insan müdahalesi ile çalışacak ve hedeflere otonom bir şekilde sızacak bir program yazmasını istediler. Açıklamaya göre bu program saldırılan bazı şirketlerin sistemlerine girip gizli bilgiler sızdırmayı başarmış.
Kötü niyetli grup bununla da yetinmemiş ve çalınan bilgileri de Claude ile işlemeye çalışmış. Nitekim kendileri de yapay zekanın zayıf bir yönüne maruz kalmışlar, model bazı noktalarda var olmayan kullanıcı isimleri ve şifreler yaratıp halka açık bilgileri sanki yeni bulgularmış gibi bu gruba sunmuş.
Antropic, etkilenen şirketleri ve emniyeti bildirdiklerini duyurdu, ama hasarın boyutu hakkında elle tutulur bir bilgi paylaşılmadı. Bazı uzmanlar, yapay zeka ile yapılan insan müdahalesi gerektirmeyen siber saldırılara karşı en iyi savunmanın ancak yapay zeka destekli insan müdahalesi gerektirmeyen güvenlik sistemleri. Bu kesimin sürekli aynı seviyede tetikte olacak, insanların reaksiyon hızının çok üstünde reaksiyon hızına sahip sistemleri kullanarak korunma fikri temelde mantıklı olsa da kendi sorunlarını da beraberinde getiriyor.
İlk sorun da ajanlara ne kadar güvenebiliriz. Yapay zeka günlük hayata en çok nüfuz etmiş teknolojik gelişmelerden biri olma mertebesine ulaştı. Ama hala istikrarlı bir şekilde hatalar yapıyor. Mevcut yapay zekaların çıktılarını tam olarak nasıl ortaya koydukları da hala bir “kara kutu”. İnsanlığın yeni parlak oyuncağı olsa da yapay zekaya asla gözü kapalı güvenmemeliyiz.
İkinci sorun ise bazı uzmanların yapay zekanın kötü amaçla kullanımı sonucu oluşabilecek siber tehditlerin abartıldığı kanısında olmaları. Anthropic, yapay zekalarının siber saldırılarda kullanılmaya çalışıldığını bildiren ilk şirket değil. Son şirket de olmayacak. Ama bildirilen vakalarda öne çıkan bir ortak nokta, doğrulanabilir bir tehdit kanıtı sunmamış olmaları.
Bu ay Google araştırmacıları yapay zekanın kötü niyetli kişilerce kullanımı ile ilgili bir makale yayınladı. Makale, yapay zekanın bu kişilerce hangi amaçlarla kullanılmaya çalışıldığını ve nasıl kullanılmaya çalışıldığını araştırmış. Bulgular arasında, yapay zekanın kullanılma şeklinde son incelemelerinden beri değişiklikler olduğu gözlemlenmiş. Fakat bu uygulamaların çok başarılı olmadığı ve hala test aşamalarında oldukları belirlenmiş.
Her zaman en zararsız şeyleri bile kötü amaçla kullanmayı hayal edecek birileri olacak. Yapay zeka gibi yeni, esnek ve hakkında az şey bilinen bir teknolojinin de şimşekleri üstüne çekmesi kaçınılmazdı. Bu durumun da üstesinden gelmek için yapılması gereken yapay zekayı gerçekten anlamaya çalışmak, kötü kullanımı önlemek için sağlam önlemlerin yaratılması, yeni teknolojilere temkinli yaklaşmak ve elbette dikkati elden bırakmamak. Biz bunlardan sadece bir tanesini kendimiz yapabiliriz. Ama yapay zeka araştırmaları ve önlemleri konusunda farkındalık yaratmak, bu konularda çalışan araştırmacıları ve kurumları desteklemek ve bizi koruyabilecek yasaların çıkarılması ve uygulanması konusunda sesimizi duyurmaya çalışmak hepimizin elinde.
Güvenliğimizi sağlamak için çaba göstermek hepimizin elinde.