Ajan Savaşları

Büyük yapay zeka şirketleri sürekli bir sonraki modelleri için olan beklentileri yükseltse de sektörde anlamlı ilerlemelere ulaşma hızında gözle görülür bir düşüş var. CEO’lar bu durumu teknolojilerine halka açmak ve vizyonlarını gerçekleştirmek için yeterli işlemci gücü ve elektriğe ulaşamamalarına bağlıyor. Fakat açıkça söylemek istemeseler de artık model eğitiminde kullanacak yeni, gerçek veri bulmakta büyük bir sıkıntı yaşıyorlar. Silikon Vadisi’nin Yapay Genel Zeka’yı daha fazla işlem gücü ve eğitim verisiyle yaratma yaklaşımı da bu noktada büyük bir engele takılıyor çünkü yapılan araştırmalara göre şu an internetin yaklaşık %40’ı yapay zeka tarafından yaratılmış içeriklerden oluşuyor. Yapay zeka her zaman da doğru ve/veya kaliteli içeriklerle de eğitilmiyor yani yapay zekayı internetle doyurmaya çalışmak yapay zekayı zehirliyor.
Ama gelişmekte olan önemli bir konu daha var, yapay zeka ajanları. Bu ajanlar aslında temellerinde alışkın olduğumuz chatbotlardan çok da farklı değil. Bir modelin ajan olabilmesi için bir rolü, bu rol kapsamında neleri nasıl yapacağı ya da neleri yapmayacağının belirlendiği bir protokolü ve kullanabileceği araçları olması gerekiyor. Sonrasında talimatları ve protokolü çerçevesinde çalışmaya başlıyor. Bu yarı bağımsız çalışabilme sistemi yapay zekanın en önemli özelliklerinden bir tanesi. Adım adım yönlendirilmesi gereken araçlar süreçlerin gerçekten hızlandırılmasının önüne geçiyordu.
Şimdi ise yapay zeka kullanımını etkileyen farklı faktörler var. Artık modellerin iyi ajanlar olabilmeleri neredeyse bütün yapay zeka şirketlerinin önceliklerinden biri haline geldi. Google tarafından yayınlanan bir rapora göre yazılımcıların %90’ı yapay zeka araçları kullanıyor ama %30’u yapay zekaya neredeyse hiç güvenmiyor. Stack Overflow tarafından yapılan yıllık bir ankette ise yapay zeka cevaplarından şüphe edilme oranı bir yılda %31’den %46’ya çıkmış.
Bu durumun çeşitli sebepleri var; yapay zekanın yanlış bilgiler paylaşması, kullanıcıların daha tecrübeli hale gelmesi, yapay zekaların hatalarından öğrenememeleri ve sırf yapay zeka tarafından hızla üretilip kullanılan içeriklerin düzeltilmesi için yeni iş alanlarının açılmış olması bunlardan bazıları. Yeni araştırmalar yapay zeka kullanan şirketlerin %95’inin yatırımlarından dönüş alamadığını tespit etti.
Ama bu, büyük şirketlerin model ve ajan savaşlarını yavaşlatmadı. xAI, Grok Code Fast ile Gemini CLI ve OpenAI codex’e rakip bir kodlama ajanı yarattı. Perplexity ajan özelliklerine sahip internet tarayıcıları Comet’i her geçen gün daha fazla kullanıcıya açıyor. Genspark AI ise çoğu işi yerel olarak yapabilen bir ajan destekli internet tarayıcısını dünya ile paylaştı. Bunlar örneklerden sadece bazıları.
Peki, yapay zeka bir balon mu? Belki ama önemli olan nokta bu değil. Yapay zeka bir balon da olsa yarın öbür gün patlasa bile hayatımızda yarattığı değişiklikler kalıcı olacak. Bu sebeple alanın önde gelen isimleri gerekli tedbirlerin alınması konusunda seslerini duyurmak için sürekli çaba harcıyorlar. Birkaç gün önce, akademide ve özel sektörde etkili kişiler ve 70 tane yapay zeka organizasyonun da aralarında bulunduğu 200’den fazla uzmanın imzaladığı bir açık mektupta dünya çapında geçerli bir “yapay zeka kırmızı çizgileri” anlaşması imzalanması çağrısında bulunuldu . Özel sektördeki yoğun rekabet sonucu başa çıkılamayacak teknolojilerin yaratılması ve bu teknolojilerin büyük çaplı zarara yol açması, yapay zekanın silah yapımı ve insan haklarını ihlal edecek şekilde kullanılması gibi kaygılar taşınmakta. Yakın zamanda Microsoft İsrail Savunma Bakanlığı’na bazı hizmetlerini durdurdu çünkü Gazze’de toplu gözetleme yapmak için Azure kullandıklarını tespit edildi. Böyle örnekler güçlü teknolojiler için güçlü denetim ihtiyacını vurguluyor.
California valisi Gavin Newsom, aylar süren bir tartışma sürecinin ardından eyalet içerisinde faaliyet gösteren ve eyalet sakinlerini hizmetlerini satan şirketleri kapsayacak yapay zeka yasasını onadı. Bu yasa büyük şirketlerin yapay zeka güvenliği ile ilgili önlemleri nasıl uyguladıklarını paylaşmalarını ve herhangi bir değişiklik olduğunda bunu 30 gün içerisinde bildirmelerini zorunlu tutuyor. Şirketin paylaşmadığı durumları paylaşacak “itirafçılara” da koruma sağlayan yasa aynı zamanda yapay zekaların insan müdahalesi olmadan yaptıkları siber saldırıların ve aldatıcı model davranışlarının da raporlanmasını gerektiriyor.
Meta ve OpenAI gibi şirketlerin kendilerine daha yakın duracak siyasetçileri desteklemek için milyonlarca dolar bağış yaptıkları bir ortamda adeta bir umut ışığı oldu. Ama bu sadece ilk adım. Eğer dünya halkı ve hükümetleri olarak yeterli ve objektif önlemler almazsak yapay zeka insanlığın en yıkıcı icadı olarak tarihe geçebilir.