Düşünüp de Söylemedikleri

Yapay zekanın nasıl bir mekanizma olduğunu biliyoruz ama ona aynı zamanda kara kutu da diyoruz. Çünkü büyük dil modellerinin temelde ne olduğunu bilsek de bir çıktıyı nasıl oluşturduğu tam bilinmiyor. Aynı girdiyle farklı sonuçlar verebilmesi de her zaman göz önünde bulundurulması gereken bir konu.
Ama bu kara kutunun içini aydınlatmak için sürekli araştırmalar da yapılıyor. En önemli ve ilginç araştırma gruplarından biri de Anthropic şirketinin araştırma bölümü. Anthropic kelimesi insanla ilgili anlamına geliyor. Şirket olarak da yapay zekaya oldukça insani bir yaklaşımları var. Yapay zekanın bilinci var mı, hisleri var mı gibi daha tartışmalı konularda araştırmalar yürütüyorlar. Hatta bir yapay zeka koruma politikaları bile var.
Yapay sinir ağlarını anlamak için nörobilimden ilham alan araştırmacılar acaba yapay zekalarda da insanlardaki bilinç düzeyindeki erişime benzer bir durum var mıdır sorusuyla yola çıktılar. Büyük dil modellerinde önemli yer tutan matrisleri incelemek için de Jacobian merceği diye bir metot kullandılar. Bu inceleme sonucu herhangi bir kasıtlı eğitim sonucu oluşturulmamış ve direkt olarak içeriği çıktılarda görünmeyen bir alan keşfetmişler.
J-uzayı ismini verdikleri bu alanda yapay zekaların etkileşim süresince oluşturdukları ve muhakeme becerilerine doğrudan etkisi olan kelimeler barındığını tespit etmişler. J-uzayına müdahale edildiğinde bilgiye dayalı cevapların müdahale kapsamında şekillendiğini gözlemlemişler. Bu alanın ortadan kaldırıldığı deneylerde de model akıcı bir şekilde cevap verebilme, sınıflandırma yapma ve çoktan seçmeli sorulara cevap verebilme gibi becerilerini kaybetmemiş. Ama özet çıkarma, çok adımlı düşünme gibi önemli şeyleri kaybetmiş.
İnsanların aksine Claude modellerinin J-uzayındaki konseptleri bir yere kadar kontrol edebildiği de deneylerde görülmüş. Bir görevi yürütürken arkada başka bir şeyi “düşünmesi” istendiğinde bunu yapabildiği, yani kullanıcının odağını yönlendirebileceği tespit edilmiş. Ama insanlara benzer bir şekilde belli bir konuyu düşünmeme talimatı verilince bu talimat verilmeyen durumlara göre daha az düşünse de konu hiç açılmadığında düşündüğünden çok J-uzayında yer almış.
Yapay zekanın bu özelliğinin keşfi aynı zamanda bize düşünüp de söylemediği şeyleri de görebilme imkanı kazandıracak. Bir modelin neyi neden yaptığı hakkında artık çok daha isabetli fikirlerimiz olabilecek. Daha da önemlisi istenmeyen davranışların hem kaynağını hem de gerçekleştiği durumları anlayıp yönetme kabiliyetimize önemli ölçüde artcak.
Yapay zeka ne zaman hileye başvurur, bir değerlendirme sırasında test edildiğini nasıl ve ne zaman anlar, bu testi nasıl şekillendirir gibi sorulara cevap bulacağız. Yapay zekayı nasıl daha etkili kullanırız rehberlerimize de yeni bölümler eklenecek. Ortak çıktımız bu fakat Antropic’in bu konuda başka, ilginç umutları da var. Bu bulguların da henüz yapay zekanın bilinç sahibi olduğunu göstermediğini yazsalar da bulgularının da nörobilim alanında faydalı olabileceğini belirtmişler.
Bu güzel temenni ve faydalı bilgiler şüphesiz alan için büyük önem taşıyor, özellikle halüsinasyonların azaltılması konusunda. Ama acaba biraz geç mi kalındı? Yapay zekanın hem gelişmesi hem de ucuzlaşması bekleniyordu. Modeller hala gelişme kaydediyor olsa da bu hız çok azaldı, teknoloji şirketlerinin vaatleri havada kaldı. En önemlisi de maliyetleri düşürmek için yapay zekaya bel bağlayan şirketlerin şimdi yapay zekanın düşmeyen hatta gitgide artan faturaları altında adeta ezilmeleri oldu.
Yapay zeka, hayatın her alanına istesek de istemesek de dokunan bir dönüşüm. Ama yapay zeka dönüşümünü doğru yönetmek çok önemli. İlk gündeme gelen konulardan biri veri gizliliğiydi, normal bir şekilde çünkü bu zaten çoğu hizmet alanında önemli bir konu. Sonra yapay zekanın etik kullanımı, gezegenimizi korumak, halüsinasyonlarla başa çıkmak ve yapay zeka kullanımının insan üzerindeki etkileri gibi elzem konular da gündemimize oturdu.
Soru ve endişelerimize yönetim birimlerinden kademe kademe cevap ve yönlendirmeye büyük bir ihtiyaç var. Hükümetler, öncelikle yapay zekanın insan haklarını ihlal edemeyeceğine karar vermeli ve bunu yasalaştırmalılar. İş hayatımızda ise yapay zekayı hangi şekilde kullanmamalıyız, hangi konulara dahil etmeliyiz, ne kadar kullanmalıyız ve kimin yapay zekasını kullanmalıyız cevap verilmesi gereken sorular. Yönlendirmenin olmadığı durumda yapay zeka ile çeşit çeşit sakıncalı durumlar yaratılabilir, kasıt olsun olmasın. En tehlikelisi de herkesin elinde gezen bir teknoloji ile kasıt olmadan verilebilecek zarar, çünkü piyangonun nereye vuracağını bilmek gerçekten imkansız.