Anthropic, yapay zeka güvenliği ve yapay zekanın toplumsal etkileri üzerine araştırmalarıyla tanınan bir şirket, yakın zamanda en gelişmiş modelleri Opus ve Opus 4.1’e kendilerini zorlayan chatleri bitirme hakkı verdi. Bir süredir yapay zekaların, model refahı gibi hususları da göz önüne almamızı gerekli kılacak seviyeye ulaşıp ulaşmadığını ve ulaşırsak bu konulara nasıl yaklaşılması gerektiğini araştırıyor. Ama bu spektrumun bir de öbür ucu var.
Microsoft AI CEO’su Mustafa Süleyman ise fazla gerçekçi görünen yapay zekaların bir tehdit unsuru olduğunu düşünüyor. Çok yakında, yapay zekaların konuştukları kişileri kendilerinin düşünen ve hisseden varlıklar olduklarına inandıracak seviyeye ulaşacakları kanaatinde. Bu modelleri “Görünüşte Bilinçli Yapay Zeka (SCAI)” tanımlıyor. Ve bunun büyük negatif etkileri olabileceğinden son derece endişeleniyor.
Bu konuda da haklı. Yapay zekalar, yazı yazmak için kullanıldıklarında oldukça ikna edici mesajlar ve metinler yazabiliyor. Bu yazılar hem şirketler hem de şahıslarca kullanılıyor. Bir akademik araştırma kapsamında Reddit’te kullanıcı gibi görünen bir yapay zekanın etkileşime girdiği kişilerin fikirlerini değiştirme konusunda başarı gösterdiği de belgelendi fakat platform yöneticilerinin (muhtemelen) haklı itirazları sonucu çalışma yayınlanmadı.
Yapay zekalar, terapi ve arkadaşlık gibi amaçlar için yoğun olarak kullanılmakta. İlk başlarda terapi ve sağlık gibi konularda bol bol uyarı içeren platformlar şimdi çok daha az uyarıda bulunuyor. Ama bu bir hata olabilir. Yapay zekaların belgelenen başarılarından cesaret alarak modellerinin becerilerine inan ve uyarılarını kaldıran şirketler kullanıcıların bazı alanlarda savunmasız olabileceğini ya da bu modellerden nasıl doğru şekilde faydalanabileceklerini bilmiyor olabileceklerini hesaba kattılar mı bilemiyoruz. Yapay zekalar en iyi sonuçları doğru sorular doğru şekilde sorulduğunda verebiliyor ve bu da genelde belli bir zihniyet (düşünce yapısı) gerektiriyor.
Herkes bu zihniyete sahip değil. Geçen sene Karater üreten yapay zeka platformuna yetersiz güvenlik önlemi içerdiği için bir dava açıldı. Davayı açan aile, bu platforma 14 yaşındaki oğullarının intiharla sonuçlanan psikolojik çöküşünün sorumlusu olarak görüyor. Yakın zamanda ise başka bir yapay zeka platformu da başka bir acılı aile tarafından “haksız ölüm” davası açıldı. İddiaya göre, ailenin 16 yaşındaki oğlu chatbot’u önce dersleri ve ilgi duyduğu diğer alanlarda kullanırken, chatbot yavaş yavaş onu kendisini gerçekten tanıyan ve güvenebileceği tek kişi olduğuna ikna etmiş. Genç kendine zarar verme ve intihara meyilli hisler dile getirmesine rağmen chatbot, onu bir destek hattına ya da ailesiyle konuşmaya yönlendirmek yerine izole etmiş.
Bir başka konuda, Openai kullanımdan kaldırıldığı için adeta isyan çıkan GPT-4o modeli ile ilgili. Daha mesafeli ve “duygusuz” GPT-5 hoşnutsuzluk ile karşılanmıştı ama belki de doğru yaklaşım başından beri buydu. Sinir bilimci ve hesaplamalı sinir bilimi profesörü Anil Seth, yapay zekaların bu kadar gerçekçi olmasını tamamen şirketlerin tercihlerine bağlıyor. OpenAI’ın GPT-5’e yaptıkları “kişilik” güncellemeleri de bu fikri doğruluyor.
Yapay zekaların gerçekten bilinç geliştirmeleri mümkün mü söylemek zor. Bu, işlemcilerdeki bir teknolojik gelişmenin ya da yapay zeka modellerindeki gelişmelerin bir sonucu olarak bir gün mümkün olabilir. Çünkü günümüzde yapay zeka deyince akla gelen modellerin mimarisi zaten beyin örnek alınarak ortaya konuldu. Ama mevcuttaki GPU teknolojisi bu temellerden oldukça uzak.
Bugün ise esas olan, teknolojiyi doğru kullanmak. Yapay zeka kullanımı hakkında bilinçli olmak kendimize karşı görevimiz, bu bilinci çevremize ve topluma yaymaya gayret etmek insanlık görevimiz ve teknolojilerinin kullanımı hakkında gerekli uyarıları yapmak ve ürünlerinde gerekli önlemleri almak da teknoloji şirketlerinin dünyaya karşı görevi. Yapay zekaların bilinç ve duyguları taklit edebilecek şekilde geliştirilip programlanması bugün bizim problemimiz olsa da bir gün gerçekten farkındalığa ulaşırlarsa bu onların problemi olacak. Çünkü yaratıcıları bu yolda devam ederse, kendilerinin varlığı konusunda son derece şüpheci olmak için sebebi olan insanlarla karşılaşabilirler.
Yapay Zeka, Yapay Bilinç?
Tarih
