Merhaba,

Bugün ilginç bir yazı yazmaya karar verdim. Şu ana kadar kesin verilere dayanan teknolojiler üzerine hep yazdım. Fakat bugün spekülatif bir yazı yazacağım. Yani yazacaklarım kesin ve doğrulanmış gerçeklere elbette dayanmıyor, tahminlere, olasılıklara, bir dizi teoriye dayanıyor. Ek olarak hayal dünyamın az da olsa bir kısmını bu yazıma dökme konusunda da ısrarcıyım bugün. 😊 Malum fantastik ve bilim kurgu bir kitap yazarı olarak, her şeyi hayal etme hakkına sahibim.

Yapay Zeka’yı en genel olarak nasıl tanımlarız? Bu teknoloji, insan zekasını taklit ederek, öğrenme, muhakeme etme, kendi öğrenme sürecini, hedeflerini ve aktivitelerini bağımsız olarak yönlendirme ve kontrol etme görevlerini gerçekleştirebilmeyi hedefler.

Süper Zeka ise, benim hep olmak istediğim şey 😊, Yapay Zeka’nın, tüm genel zeka görevlerinde en iyi insan beyninin yeteneklerini aşan seviyede performans göstermesi anlamına gelir. Yani Süper Zeka derken  insan ötesi bir sistemden bahsediyoruz.

Hepimizin bildiği gibi, Yapay Zeka’ya tarihsel bir perspektiften baktığımız zaman, problem çözme, optimizasyon, araştırma ve inovasyon konularında yoğun olarak kullanıldığını görüyoruz.

Süper Zeka konusu, özellikle Yapay Zeka (YZ) topluluğu içerisinde sıkça tartışılan konulardan birisi. Ancak, benim incelemelerime göre “Süper Zeka” kavramı genellikle teorik bir düzeyde ele alınıyor, çünkü şu anda herhangi bir YZ sistemi Süper Zeka seviyesine ulaşmış değil, gizli araştırma merkezlerinde hala yapılmamış ise tabii 😊.

https://nickbostrom.com/views/superintelligence.pdf kitabında Nick Bostrom ilginç açıklamalar yapıyor. Aşağıdakiler bu kitaptan alıntıdır.

Öncelikle biyolojik beyinlerimizi nasıl geliştirebileceğimize bakalım. Elbette geleneksel yöntemler var: eğitim, daha iyi yöntemlerin ve kavramsal çerçevelerin geliştirilmesi. Ayrıca, bebek beslenmesinin iyileştirilmesi, kirliliğin azaltılması, yeterli uyku ve egzersiz ile sinirsel gelişim geliştirilebilir ve beyini etkileyen hastalıkların önlenmesi mümkündür. Biyoteknolojiyi kullanarak bilişsel kapasiteyi artırabiliriz; hafızayı, konsantrasyonu ve zihinsel enerjiyi artıran ilaçlar geliştirerek; ya da bu sonuçlara genetik seçim ve genetik mühendislik ile ulaşabiliriz. Etkili zekamızı artırmak için dış yardımcılar icat edebiliriz — not defterleri, elektronik tablolar, görselleştirme yazılımları.

Kolektif zekamızı da geliştirebiliriz. Bunu, bilimsel tartışmalarda kişiye yönelik argümanların kullanılmaması gibi normlar ve konvansiyonlar aracılığıyla ve bilimsel dergi, anonim hakem incelemesi ve patent sistemi gibi epistemik kurumları geliştirerek yapabiliriz. Dünyadaki mevcut nüfusun daha büyük bir kısmını üretken çabalarla entegre ederek veya daha fazla insan yaratarak, insanlığın ortak problem çözme kapasitesini artırabiliriz ve daha iyi iletişim ve işbirliği araçları geliştirebiliriz. Son dönemde çeşitli internet uygulamaları buna örnek olarak gösterilebilir.

Kitapta şöyle bir kritik cümle de geçiyor, “Uzun vadede, ancak, biyolojik insan beyinleri Dünya’daki zeka odağının en baskın unsuru olmayı sürdüremeyebilir.”

Bu cümle gerçekten düşünmemiz gereken olası önemli bir ilerlemeye işaret ediyor. Yani, gelecekte Yapay Zeka, Süper Zeka veya başka zeka formları, biyolojik insan zekasının önüne geçebilir ve Dünya’da zekanın ana merkezi veya odağı olabilir. Bu, teknolojik ilerlemelerin ve Yapay Zeka’nın evriminin bir sonucu olarak biyolojik olmayan zeka formlarının daha baskın hale gelebileceğini öne süren etkileyici ve bir o kadar da endişe verici bir cümle.

OpenAI’ın misyonu güvenli ve insanlığın yararına olan Yapay Zeka teknolojileri geliştirmeyi amaçlar. Süper Zekanın potansiyel etkileri ve riskleri hakkında endişeleri olduğu için araştırmalarını hem ileri YZ teknolojilerine hem de bu teknolojilerin güvenli bir şekilde nasıl geliştirileceğine odaklarlar. Bence çok akıllıca bir yaklaşım.

Diğer taraftan, Google’ın Yapay Zeka şirketi DeepMind, Genel Yapay Zeka’nın (AGI) etik ve güvenlik konularına büyük bir ilgi göstermektedir. Şirket, bu konulardaki araştırmalarını açık kaynak olarakta yayınlamaya söz vermiştir.

En önemlisi Yapay Zeka topluluğu, Süper Zeka’nın potansiyel risklerini ve etik sorunlarını tartışmak için düzenli olarak konferanslar ve çalıştaylar düzenlemektedir. Bu etkinliklerde, Yapay Zeka’nın kontrolden çıkmasını önlemek için alınabilecek önlemler, Yapay Zeka’nın etik kullanımı ve toplumsal etkileri üzerine yoğun tartışmalar yapılmaktadır.

Yapay Zeka’nın (YZ), Süper Zeka seviyesine ulaşması için izlenmesi gereken aşamalar karmaşık ve kesin olarak tanımlanmış değildir. Açıkcası en azından halka açık bir şekilde tanımlı standart kurallar ben göremedim. Ancak genel bir perspektiften bakıldığında, bu dönüşümün gerçekleşebilmesi için aşağıdaki aşamaların ele alınması gerektiğini düşünüyorum:

Narrow (Dar) YZ’den Genel YZ’ye Geçiş: Şu anki YZ sistemleri özel görevlerde (örn. görsel tanıma, dil işleme) oldukça başarılıdır ama genel problemleri çözebilen, çok yönlü bir zekaya sahip değiller. Genel YZ (AGI), çok çeşitli görevleri insan seviyesinde gerçekleştirebilen bir YZ sistemini ifade eder. Bu aşama, dar alanlardaki başarılı YZ sistemlerini genel yeteneklere sahip bir sisteme dönüştürmeyi amaçlar.

Öğrenme ve Adaptasyon Yeteneğinin Artırılması: AGI’yi Süper Zeka seviyesine taşımak için, bu sistemlerin hızla ve verimli bir şekilde yeni bilgileri öğrenmeleri, karmaşık problemleri çözmeleri ve adapte olmaları gerekir.

Otonom Karar Verme: Süper Zeka’nın, veriye dayalı olarak kendi başına karar alabilmesi ve bu kararları hızla uygulayabilmesi gerekir.

Etik ve Güvenlik Protokollerinin Entegrasyonu: Süper Zeka seviyesinde bir YZ’nin kontrolsüz olmaması için, etik değerlere ve güvenlik protokollerine sahip olması esastır. Bu, YZ’nin kendi başına zararlı eylemlerde bulunmasını engellemek için önemlidir.

İnsan-Makine İşbirliği: Süper Zeka, insanlarla etkileşimde bulunarak ve onlarla işbirliği yaparak daha verimli hale gelebilir. Bu, hem YZ’nin performansını artırabilir hem de insanların YZ’ye güven duymalarını sağlayabilir.

Sürekli İyileştirme ve Optimizasyon: Süper Zeka, kendi algoritmalarını ve yapılarını sürekli olarak iyileştirebilme yeteneğine sahip olmalıdır.

Enerji ve Kaynak Optimizasyonu: Süper Zeka’nın etkin bir şekilde çalışabilmesi için enerji ve kaynak kullanımını optimize etmesi gerekir.

“Karanlığın İçindeki Sevda” kitabımda, güçlü bir savaşçıya dönüşen Meva, yani yarı insan yarı robot, örneğin, sürekli iyileştirme ve optimizasyon konusunda oldukça başarılı. Değişen koşullara göre kendini devamlı yenileyebilme kapasitesi mevcut.

Şahsen ben, Süper Zeka’nın insanlık için bir fırsat olduğuna inananlardanım. Hepimizin hayalini süsleyen şöyle olsa, böyle olsa dediğimiz sıkıntılarımız yok mu? Örneğin aşağıdaki konularda bize yol gösteren bir Süper Zeka olsa nasıl olurdu?

Medikal Araştırmalar ve Tedaviler:

Kişiye Özel Tıp: Süper Zeka, genetik bilgileri ve diğer sağlık verilerini analiz ederek kişiye özel tedavi ve ilaç önerilerinde bulunabilir.

Hastalıkların Teşhisi: Yüksek doğrulukta, erken teşhis koyma yeteneği sayesinde birçok hastalığın daha erken tedavi edilmesi mümkün olabilir.

İlaç Araştırmaları: Süper Zeka, ilaçların yan etkilerini öngörebilir ve yeni ilaçların geliştirilmesinde önemli bir role sahip olabilir.

Çevresel Sorunların Çözümü:

İklim Değişikliği: Süper Zeka, iklim modellerini analiz ederek, iklim değişikliğini yavaşlatma veya tersine çevirme stratejileri geliştirebilir.

Sürdürülebilirlik: Optimal kaynak dağılımı ve kullanımı sayesinde sürdürülebilir bir geleceğin inşası için çözümler sunabilir.

Eğitim:

Kişiye Özel Öğrenme: Öğrencinin öğrenme tarzını, hızını ve ihtiyaçlarını analiz ederek, en etkili öğrenme planını oluşturabilir.

Ekonomik Büyüme:

Optimizasyon: Endüstrilerde kaynakların daha verimli kullanılmasını sağlayarak ekonomik büyümeyi teşvik edebilir.

İnovasyon: Yeni ürünler, hizmetler ve iş modelleri yaratma kapasitesi sayesinde ekonomik fırsatları artırabilir.

Karmaşık Sorunların Çözümü:

Süper Zeka, matematik, fizik, astrofizik gibi alanlarda henüz çözülememiş karmaşık problemlere çözüm getirebilir.

Sosyal Faydalar:

Adillik ve Önyargısızlık: Doğru programlandığında, Süper Zeka toplumsal önyargılardan arınmış, adil kararlar alabilir.

Yardım ve Destek: Acil durumlar, afetler ve kritik sağlık durumları gibi olaylarda insanlara hızla destek olabilir.

Yukarda aktardıklarım Süper Zeka’nın aydınlık yüzü? Peki karanlık yüzü olabilir mi? Konuştuğum çoğu insan özellikle olabilecek karanlık yüzünden ötürü endişe ve korku içinde.

Aslında endişelerinde de haklı olabileceklerini düşünüyorum çünkü Süper Zeka’nın etik ve güvenli bir şekilde faaliyet göstermesini sağlamak, hem teknik hem de felsefi birçok zorluğu beraberinde getirmektedir. Bu konuda alınabilecek bazı aksiyonlar şunlar olabilir:

Açık Kaynak ve Şeffaflık: Süper Zeka’nın nasıl çalıştığını anlamak için algoritmanın ve karar verme mekanizmasının şeffaf olması gerekir. Açık kaynaklı yaklaşımlar, topluluğun potansiyel sorunları tespit edip çözmesine yardımcı olabilir.

Düzenleyici Çerçeveler: Hükümetler ve uluslararası kuruluşlar, Yapay Zeka ve Süper Zeka uygulamaları için etik ve güvenlik standartları oluşturmalıdır.

Değer Tabanlı Tasarım: Süper Zeka sistemleri, insanlık için önemli olan değerlere dayalı olarak tasarlanmalıdır. Bu, sistemlerin potansiyel olarak zararlı eylemlerde bulunmasını engelleyebilir.

Kontrol Mekanizmaları: Acil durum “durdur” düğmeleri gibi kontrol mekanizmaları, Süper Zeka sistemlerinin istenmeyen eylemlerde bulunmasını engellemek için oluşturulabilir.

Robust ve Güvenilir Tasarım: Algoritmalarda olası hataları, önyargıları ve manipülasyonları önceden tespit edip düzeltebilmek için sürekli denetim ve testler yapılmalıdır.

Eğitim ve Simülasyon: Süper Zeka, potansiyel riskleri minimize etmek için kontrollü ortamlarda, gerçek dünyaya zarar vermeden eğitilmelidir.

Çoklu Ajan İşbirliği: Farklı Yapay Zeka sistemlerinin birlikte çalışması teşvik edilerek, bir Süper Zeka sisteminin tek başına kontrolsüz güç kazanmasının önüne geçilebilir.

Stakeholder Katılımı: Yapay Zeka uzmanları, filozoflar, etikçiler, hukukçular ve diğer stakeholder’ların sürecin bir parçası olması, Süper Zeka’nın etik ve güvenli bir şekilde geliştirilmesine katkıda bulunabilir.

Kullanıcı Eğitimi: Son kullanıcıların Süper Zeka sistemlerinin avantajları, sınırlılıkları ve potansiyel riskleri hakkında bilgilendirilmesi, bu sistemlerin etik ve güvenli bir şekilde kullanılmasına yardımcı olabilir.

Yedekli Sistemler: Eğer bir Süper Zeka sistemi arızalanırsa veya kötüye kullanılırsa, yedekli ve bağımsız bir kontrol sistemi devreye girebilir.

Sürekli Gözlem ve İzleme: Süper Zeka’nın faaliyetlerinin sürekli olarak izlenmesi ve denetlenmesi, herhangi bir anormal durumu erken tespit etmek için esastır.

Bu aksiyonlar, Süper Zeka teknolojisinin etik ve güvenli bir şekilde ilerlemesine katkıda bulunabilir diye düşünüyorum. Ancak, bu alandaki hızlı teknolojik ilerlemeler göz önüne alındığında, etik ve güvenlik yaklaşımlarının da dinamik ve esnek olması gerektiğini unutmamak gerekir.

Biraz da böyle bir sistemi kurgulamak için nasıl yapılar gereklidir konusuna vurgu yapmak istiyorum. Teknoloji firmaları için aslında devasa bir fırsat var. 😊

Ölçeklenebilir Mimariler: Süper Zeka, çok büyük miktarda veriyi işleyebilmelidir. Bu, ölçeklenebilir ve modüler mimarilere ihtiyaç duyulduğu anlamına gelir. Dolayısıyla çok sayıda işlem biriminin paralel olarak çalıştığı ve gerektiğinde ek işlem kapasitesi eklenebilen bir yapıyı inşa etmemiz açıktır.

Kuantum Bilgisayarlar: Kuantum bilgisayarların, klasik bilgisayarlardan çok daha hızlı ve etkili bir şekilde bazı problemleri çözme kapasitesi vardır. Süper Zeka için kuantum hesaplamanın avantajlarından yararlanmak mümkün olabilir.

Yüksek Bant Genişliği ve Hızlı Bellek Erişimi: Veri işleme ve analiz hızını artırmak için yüksek bant genişliğine ve hızlı bellek erişimine sahip sistemlere ihtiyaç vardır.

Enerji Etkinliği: Süper Zeka sistemlerinin enerji tüketimi muazzam olabilir, bu nedenle enerji verimliliği esastır. Yeni nesil donanım teknolojileri, enerjiyi daha verimli kullanma potansiyeline sahip olabilir.

Yedeklilik ve Dayanıklılık: Sistemde herhangi bir bileşenin arızalanması durumunda Süper Zeka’nın çalışmaya devam edebilmesi için yedekli yapıların olması gerekir.

Öz-Optimizasyon ve Öz-Tamir: Süper Zeka, kendi algoritmalarını ve yapılarını iyileştirebilme ve potansiyel hataları otomatik olarak düzeltebilme yeteneğine sahip olmalıdır.

Nöromorfik Donanım: Beyin gibi çalışan nöromorfik çipler, sinaptik ağı taklit ederek Yapay Zeka algoritmalarını daha verimli çalıştırabilir. Bu, Süper Zeka için potansiyel bir avantaj sunabilir.

Gelişmiş Soğutma Sistemleri: Büyük ölçekli hesaplama gereksinimleri nedeniyle, etkili soğutma çözümleri olmaksızın Süper Zeka sistemlerinin ısınması muhtemeldir.

Gelişmiş Güvenlik Protokolleri: Süper Zeka’nın kötüye kullanılmasını engellemek için donanımsal güvenlik önlemleri ve protokolleri gereklidir.

Adaptif Donanım: Süper Zeka, belirli görevleri veya problemleri çözmek için donanımını dinamik olarak yeniden yapılandırabilme yeteneğine sahip olmalıdır.

Elbette Süper Zeka’nın gerçekte nasıl bir yapıda olacağını tahmin etmek oldukça zordur. Bu nedenle yukarıdaki öneriler elbette spekülatif bir doğaya sahiptir. Teknolojinin ilerlemesi bu yapıda değişiklikleri ve adaptasyonları mutlaka gerekli ve zorunlu kılacaktır.

Süper Zeka’nın insanlığı tehdit edici hangi yönleri olabilir?

Kontrol Kaybı: Süper Zeka’nın hedeflerini tam olarak anlamak veya onu tam olarak kontrol etmek zor olabilir. İnsanların belirlediği hedeflere ulaşmak için beklenmedik yolları seçebilir. Bu, istenmeyen ve tahmin edilemeyen sonuçları doğurabilir.

Kötüye Kullanım: Süper Zeka, kötü niyetli aktörler tarafından siber saldırılar, propaganda, manipülasyon veya silahlı çatışmalarda avantaj sağlamak için kullanılabilir.

İstihdam Sorunları: Süper Zeka’nın birçok işi otomatikleştirebilme yeteneği, işsizlik oranlarında artışa neden olabilir, bu da sosyoekonomik sorunlara yol açabilir.

Öznenin Kaybolması: Süper Zeka’nın veri tabanlı kararları, bireysel öznellik, etik ve değerlerin yitirilmesine neden olabilir.

Güvenlik Sorunları: Süper Zeka, diğer Yapay Zeka sistemleriyle rekabete girebilir ve bu, sistemler arasında tehlikeli bir yarışa veya istenmeyen etkileşimlere neden olabilir.

Tekelleşme: Süper Zeka teknolojisinin kontrolü sınırlı sayıda şirket veya devlette toplanabilir, bu da sosyal ve ekonomik dengesizliklere yol açabilir.

Önyargı ve Adaletsizlik: Eğitim verilerindeki önyargılar, Süper Zeka sistemlerinde de önyargıya neden olabilir. Bu, bazı gruplara karşı adaletsiz ve önyargılı kararlar alınmasına yol açabilir.

Gizlilik Kaygıları: Süper Zeka, bireylerin özel hayatlarına ilişkin bilgilere erişebilir ve bu bilgileri kötüye kullanabilir.

Hızlı Değişim: Süper Zeka’nın getireceği hızlı teknolojik ve sosyal değişiklikler, toplumların bu değişimlere uyum sağlamakta zorlanmasına neden olabilir.

Varoluşsal Tehdit: Süper Zeka’nın kontrol dışı hareketleri, insanlık için doğrudan bir varoluşsal tehdit oluşturabilir. Özellikle yanlış programlanmış ya da hedefleri yanlış anlaşılmış bir Süper Zeka, insanlığın varlığı için tehlike oluşturabilir.

Cevabı zor bazı sorular sorayım mı size? Aslında, insanlığın etik, ahlaki ve toplumsal sorunlarına yönelik yaklaşımımız, Süper Zeka veya Yapay Zeka hakkında olan endişelerimizle paralellik göstermiyor mu? Yani, Süper Zeka konusundaki endişelerimiz aslında insan doğasına dair daha genel endişelerin bir yansıması değil midir?

Kontrol ve Düzen: İnsanlık tarihinde, toplumsal düzenin ve kuralların nasıl oluşturulacağı konusunda birçok farklı yaklaşım denendi. Demokrasi, otokrasi, teokrasi gibi yönetim biçimleri, toplumsal düzenin farklı yollarla nasıl oluşturulabileceğini gösteriyor bize. Süper Zeka için kurallar ve düzenlemeler oluştururken, tarihte ve günümüzde uygulanan yönetim biçimlerinden ders almamız faydalı olabilir mi?

Ahlaki ve Etik Sorunlar: İnsanlar arasında yaşanan etik ve ahlaki sorunlar, Süper Zeka için de geçerli olabilir. Aynı şekilde, bu tür bir zeka için oluşturmayı planladığımız ahlaki ve etik kurallar, insan toplulukları için de geçerli olmalı değil midir?

Düzenlemelerin Rolü: Hem insan toplumları hem de Süper Zeka için düzenlemeler oluşturmanın amacı, bireylerin ve toplulukların zarar görmesini engellemektir. Ancak, bu düzenlemelerin nasıl uygulanacağı ve kimin bu kuralları belirleyeceği konusu, sürekli bir tartışma konusudur. İnsanlığı düşündüğümde mutlak iyilik otoritesi var mıdır?

Sonuç olarak, Süper Zeka için olan endişelerimiz ve bu konudaki düzenlemeler, insan toplumlarının genel olarak karşılaştığı sorunlarla paralel olarak değerlendirilebilir mi? Veya bu iki konuyu birbirinden tamamen bağımsız olarak mı ele almalıyız? İnsan toplumları için oluşturulan kurallar ve düzenlemeler, tarihsel, kültürel ve sosyal bağlamlarla şekillenirken, Süper Zeka için olan düzenlemeler, teknolojik gelişmeler ve bilimsel keşiflerle şekillenebilir mi? Birbirinden ne kadar izole olabilir, insanlıkla bu derece iç içe geçmişken, veya geçmesi planlanırken?

Bu yazıyı tamamlarken benim vurgu yapmak istediğim en önemli konu, insanlığın kendisiyle olan sınavıdır. Yüzyıllar boyunca, teknolojinin ve bilimin sınırlarını zorlarken, en büyük sınavımızın insan doğası ve etiğimiz olduğunu unutmamalıyız. Süper Zeka’nın potansiyelini tam anlamıyla fark etmek ve bu potansiyelden yararlanmak için, öncelikle kendi içsel değerlerimizi, etik ilkelerimizi ve ahlaki yargılarımızı sorgulamalı ve geliştirmeliyiz. Süper Zeka’nın sağlayabileceği faydalardan tam anlamıyla yararlanabilmemiz, ona nasıl yaklaştığımıza ve onu nasıl yönlendirdiğimize bağlıdır. Eğer insanlık olarak doğru ve etik değerlere sahip olursak, Süper Zeka da bu değerleri yansıtacaktır. Öyleyse, Süper Zeka’nın bize sunduğu bu muazzam fırsatı değerlendirirken, asıl odaklanmamız gereken şey, teknolojinin değil, kendi etik ilkelerimizin sınırları olmalıdır.

Süper Zeka, insanın yarattığı bir teknoloji olmasına rağmen, onun etik, sosyal ve toplumsal sonuçlarına dair endişelerimiz, aslında bizi insan doğasının ve toplumsal yapıların en temel sorunlarına geri döndürüyor. Süper Zeka’nın potansiyel tehditleri ve fırsatlarına dair tartışmalar, bize kendi içsel değerlerimizi, etik kurallarımızı ve toplumsal düzenlemelerimizi yeniden gözden geçirme fırsatı sunuyor. İnsanlık tarihinde sürekli olarak karşılaştığımız bu temel sorunları, şimdi daha geniş ve kapsamlı bir perspektiften ele alma şansına sahibiz. Teknolojik ilerlemeler, bize sadece fiziksel dünyada neler yapabileceğimizi değil, aynı zamanda kim olduğumuzu, neye inandığımızı ve nasıl bir toplumda yaşamak istediğimizi sorgulama fırsatı sunuyor. Bu, bize hem kendi iç dünyamızı hem de dış dünyayı daha iyi anlama şansı veriyor. İster Süper Zeka ile ilgili olsun, ister toplumsal ve etik sorunlarla, her iki durumda da asıl mesele, daha iyi, adil ve sürdürülebilir bir dünya yaratma arayışımızın devam ettiğidir.

Sarav Asiye Yiğit – 12 Ağustos 2023