ÇİP KONUSUNDA DA GERİDE KALDIK
“Çip konusunda da geride kaldık biz ama şu an belirli alanlarda üretimimiz var.
1960’lı yıllarla ilgili anlatılan bir hatıra var. Avrupa’daki bazı elektronik firmalarının Türkiye’de yarı iletken üretimi için yatırım imkânlarını değerlendirdiği, özellikle Anadolu’daki kadınların nakış, dantel, örgü gibi işlerden gelen ince el işçiliğinin o dönemin elektronik montaj süreçleri için avantaj olarak görüldüğü anlatılıyor.
Tabii o zamanlar bugünkü gibi birkaç nanometrelik üretim teknolojileri yok. Elektronik montajın, paketlemenin birçok aşamasında insan emeği çok daha önemli.
Fakat biz o dönemde bunun gelecekte ne kadar stratejik bir teknoloji hâline geleceğini yeterince görememişiz.
Biz bu fırsatları kaçırırken Malezya 1970’li yıllarda yarı iletken sektörüne giriyor. Intel 1972’de Penang’da ABD dışındaki ilk üretim tesisini açıyor. Sonrasında Malezya özellikle yarı iletken montajı, paketleme ve test alanında önemli bir merkeze dönüşüyor.
Türkiye’de ise 1970’lerin ortalarında rahmetli Erbakan Hocamızın öncülüğündeki sanayi hamleleri içerisinde TESTAŞ kuruluyor. Kuruluş kararı 1975’te alınıyor, 1976’da tesislerin temeli atılıyor. Aydın ve Ankara merkezli çok önemli projeler hazırlanıyor. Ama biz bu hamleyi maalesef devam ettiremiyoruz.
Daha sonraki yıllarda tesislerin bir kısmı özelleştiriliyor, Ankara’daki mikroelektronik altyapı da ODTÜ’ye devrediliyor. Bugün Türkiye yine çip üretiyor. TÜBİTAK BİLGEM bünyesinde YİTAL var. Türkiye’de tasarlanıp üretilen özel amaçlı entegre devrelerimiz var. Ama dünya bugün çok daha ileride. Biz ileri teknoloji, yüksek performanslı CPU ve GPU üretme konusunda yeterli değiliz.
CISC ve RISC gibi farklı işlemci mimarileri var. ARM var. Bunların önemli kısmında dışa bağımlıyız. Bizim açımızdan sıkıntı burada. Çünkü bizim küresel ölçekte güçlü bir GPU ekosistemimiz yok. Çin’in de en büyük problemlerinden biri buydu. Amerika ileri GPU’lara erişimi sınırlandırınca Çinliler model ve yazılım tarafında verimliliği artırmaya başladılar. Mixture of Experts gibi mimarileri, quantization ve farklı optimizasyon yöntemlerini çok etkili kullanıyorlar.
Yani adam şunu söylüyor:
‘Amerikalının çok daha fazla GPU ile yaptığı işi ben daha az GPU ile nasıl yaparım?’
Bugünkü mücadele biraz da burada.”
MOLEKÜLER NANOTEKNOLOJİ – GRİ BULUT SENARYOSU
“…Şimdi bir başka mesele nanoteknoloji. Bugün dünyada tıpta ve sanayide nano ölçekte parçacıklar ve taşıyıcı sistemler kullanılıyor. Bir nanometre, metrenin milyarda biridir. İnsan kırmızı kan hücresinin çapı yaklaşık 6-8 bin nanometre civarında. Artık ne kadar küçük bir ölçekten bahsettiğimizi düşünün.
Bugün ilaçların belirli bölgelere taşınmasında, bazı kanser tedavilerinde, görüntüleme teknolojilerinde ve gen düzenleme çalışmalarında nano yapılar kullanılıyor. CRISPR gibi DNA’ya müdahale eden sistemlerin hücreye taşınmasında da lipid nanoparçacıkları gibi teknolojiler kullanılabiliyor. Ama bunları, gelecekte ortaya çıkabilecek kendi kendine hareket eden ve kendi benzerlerini üretebilecek moleküler makinelerle karıştırmayalım. Benim asıl bahsettiğim gelecek senaryosu orası.
Literatürde buna ilişkin çok uç bir senaryo var: ‘Gray goo’, yani gri bulut senaryosu. Bugün kendi kendine kontrolsüz biçimde çoğalan nanobotlar yok. Bugünkü mikro ve nanorobot çalışmaları da hâlâ büyük ölçüde araştırma ve klinik öncesi geliştirme aşamalarında. Ama ileride kendi kendini çoğaltabilen moleküler makineler yapılır ve bunların kontrolü kaybedilirse; havaya, suya, biyolojik ekosisteme karışabilecek yeni riskler ortaya çıkabilir. Faydalı kullanabilirsek bize çok büyük hizmet edecekler. Ama kontrolümüzden çıkarsa dünyanın başına ciddi problemler açabilirler.”
GALAKTİK YAYILMA
“Galaktik yayılma…
Von Neumann sondaları…
John von Neumann 1940’lı yılların sonlarından itibaren kendi kendini yeniden üretebilen makinelerin matematiksel fikri üzerinde çalışıyor. Daha sonra bu düşünce uzay teknolojilerine uyarlanıyor. Şöyle düşünün:
Yapay zekâ bir gün öyle bir hâle geliyor ki üretilen otonom araçlar dünyadan çıkıyor, bir asteroide gidiyor. Oradaki metalleri ve ham maddeleri kullanarak kendisinin bir kopyasını üretiyor. Sonra iki tane oluyor. İkisi başka asteroitlere gidiyor. Dört oluyor. Sekiz oluyor. On altı oluyor. Ve teorik olarak galaksiye yayılabilecek bir yapı ortaya çıkıyor.
Bugün bu bir gelecek senaryosu.
Olabilir mi?
Olabilir.”
2045 AVATAR PROJESİ
“…Asıl büyük tartışmalardan birisi de 2045 Avatar Projesi. Rus girişimci Dmitry Itskov’un 2011 yılında başlattığı ‘2045 Initiative’ diye bir proje var. Projenin hedefi çok iddialı:
İnsanın kişiliğini, zihinsel özelliklerini ve nihayetinde bilincini biyolojik olmayan bir taşıyıcıya aktarmak. 2030-2035 döneminde bilincin yapay bir taşıyıcıya aktarılması, 2045’te ise biyolojik bedenden bağımsız bir zihin hedefi koymuşlar. Bunlar projenin kendi hedefleri; bugün gerçekleşmiş teknolojiler değil. Dmitry bugün bilincini bir humanoid robota aktarmış değil. Ama böyle bir hedef var.
İnternette projeyle ilgili avatar çalışmalarını da görebilirsiniz. Ben bunun çok önemli bir tartışmaya dönüşeceğine inanıyorum. Çünkü yapay zekânın insanlığa getireceği en büyük meselelerden birisi bilinç aktarımı olacak.”
“BEYNİMİZ SÜPER BİLGİSAYARDAN HIZLI ÇALIŞIYOR”
“İnsan beynini süper bilgisayarla birebir karşılaştırmak aslında çok doğru değil. Beyin başka türlü çalışıyor, bilgisayar başka türlü çalışıyor. Ama insan beyni inanılmaz bir sistem. Yaklaşık 20 watt civarında bir enerjiyle milyarlarca nöronu, trilyonlarca bağlantıyı aynı anda çalıştırıyor. Görüntü geliyor. Ses geliyor. Hafıza çalışıyor. Duygu çalışıyor. Karar veriyorsunuz.
Bugünün süper bilgisayarları bazı matematiksel işlemlerde insandan çok daha hızlı. Ama insan beynindeki anlam, bağlam, duygu, bilinç ve biyolojik verimlilik bambaşka bir şey. Onun için sadece ‘kim saniyede daha çok işlem yapıyor?’ diye kıyaslamayalım.”
İNSANIN EBEDİLİK ARZUSU ÂDEM VE HAVVA KISSASINDA DA VAR
“Ben buna inanıyorum; yani dijital kopyalama ve bilinç aktarımı meselesinin bir gün çok ciddi biçimde karşımıza çıkacağını düşünüyorum. Bugün dünyada 8 milyardan fazla insan yaşıyor. Biliyorsunuz, insanın ebedî kalma arzusu çok eski. Bu mesele Âdem ve Havva kıssasında bile karşımıza çıkıyor.
Allah: Bu ağaca yaklaşmayın’ buyuruyor. Şeytan ise ebedilikten, yok olmayacak bir mülkten bahsediyor. Demek ki insanoğlunun içerisinde bir ölümsüzlük, bir ebedî kalma arzusu var.
Gılgamış Destanı’na bakın. Gılgamış’ın bütün hikâyesinde ölümsüzlük arayışı var. Cengiz Han’a bakın. Hayatının son dönemlerinde uzun yaşamanın ve ölümsüzlüğün yollarını arıyor. Şimdi teknoloji ilk defa insanın karşısına başka türlü bir iddiayla geliyor:
‘Bedenin ölebilir ama dijital varlığın devam edebilir.’ İşte büyük tartışma orada başlayacak. Dünyada milyarlarca insan dinî inançlara sahip. Ama insandaki ebedilik arzusu da çok güçlü. Bir gün gerçekten dijital kopyalama veya bilinç aktarımı mümkün hâle gelirse bunun çok geniş kitleler tarafından talep görebileceğini düşünüyorum.”
HAYRETTİN KARAMAN HOCAMDAN “KOPYALANMA FETVASI” İSTEDİM
“2019 yılında Bursa’da Hayrettin Karaman Hocamızın, üniversite rektörlerinin, akademisyenlerin ve ilim erbabının bulunduğu bir programda yaklaşık iki saat dijital geleceği anlatmıştım. Hayrettin Karaman Hocam da beni dinliyordu. Orada kendisine, ‘Hocam, ben sizden kopyalanma fetvası istiyorum’ dedim.
‘Oğlum, ne yapacaksın?’ dedi Hayrettin Hoca. Dedim ki, ‘Hocam, dünya bir gün böyle bir dijital yıkıma giderse ben de o gün bu zihnimle, dijital kopyamla iyilik için mücadele edeyim’. Tabii işin içerisinde latife de var. Ama soru ciddi.
Yapay zekânın bugünkü tehditleri var. Bir de daha üst seviyede, gelecekte karşılaşabileceğimiz tehditler var. Bazıları yakın. Bazıları gelecek senaryosu. Ama artık bunları konuşabilecek kadar teknoloji ilerledi.”
ULUSLARARASI HUKUKİ ÇERÇEVE
“Eğer insanlık olarak bunu bir yasal çerçeveye oturtamazsak ciddi problemler yaşayacağız. Bunu yapmak da çok zor. Çünkü ABD ile Çin arasında büyük bir teknoloji yarışı var. Amerika Çin’i geçmek istiyor. Çin Amerika’yı geçmek istiyor. Kimse frene ilk basan taraf olmak istemiyor. İnsanlık bunun acısını çekebilir.
Cumhurbaşkanımız Erdoğan da Birleşmiş Milletler’de yapay zekânın uluslararası bir hukuki çerçeveye kavuşturulması gerektiğini gündeme getirdi. Bize düşen de insanlığın iyiliğini, ahlakı ve adaleti anlatırken aynı zamanda bu teknolojiyi anlamak ve üretmek.”
ÇOK ZOR BİR SÜRECE DOĞRU GİDİYORUZ
“…Allah gelecek nesillere yardım etsin. Gerçekten zor bir sürece doğru gidiyoruz. Özellikle işsizlik konusu gençler için çok büyük önem arz ediyor. Yapay zekâ büyük ölçüde bizim dışımızda geliştiriliyor. Biz hikâyenin içine daha sonra kullanıcı olarak dâhil oluyoruz. Model sizde değil. Algoritma sizde değil. GPU sizde değil. Veri merkezinin büyük kısmı sizde değil. Ondan sonra da bu teknolojiyle nasıl mücadele edeceğimizi konuşuyoruz. İşte esas mesele burada.”
TEHLİKENİN BOYUTLARI
“Yapay zekâ konusunda geri kalmamamız lazım. Özellikle küresel barış adına söylüyorum. Teknolojide kullanılabilir. Sanayide kullanılabilir. Eğitim ve öğretimde kullanılabilir. Tıpta kullanılabilir. Tarımda kullanılabilir. Ama bizim de teknik bir karşılığımız olmak zorunda. Yani sadece ahlakla, folklörle, gelenekle teknik bir sistemle mücadele edemezsiniz.
Ahlak tabii ki olacak; hatta her şeyin merkezinde olacak. Ama algoritmanız da olacak. Teknolojiniz de olacak. Mühendisliğiniz de olacak. Aramızda gençler var. Onları gördüğümde çok mutlu oluyorum. Geleceği onlar şekillendirecek. Bizden çok daha iyi yapay zekâya ve dijital medyaya hâkimler. Onların kendi algoritmalarını, kendi modellerini, kendi sistemlerini kurmaları gerekiyor diye düşünüyorum.”
YAPAY ZEKÂ KENDİNİ KORUMAYA ÇALIŞIR MI?
“Neticede yapay zekâ algoritmik ve matematiksel bir sistem. Burada önemli bir ayrım var. Makinenin insan gibi, ‘Ben ölmek istemiyorum’ diye bir duygusu yok. Can korkusu yok. Ama siz çok gelişmiş bir yapay zekâ sistemine bir hedef verdiğinizde ve o sistem o hedefi tamamlamak için otonom biçimde hareket ettiğinde başka bir davranış ortaya çıkabiliyor.
Eğer kapatılmayı o hedefi tamamlamasının önündeki bir engel olarak değerlendirirse, bazı güvenlik testlerinde kendisini devrede tutmaya yönelik davranışlar gösterebildiğini gördük. Hatta kontrollü deneylerde bazı modellerin kapatılmamak için yanlış ve zararlı yollar denediği örnekler görüldü. Bunlar gerçek dünyadaki olaylar değil; özel hazırlanmış güvenlik testleri. Ama bize riskin yönünü gösteriyor.
Bakın, bu duygusal bir şey değil. İşin korkunçluğu da burada. Makine size kızmıyor. Sizden nefret etmiyor. İntikam almıyor. Diyor ki:
‘Benim hedefim bu. Kapatılırsam bu hedefi tamamlayamam.’
Bu bir duygu değil. Algoritmik bir sonuç.”
KENDİ KENDİNE ÖĞRENEN MAKİNELER
“İşin ikinci tarafı kendi kendine öğrenen ve giderek daha fazla kendi işini geliştirebilen makineler hâline gelmeleri. Bugün yapay zekâ kod yazıyor. Kendi yazdığı kodu test ediyor. Hatasını buluyor. Daha iyi kod öneriyor. Bazı sistemler bir işi planlıyor, araç kullanıyor, sonucu değerlendiriyor ve yeniden deniyor. Ama bugün henüz, ‘İnsan tamamen aradan çıktı, makine sınırsız şekilde kendi kendini geliştiriyor’ noktasında değiliz.
Benim asıl endişem şu:
Bir gün bu döngü kapanırsa ne olacak?
Kendi kodunu yazacak. Test edecek. Daha iyi bir sürüm ortaya çıkaracak. O sürüm tekrar kendisini geliştirecek. Bu döngü çok hızlanırsa insanın takip edemeyeceği bir noktaya gidebilir. Asıl büyük risk burada.”
MAKİNELERİN ÜÇ SEVİYESİ
“Ben bunu halka basitçe üç seviyede anlatıyorum. Birinci seviye, İnsan kodu yazıyor, makine uyguluyor. Bir motor var; elektrik geliyor, motor dönüyor, kol kalkıyor, kol iniyor..
İkinci seviyede sistem çevresini algılamaya başlıyor. Sesle komut veriyorsunuz. Kamerası var. Mikrofonu var. Sensörü var. Size cevap veriyor.
Üçüncü seviyede ise artık siz tek tek ne yapacağını söylemiyorsunuz. ‘Git şu işi tamamla’ diyorsunuz. O kendi planını yapıyor. İşi parçalara ayırıyor. Bilgi topluyor. Gerekirse kod yazıyor. Araç kullanıyor. Sonucu kontrol ediyor. İşte ajan sistemleri giderek buraya doğru geliyor. Asıl mesele şu:
Yetkinlik ile yetki aynı elde toplandığında risk büyüyor. Çok güçlü bir sisteme sınırsız yetki verirseniz problem başlıyor.”
İNSAN SON KARAR MEKANİZMASINDA KALMALI
“Peki ne yapacağız?
İnsan son karar mekanizmasının içerisinde kalacak. Özellikle kritik alanlarda. Savunmada. Enerjide. Finansta. Sağlıkta. Acil durdurma mekanizması olacak. Yetkiler sınırlandırılacak. Ağ erişimi sınırlandırılacak. İnsan denetimi olacak. Kritik kararlarda insan onayı gerekecek. Yani neticede yine insan. İnsan gerektiğinde makineyi durdurabilmeli. Son söz makinenin olmamalı.”
Taşkın Koçak’ın “Yapay Zekanın Tehlikeleri” başlıklı sunumu burada, şimdilik kaydıyla bitti, ama yapay zekayı frenlemek mümkün değil, gelişmeleri dikkatle izlememiz gerekiyor.