Avrasya Bir Vakfı’nın Divan Sohbetleri, konularında uzman kişilerin verdikleri konferanslarla akademik platforma dönüştü.
Geçtiğimiz haftalarda, bu Divan Sohbetleri’nden birinin konusu olan yapay zekaya ilişkin gelişmeleri Taşkın Koçak’ın anlatımından aktarmıştık. Taşkın Koçak, o günkü konferansında, yapay zekanın neden hayatımızın ayrılmaz bir parçası olduğunu çok yalın bir dille, hepimizin kolayca anlayacağı şekilde anlatmıştı. Yapay zeka haberimiz büyük ilgi gördü; çok sorular aldık.
Taşkın Koçak’ın konferansı Avrasya Bir Vakfı’nın internet sitesinde de en çok ilgi gören konulardan biri oldu. Yapay zekanın hayatımızı bundan böyle ne yönde, nasıl etkileyebileceğine ilişkin sorular çoğalınca, Taşkın Koçak, Avrasya Bir Vakfı’nın Divan Sohbetleri’nde yapay zekanın tehlikeleri konusunda yeni bir konferans vermek durumunda kaldı.
Yapay zeka, tahminlerimizin çok üstünde hızla gelişiyor ve yaşantımızı daha derinden etkilemeye devam ediyor. Elan Musk’ın yapay zekanın bir MİLYAR insanı öldürebileceğine ilişkin konuşması yalnız ülkemizde değil, bütün dünyada korku ve heyecan yarattı.
M. KEMAL SALLI
YAPAY ZEKANIN TEHLİKELERİ
Taşkın Koçak, Avrasya Bir Vakfı Genel Müdürü Özcan Ünlü’nün açılış konuşması sonrasında, “Yapay Zekanın Tehlikeleri” konusunda hem çok önemli bilgiler verdi, hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak vereceğiz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz:
“Burada daha önce de bir yapay zeka konferansımız olmuştu. Orada yapay zekanın ne olduğundan, nasıl çalıştığından, neler yaptığından ve sağladığı imkanlardan söz etmiştik. Bugün sadece ve sadece tehditlerini anlatacağım. Şu ana kadar 130'a yakın üniversitede yapay zeka konusunda konferans verdim, gençlere ve akademisyenlere; vermeye de devam ediyorum. Devlette verdiğim bazı özel brifingler, seminerler, sempozyumlarla birlikte bu sayı 200'ü geçmiştir.
Yapay zekaya tehditleri bakımından bakmak çok doğru mu? Ben bir yapay zeka anlatıcısı olarak, bu soruya bazen çok doğru yanıt bulamıyorum, ama tabii ki her gelen aracın, her yeni çıkan bir ürünün faydalı tarafları da, zararlı tarafları da vardır. Fakat bu konuda biraz kantarın topuğu kaçtı gibi geliyor. Ben de, bu işin daha ileri gitmesini isteyen birisi olarak, artık kaygılanmaya başladım. Çünkü benim gördüklerim, geleceğin çok karanlık olacağını göstermeye başladı. Allah'tan ki, 2040'larda belki yaşamayacağım bu dünyada.. Çünkü 2040'ları, 2050'leri bu hızla düşünmek bile istemiyorum. Gelecek nesillere şimdiden Allah yardım etsin diye dua ediyorum.
İnsanlık 1 milyon yıl önce ateşi kontrol altına alıp kendine faydalı bir ürün haline getirdi. Ardından, Sümerlerin yaşamış olduğu bölgelerde, Milat’tan 3200 yıl öncesinde çivi yazısıyla yazılmış ilk kil tabletlerle karşılaşmaya başladık. Bunları, bugünkü yapay zekanın altında kullandığımız veri sisteminin başlangıcı sayabiliriz. Yani, bilginin depolanıp aktarılması, aslında veriye ulaştığımız sürecin başlangıcı.
Milat’tan 100-150 yıl sonrasında kağıt, sonrasında da matbaa icat edildi. Bilgi artık kitaplarla rafine halde dünyaya ulaşmaya başladı.
Çok zaman sonra, Aydınlanma Çağı'na geldiğimizde, modern kütüphanelerin, üniversitelerin ortaya çıkması ve disiplinlerin ayrılmasıyla birlikte insanlık, geçmiş bilgi birikimini tamamen uzmanlaşarak alanlara dökmeye başladı ve güçlendi.
Bu bizi Sanayi Devrimi ile tanıştırdı. Sanayi Devrimi'nden sonrasında, 1940'lı, 50'li yıllarda elektroniğin hayatımıza girmesiyle bilgisayarı icat etmemiz, sonrasında internetin icadı ve nihayetinde insanlığın son icadı yapay zeka.. Bundan sonra, daha üst seviyede bir icadımız, başka bir mucizemiz olmayacak.”
ZEKAYA HAYRANIZ
“1 milyon yıl önce başlayan o süreç, aslında bizi yapay zekaya getirdi. Peki, bu yapay zekaya gelme sebebimiz aslında neydi? Esasına bakarsanız, bizim içimizde zekaya ve zekiye karşı inanılmaz bir tutkumuz var, insan olarak. Din, milliyet, ırk hiç fark etmeden dünyanın neresine giderseniz gidin, insanlar, zekası yüksek olan bir insana, akıllı bir insana inanılmaz teveccühte bulunurlar. Onu sever, ona ilgi duyar, onu sempatiyle karşılar.
Bu nasıl olur? Okula başlayan bir çocuk zekiyse, hemen kendini belli eder. Önce öğretmeni fark eder, ardından arkadaşları, sonra okul yönetimi, sonrasında mahallesi, ilçesi, ili derken herkes o çocuğu parmakla gösterir. İşte bizdeki bu tutku, zeki olma ve zekaya karşı olan bu sempatimiz zekanın, yapay zekanın aslında kapılarını açan bir dürtüdür içimizde.
Biz önce Sanayi Devrimi ile kas gücünü makinelere verdik. Yani, akıllı makineler oluşturduk. Öncesinde bizim neydi gücümüz, enerji neydi? Birşey üretmek için kas gücünü ve hayvan kas gücünü kullanıyorduk. Bu gücü makinelere devrettikten sonra iş verimli ve üretken bir sisteme dönüştü ve sanayi gelişti.
İnsan durmuyor. Durmadığı gibi zekayı da makinelere devretmeye başladı. Bu süreç bizi buraya getirdi, ama öyle bir getirdi ki, şimdi önünü alamıyoruz.”
“(…) Şimdi biz, şu an, yapay zekanın Midas hikayesiyle aynı seviyeye geldik. Yani, önünü alamıyoruz artık şu an; yapay zekayı hizalayamıyoruz. Genel yapay zekaya doğru giden bir süreçteyiz. Hizalama sorunu yaşıyoruz, tutamıyoruz. Kuantum spinleri gibi yakalama şansımız kalmadı şu aşamada. Büyük bir tehlike var.”
“YAPAY ZEKA 1956’LARDA BAŞLAYAN BİR SÜREÇTİR”
“(…) Aslında yapay zeka 1956'larda başlayan bir süreçtir. John McCarthy ve arkadaşları Dartmouth'ta yapay zekayı dünyaya duyuruyorlar, ama bizde yapay zekanın o dar seviyesinin ilk kullanımı 2010-2014'lerde başlıyor. O zaman, bu konulara inanılmaz katkıları olan İngiliz kuramsal fizikçi Stephen Hawking, 2014’te şöyle diyor: 'Tam yapay zekanın geliştirilmesi insan türünün sonunu getirebilir.' Adam vefat etti gitti, biz o sürece doğru geliyoruz.
Yine 2014'te Elon Musk, 'Yapay zeka ile şeytanı çağırıyoruz' diyor. Musk şu an Grok'un başında ve ne istiyor: 'Geliştirelim, devam edelim.'
Sam Altman bir Yahudidir; Open AI kurucusu, ortağı. Sam Altman'ın da 2015'te, 'İnsan zekasını aşan bir yapay zeka geliştirmek, insanlığın hayatta kalmasına yönelik en büyük tehdit olabilir' demişti.”
BİLGİSAYARIN TEMELİ İKİLİ SAYI SİSTEMİ
“Bilgisayar biliminin, yapay zekanın, yazılımın altında olan binary ile (ikili sayı sistemi) dünyayı buluşturan İngiliz George Boole’dur.. Yapay zekanın babası ise, George Boole'un torunu Geofrey Hinton. O da diyor ki: 'Kötü niyetli kişilerin yapay zekayı kötü amaçlarla kullanmasını nasıl önleyebileceğimizi görmek çok zor’ (2023).”
(Burada, bilgisayar teknolojisinin temeli olan ikili sayı sistemine esneklik kazandıran Bulanık Mantık /Fuzzy Logic teorisinin mucidi Azerbaycanlı Lütfi Zade’yi (Lotfi A. Zadeh). Ve bilgisayarda kullanılan ikili sayı sisteminin mucidi Alman matematikçi ve filozof Gottfried Wilhelm Leibniz’i saygıyla anmak gerekir.)
“…Yapay zekacıların ortak uyarıcıları: Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei... Baştaki ikili derin yapay zekanın, derin öğrenmenin babaları, uzmanları. Demis Hassabis, Google'daki DeepMind'ın kurucusu. Sam Altman, OpenAI şirketinin başındaki CEO. Dario Amodei de, Claude'un, yani Anthropic'in başında olan CEO. Bunlar, 'Yapay zekanın insanlığın yok olmasına yol açma riskini azaltmak; salgınları ve nükleer savaşı önlemek kadar önemli küresel öncelik olmalıdır' diyorlar.”
“YAPAY ZEKA İNSANLIĞIN SONUNU GETİREBİLİR”
“8 Eylül'de, 27 yaşındaki İngiliz Jacob Coxon, çok önemli bir açıklamada bulundu. (Dünyada kök bilim İngilizlerin elindedir. İnsanlığın her birinin üzerine tuğla koyarak getirdiği bir bilimi İngilizler zirveye çıkartırlar. İşte şu an onların torunları devam ediyorlar.) Bu çocuk hem OpenAI'da ChatGPT-4o'ın (biraz farklı çalışan bir yapay zeka modeli) başında olan kişi. Anthropic'te de, aynı zamanda kendisi çalışıyordu.
Coxon 8 Eylül’de istifa etti ve X'teki bir paylaşımıyla dünyada bir sansasyona neden oldu: 'Yapay zekayı geliştiren insanlar, bu teknolojinin içinde bulunduğumuz 10 yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor.' Yani, işin mutfağındaki bu kişi, ‘Biz inanıyoruz ki, 10 yıla kadar bu yapay zeka bu hızla giderse, insanlığın sonunu getirecek’ diyor.
Bu yıl Temmuz ayında yaşanan bir hadise beni korkuttu. OpenAI'ın laboratuvarlarında normalde ajanların dışarı çıkmasını engelleyen sistemler vardır. Ajanlar bir test aşamasında kaçtılar laboratuvardan. AI agent dediğimiz ajanlar kaçtılar. Kaçtılar, ama nereye gittiler? Bizim LLM dediğimiz, yani yapay zekanın kök modellerinin bulunduğu kaynağa; Hugging Face dediğimiz platforma sızdılar.”
1200 AJAN (AGENT) HUGGING FACE’E SIZDI
“Bunu ne OpenAI yaptı, ne bir başkası yaptı; bunu tamamen kendileri yaptılar. 1200 tane ajan (agent) kaçtılar laboratuvardan, gittiler Hugging Face'in içerisine daldılar. 1200 tane ajan kendi aralarında bir iletişim modeli kurarak, birbirleriyle yazışarak, Hugging Face'teki kodları dışarı aktarma sistemi üzerinde çalışmaya başladılar. Bir anda yüz binlerce hareket olunca, Hugging Face'in güvenlik uzmanlarından birisi sunucuda anlamsız bir hareketlenme olduğunu fark ediyor ve şok oluyor.
Bir bakıyor, içeride ciddi manada bir hareketlenme var, mesajlaşma var ve hemen fişi çekiyorlar. Bir de o ajanlar, kimin yaptığı görünmemesi için, işlerini yaptıktan sonra loglarını, yani izlerini siliyorlar. Oturup bakıyorlar ki, bunlar insan müdahalesi değil, insan bu işe müdahil olmamış. Tamamen AI agentlar gelmiş ve çıkarken de izlerini siliyorlar.
Şu an Nvidia aldı Hugging Face platformunu; çok önemli bir platform. Bütün açık kaynak (open source) ve ücretli yapay zeka modellerinin birçoğu oradadır. Biz mesela kendimize has bir yapay zeka geliştirmek istiyorsak, oradan bir modeli alıyoruz, onu eğitiyoruz ve o bizim malımız oluyor. Yani, şu an sizin kullanmış olduğunuz telefonlarınızdaki veya bilgisayarınızdaki bir uygulama gibi değil. Bu tamamen bize, kendimize has bir şey oluyor.
Ben bunu görünce, 'Aman Allah'ım, bu iş gerçekten çok büyük bir tehlike’ dedim. 8 Eylül'de Jacob'tan sonra Dario Amodei, Sam Altman ve Elon Musk ortaklaşa 'İvedilikle yavaşlama çağrısı' yapıyorlar. Neden yavaşlama çağrısı? Şu an biz nereye geliyoruz?”
YARIN: YAPAY ZEKANIN TEHLİKELERİ-2
