Taşkın Koçak ‘ın Avrasya Bir Vakfı’nda verdiği “Yapay Zekanın Tehlikeleri” başlıklı konferansında hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak yayınlıyoruz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz. M. KEMAL SALLI
DİJİTAL ÖLÜ İNTERNET ve KOLEKTİF ZİHİN MANİPÜLASYONU
“Şimdi yapay zekayla pekçok içerik üretilmeye başladı. Birçoğunuz Instagram'da geziniyorsunuz, birçok videolar görüyorsunuz, çoğu yapay zeka tarafından üretilmiş. Bunun dışında internette makalelerin, yazıların çoğu da artık yapay zeka tarafından üretilmeye başlandı. Hatta yapay zekanın kendi ajanları bile internette içerik üretmeye başladı; felsefe yazıyor, biyoloji yazıyor, ama bu insan değil.
Bu oran yükseldikçe insanın özgün üretim süreci de düşüyor. Algoritma konusunda adalet nasıl sağlanacak? Mesela hukuk, tıp ve birçok alanda, yargıda, herhangi bir iş başvurusunda ya da bir kredi değerlendirmesinde karşımıza sorunlar çıkacak... Bir arkadaşımız sınav sonuçlarını değerlendirecek bir program geliştirmişti yapay zekayla, gördüm. Sınav sonuçlarını değerlendirecek bir program yaptın, ama bunun güvenliğini sağladın mı? Bu bir çocuğa kafayı taktığında, adil davranacak mı? Çocuğun geçmiş hareketlerini gördüğünde, onu neye göre puanlayacak? Bu yolla işe alımda ayrımcılık yapmama imkanı var mı?
Eğer siz algoritmayı farklı bir yapıda eğitmişseniz, ‘falanca falanca kategorideki insanlara eksi puan ver’ dediğiniz zaman, adam gerçekten bu işe yatkın birisiyse onu eleyecek. Banka, kredi isteyen birini yapay zekaya denetlettiğinde onun hakkında olumsuz karar verebilir.”
SİBER SALDIRILAR
“Geçenlerde ben de yapay zeka destekli siber saldırıya maruz kaldım, inanamadım. Bilgisayarımda 2-3 tane virüs programı var ve çok da muazzam korur, ama bilgisayarıma, ekranıma sızmış yapay zekayla, göndermiş olduğu ajanlar bizim siteyi hack'lemiş, bizim Search Console'a girilmiş. Ben şok oldum! İnanamadım.”
“…Kullanmış olduğunuz yapay zeka platformlarının dışında indirdiğimiz özel alandaki yapay zekayı sadece siber saldırılar için yetiştirdiğimizde, inanılmaz bir silah olabiliyor ve giremeyecekleri yer yok.
(…) Şu an dünyada, ağda olan hiçbir kimse yapay zeka destekli siber saldırılardan muaf değil.”
VERİLERİNİZ KİMN ELİNDE?
“Artık veri gizliliği diye bir şey yok. Ne devletlerin verisi gizli, ne şahısların verisi gizli. (…) Biz 35 yıldır şu cep telefonunu yanımızda tutuyoruz. Bu cep telefonu bizim sevgi sözcüklerimizi, nefret sözcüklerimizi, ticari alışkanlıklarımızı, zihniyetimizi, siyasi görüşümüzü, hayat nizamımızın her şeyini biliyor. Yatak odamızda bile bu var.. Bir gün gelecek, rahat bir şekilde, 'Taşkın Kocak, al bu sensin' diyebilecekler.
Büyük yapay zeka platformlarının hemen hemen hepsinin elinde bu veriler var. Bizim de, özellikle Türk devleti olarak bu konuda yine eksiğimiz var, verilerimiz korunmuyor. Çünkü Türkçe LLM'imiz daha çok kapsamlı değil.
Bir tane 'BİLGİ' diye bir LLM yaptık biz TÜBİTAK'la. Evet, bunu askeri olarak da kullanabileceğiz, bunu devlette de kullanabileceğiz, ama ben o sistemin henüz daha benchmark'ını yapamadım, çünkü detaylarını bilmiyorum. Fakat şu bir gerçek; dünyadaki, özellikle dijital alandaki verinin %65'i İngilizce. Bu da neden? Bugün dünyada bilimin dili İngilizce olduğu için; teknolojinin dili İngilizce, finansın dili İngilizce, ulaşımın, ham maddenin, borsanın, her şeyin dili İngilizce. Siz bir makale yayınlasanız da, abstract kısmını İngilizce yapmazsanız, o makale kabul edilmiyor. Japon da, Türk de İngilizce abstract yazmak zorunda. Ve Türkçenin, Türk dilinin internetteki büyüklüğü %1 İngilizce karşısında.”
“… İngilizler yapay zeka yazılımını İngilizce üzerine kurdukları için, bizim dilimiz yapay zeka için şu an anlaşılması zor bir dil oluyor. Türkçe semantik bir dil, gerçekten üst semantik ve anlamsal diller arasında 1 numara. Bir gün yapay zeka bunu da fark edecek anlamsal olarak, ama matematiksel olarak, mesela biz bir kitabı verelim; İngilizce 600 sayfaysa, Türkçe çevirdiğiniz zaman 400 sayfaya düşüyor.
Biz tokenizer yaparak onları token'lara bölüyoruz, heceleme sistemi gibi.. Sizin anlayacağınız dilden anlatayım; her birine bir ID numarası veriyoruz. Sonra altlarında bunların vektörel sayılar vardı, zaten bu vektörel sayılar üzerinden çalışır. Bir vektör uzayı var orada, matrisler ve vektörler üzerinde çalışır. Türkçe 400 sayfayı atıyorum 25.000 tokenizer çıkarırken -bakın Türkçe 400 sayfayı- 600 sayfa İngilizceyi 15.000 tokenizer yapıyor. Neden? Çünkü İngilizce üzerine kurulmuş, İngilizcenin yapısının üzerine bina ettikleri için Türkçe bu konuda zorlanıyor.
Algoritma geliştirme ya da yapay zekasını yapmaya kalktığımızda, 'Türkçe LLM yapalım' diyoruz ya, zorlanıyoruz. Bütün yazılım dili İngilizce üzerine kurulduğu için, maalesef orada bize bir zorluk çıkıyor. Son kararı kim veriyor? Otonom silahlar.. (…) Türk ordusunda da şu an SİHA'sı, İHA'sı var, ama o SİHA'ları da zaten Türk ordusunda şu an özellikle Bayraktar grubu otonom silaha geçirmeye çalışıyor. Olması gerekiyor mu? Mecbur, olmak zorunda, yapacak bir şey yok. Hayatta kalmak istiyorsanız, buna sahip olmak zorundasınız. Size bir tehlike varsa, siz de onu bertaraf etmek zorundasınız.
Fakat, otonom araçların şöyle bir sorunu var; karar mekanizmasında tamamen kendisi hareket ettiği için, yeri geldiğinde dost ve düşman kuvvetlerini ayırma noktasında kendisi bir karar verdiği için bazen dostu da vurabilir.
(…) Sisteme birisi girerse ve bu sistem size geri dönerse, bu sefer siz bundan daha çok zarar görürsünüz. İşte bu otonom araçların özellikle savaş alanına girmesi, insanlık için tehlike arz ediyor. Evet, kendi ülkemiz için önemli, ama genelde dünyanın bütününe baktığınız zaman, herkes otonom silahlara, otonom humanoid askerlere geri dönüşürse, nihayetinde bir gün bu araçları yöneten yapay zekalar kendi aralarında bir koordinasyon kurduğunda, bu sefer hepsi insana karşı dönecek. Gelecek senaryolarından bahsediyoruz, “Terminatör” gibi...
KARA ALMA MEKANİZMALARININ ROBOTLAŞMASI
Şimdi akıllı şehirler yapıyoruz. Akıllı şehirlerde trafik sinyalizasyonunu, elektrik dağıtımını, internet dağıtımını, su şebekesini yapay zekaya devrediyoruz. Yapay zekaya mesela, 'Karbon salınımını azalt' emri vermişiz. Yapay zeka bir anda bütün enerjiyi keser, karbon salınımını durdurmak için! Ya da trafik ışıklarının tümünü kırmızı yakar, 'Bugün karbon salınımı fazla, hepiniz yerinizde duracaksınız. Ben o değeri bulana kadar bekleyeceksiniz' diyebilir. Böyle bir tehlikeyle karşı karşıyayız. Yani eğer bir emir almışsa ve o emir onun için kutsalsa, gerekirse insanın canlına da kıyabilir..."
“…Şimdi şu an dünyayı aslında yöneten teknoloji firmaları. Daha önceki sunumumda özellikle Apple'dan bahsetmiştim. Apple'ın bugünkü marka değeri 4,5 trilyon doları geçti. Geçen yılki satışı 470 milyar dolar. Bu tekno feodalizm riski aslında devletleri de aşıp insanları sevk ve idare edecek boyuta gelecek. Mesela Facebook'un 3 milyar kullanıcısı var. Facebook aslında dijital bir devlet. Sizin milliyetinizi biliyor, ahlakınızı biliyor, inancınızı biliyor, siyasi görüşünüzü biliyor, nerelerde yemek yediğinizi biliyor, akrabalarınızı biliyor, sosyal durumunuzu biliyor; yetmedi, altındaki makine öğrenmesiyle sizin psikolojinizi de ölçüyor.
Bu, Türk devletinin istihbaratının elinde bile yok, ama bunlarda var. (…) Çin bu konuda baskın davrandı; Baidu'su var, sosyal platformları var. Amerika'dan bütün teknolojiyi transfer etti, Amerika'nın en büyük paydaşıdır; ekonomik mimarisinin en büyük paydaşlarından birisidir.”
AMERİKA EKRAN KARTLARINI VERMİYOR
“Yapay zeka yarışlarında Amerika GPU'ları vermiyor. Nvidia'nın H100'lerini, H200'lerini vermiyor. Yapay zekayı bu kadar yükselten, hızlandıran bir donanıma ihtiyacımız var. O olmasa yazılım bir hiçtir. Nedir o? Ekran kartları; paralel çalışan ekran kartlarına ihtiyacımız var ve bunu da Amerika her ülkeye vermiyor, stratejik bir malzeme.
Bu karşı ne yaptı Çinliler? Tayvan'da dünyanın en büyük çip döküm merkezi vardır: TSMC. 80 milyar dolar, 90 milyar dolar ihracat yapan, dünyanın en büyük çip döküm fabrikası.. Morris Chang, Amerka’nın çip fabrikalarından Texas Instruments'ta yönetim kurulu başkanlığına geldiğinde adamı indiriyorlar stratejik olarak, diyorlar ki: 'Dur, sen buraya kadar. Sen daha fazla çıkamazsın.' Bu adam geliyor Tayvan'da, Tayvan hükümetiyle anlaşıyor, çip fabrikasını kuruyor ve sonuç itibarıyla bugün Nvidia'da, AMD'de, Samsung'da, Bosch'a da herkese çip döküyor, Apple'a da.”
YARIN. YAPAY ZEKA TEHLİKLERİ-4
