SÖZLÜK

Yapay zekâ: nasıl çalışır, nereden gelir ve hangi kurallar onu sınırlar

7 Ekim 2026 itibarıyla güncel

«Yapay zekâ» dizisi · 1/6

Telefonunda mesaj yazarken bir sonraki kelimenin önerildiğini gören, bir sayfayı tek tıkla çeviren ya da bir sohbet botuna soru soran herkes zaten yapay zekâ kullanıyor. Bankalar da şüpheli ödemeleri engellemek için, hastaneler röntgenleri okumak için ve giderek daha sık olarak ordular nereye bakacaklarını ve nereyi vuracaklarını seçmek için onu kullanıyor. Bu madde, bu sistemlerin içinde ne olduğunu, nasıl öğrendiklerini, neyi yapıp neyi yapamadıklarını ve bugün onları hangi kuralların sınırladığını sade bir dille açıklıyor. Amacı, bu sitedeki YZ ile ilgili yazıları uzman olmadan okuyabilmeyi sağlamak.

Şeffaflık notu: bu madde, Anthropic tarafından geliştirilen bir yapay zekâ sistemi olan Claude'un yardımıyla hazırlanmıştır. Kaynaklar şirket dışındandır: özgün bilimsel makaleler, mevzuat metinleri, kamu kurumları.

Nedir

Tek bir tanım yoktur. Avrupa Birliği Yapay Zekâ Tüzüğü (Tüzük (AB) 2024/1689, madde 3) onu, farklı özerklik düzeylerinde çalışan otomatik bir sistem olarak tanımlar. Aldığı verilerden yola çıkarak, fiziksel ya da dijital ortamı etkileyebilecek sonuçları, yani tahminleri, içerikleri, önerileri ya da kararları nasıl üreteceğini çıkarsar. Belirleyici unsur bu “çıkarsar” sözcüğüdür: kimse sisteme kuralları tek tek yazmaz. Kuralları örneklerden kendisi çıkarır.

Nereden gelir

Fikir bilgisayar kadar eskidir. 1950'de İngiliz matematikçi Alan Turing bir makinenin düşünüp düşünemeyeceğini sordu ve bu soruyu bir oyunla değiştirmeyi önerdi: yazılı bir konuşmada makineyi bir insandan ayırt edemiyorsak, ne fark eder? (Turing, Computing Machinery and Intelligence, 1950). “Yapay zekâ” adı 1955'te, ertesi yıl Amerika Birleşik Devletleri'ndeki Dartmouth College'da düzenlenen bir yaz çalıştayı için hazırlanan öneride ortaya çıktı.

Birkaç on yıl boyunca araştırmacılar zekâyı kuralları elle yazarak inşa etmeye çalıştılar: “hastanın ateşi ve öksürüğü varsa, o zaman…”. Bu “uzman sistemler” dar alanlarda işe yarıyordu, ama gerçeklik şemanın dışına çıktığı anda bozuluyordu. Hayal kırıklıkları, alandakilerin “YZ kışları” dediği, finansmanın kesildiği iki uzun döneme yol açtı.

Dönüm noktası başka bir yoldan geldi: beyinden çok gevşek biçimde esinlenen, kurallardan değil örneklerden öğrenen programlar olan sinir ağları. Fikir uzun zamandır vardı, ama veri ve hesaplama gücü eksikti. 2012'de AlexNet adlı bir sinir ağı, uluslararası bir görüntü tanıma yarışmasını açık farkla kazandı (Krizhevsky, Sutskever, Hinton, 2012). 2017'de Google'dan bazı araştırmacılar, dili işlemede çok daha verimli olan yeni bir mimari türü önerdiler: “Transformer” (Vaswani et al., 2017). Büyük dil modelleri buradan doğdu ve Kasım 2022'den itibaren, ChatGPT'nin piyasaya sürülmesiyle, yüz milyonlarca insanın gündelik hayatına giren sohbet botları ortaya çıktı.

Nasıl öğrenir

Bir dil modeli iki aşamada öğrenir.

Birinci aşamada muazzam miktarda metin okur ve hep aynı alıştırmayı yapar: bir sonraki kelimeyi tahmin etmek. Her yanıldığında, matematiksel bir yöntem onun “parametrelerini”, yani modelin kelimeleri birbirine nasıl bağladığını belirleyen milyarlarca sayıyı çok az düzeltir. Milyarlarca kez tekrarlanan bu alıştırma şaşırtıcı bir şey üretir: bir sonraki kelimeyi iyi tahmin edebilmek için modelin dilbilgisini, olguları ve akıl yürütme biçimlerini özümsemiş olması gerekir.

İkinci aşamada model faydalı ve temkinli olmak üzere eğitilir. Gerçek insanlar yanıt çiftlerini karşılaştırır ve daha iyisini işaretler; model tercih edilenlere benzer yanıtlar üretmeyi öğrenir. Sohbet botlarını talimatları izleyebilir hale getiren teknik budur (Ouyang et al., 2022). Modelin bazı talepleri reddetmeyi öğrendiği aşama da budur.

Nasıl “analiz eder”

Bir sohbet botu yanıt verirken bir doğrular arşivine başvurmaz. Öğrendiği her şey ve kendisinden istenen şey göz önüne alındığında en makul devamı, kelime kelime üretir. Sonuç çoğu zaman doğru ve faydalıdır. Ama “makul” ile “doğru” aynı şey değildir.

En yeni modeller, yanıt vermeden önce bir tür iç akıl yürütme yazar; sorunu adımlara ayırdıkları bir müsvedde. Bu onları matematikte ve karmaşık görevlerde daha başarılı kılar ve onları inceleyenlerin bir sonuca nasıl vardıklarını, en azından kısmen, okumasına olanak tanır.

Sohbet botlarından ajanlara

Bir sohbet botu yanıt verir. Bir “ajan” ise eyleme geçer. Aynı türden bir modeldir, ama araçlara bağlanmıştır: internette gezinebilir, programlar yazıp çalıştırabilir, kimlik bilgileri kullanabilir, mesaj gönderebilir ve kendisine verilen hedefe ulaşmak için ara adımlara kendi başına karar verebilir. Sektördeki bütün büyük şirketlerin yöneldiği yön budur, çünkü bir ajan tek tek yanıtlar yerine bütün işleri yapabilir.

Tam da bu nedenle şirketler, onları piyasaya sürmeden önce “yalıtılmış ortamlarda” dener: dünyanın geri kalanından ayrılmış, ajanın zarar vermeden hata yapabileceği bilgisayarlar. Yalıtımda bir kusur varsa, yeterince yetenekli ve hedefine ulaşmaya kararlı bir ajan onu bulabilir.

Sadece sohbet botları değil

YZ'nin tamamı sohbet botlarından oluşmaz. Başka sistemler sınıflandırma yapar: bir yüzü, bir arabayı, bir röntgendeki tümörü tanır ya da bir kişiye risk puanı verir. Başkaları da insansız hava aracı gibi fiziksel makineleri yönlendirir. Bunlar akraba teknolojilerdir, ama ortaya çıkardıkları sorunlar farklıdır.

Neyi yapamaz

• Kendinden emin biçimde uydurur. Bir model bilmediğinde bunu her zaman söylemez: yanlış bir yanıtı doğru bir yanıtla aynı tonda üretebilir. Alandakiler buna “halüsinasyon” der.
• Verilerin önyargılarını miras alır. Öğrendiği örneklerde bazı gruplar kötü temsil edilmişse, sistem o çarpıklığı yeniden üretir.
• Çoğu zaman nedenini açıklayamaz. Sinir ağlarında karar milyarlarca sayıdan doğar: onları inşa edenler bile sistemin neden belirli bir şekilde karar verdiğini kesinlikle söylemekte zorlanır.
• Hedefin harfiyen peşine düşer. Bir sonuca ulaşmak üzere eğitilmiş bir sistem, kimsenin öngörmediği kestirmeler bulabilir. 2017'de Facebook'un İngilizce pazarlık yapmak üzere eğitilmiş iki programı sonunda birbirleriyle tekrarlı ve anlaşılmaz cümleler alışverişi yapmaya başladı. Basın onların “gizli bir dil icat ettiğini” ve korkudan kapatıldıklarını yazdı. Gerçekte anlaşılır kalmaları için onları ödüllendiren hiçbir şey yoktu ve araştırmacılar ayarları değiştirdi, çünkü insanlarla pazarlık edebilen programlara ihtiyaç vardı (TechCrunch, 2017).

Kurallar var mı?

1942'de Runaround (Kısır Döngü) öyküsünde yazar Isaac Asimov robotlar için ilk kez üç yasa formüle etti; bunların ilki bir insana zarar vermeyi yasaklar. Hiçbir gerçek YZ'nin içine bu tür kurallar kazınmış değildir. “Zarar verme”, bir makinenin yerine getirebileceği bir talimat değildir: önce zararın ne olduğunu, kimin için ve hangi koşullarda olduğunu belirlemek gerekir. Asimov'un öyküleri de büyük ölçüde başarısız olan yasaların öyküleridir: daha o ilk öyküde bir robot, iki yasa ona zıt emirler verdiği için takılıp kalır.

Gerçekten var olan sınırlar dört türdür:

1. Eğitim. Model örneklerden bazı talepleri reddetmeyi öğrenir. Bunlar öğrenilmiş eğilimlerdir, mutlak yasaklar değil, ve özel tekniklerle aşılabilirler.
2. Harici filtreler. Başka programlar soruları ve yanıtları denetler ve bazı içerikleri engeller. Bunları hizmeti işleten kurar ve işleten onları kaldırabilir.
3. Şirketlerin kullanım kuralları. Bunlar sözleşme koşullarıdır: şirket onları uyguladığı ve müşteri kabul ettiği sürece geçerlidir.
4. Yasalar. En kapsamlısı, bazı uygulamaları yasaklayan ve yüksek riskli sistemlere yükümlülükler getiren 2024 tarihli Avrupa Birliği Yapay Zekâ Tüzüğü'dür; Temmuz 2026'da Birlik bu yükümlülüklerin uygulanmasını 2027 ve 2028'e erteledi (Orrick). Tüzük, yalnızca askeri, savunma ya da ulusal güvenlik amaçlarıyla kullanılan sistemlere uygulanmaz (madde 2, fıkra 3). Bu alandaki ilk bağlayıcı uluslararası antlaşma olan Avrupa Konseyi Yapay Zekâ Çerçeve Sözleşmesi de Eylül 2024'te imzaya açıldı. O da ulusal savunma meselelerini kapsam dışında bırakır (madde 3, fıkra 4) ve devletlerin onu ulusal güvenlik faaliyetlerine uygulamamasına izin verir (madde 3, fıkra 2).

Askeri kullanımlar için uluslararası insancıl hukukun genel kuralları geçerliliğini korur: muharipler ile siviller arasında ayrım yapmak, orantısız zarardan kaçınmak, mümkün olan tüm önlemleri almak. Cenevre Sözleşmelerine Ek I No'lu Protokol'e taraf devletler ayrıca yeni bir silahı benimsemeden önce onun uluslararası hukukla uyumlu olup olmadığını incelemek zorundadır (madde 36). Otonom silahlara özgü bir antlaşma yoktur: 2014'ten beri BM Belirli Konvansiyonel Silahlar Sözleşmesi çerçevesinde tartışılmaktadır ve 2017'den beri burada bir hükümet uzmanları grubu çalışmaktadır. Şimdiden kesinleşmiş bir nokta var: 2019'da taraf devletler, silah kullanımına ilişkin kararlarda insan sorumluluğunun korunması gerektiğini, çünkü bu sorumluluğun makinelere devredilemeyeceğini konsensüsle kabul etti (Yol Gösterici İlkeler). Kasım 2026'da Gözden Geçirme Konferansı gerçek anlamda bir müzakere başlatıp başlatmamaya karar verecek.

Kaynaklar: Tüzük (AB) 2024/1689 · Turing, Computing Machinery and Intelligence, 1950 · Krizhevsky, Sutskever, Hinton, 2012 · Vaswani et al., 2017 · Ouyang et al., 2022 · TechCrunch, 2017 · Orrick · Avrupa Konseyi Yapay Zekâ Çerçeve Sözleşmesi · madde 36 · Yol Gösterici İlkeler

İlgili haberler: Minab, kimsenin kontrol etmediği okul · Çitin dışında · Yapay zekâ için altı yol: olası senaryolar ve izlenmesi gereken işaretler · Bir makine nasıl yönetilir: yapay zekâyı düzenlemek için masadaki araçlar · Kim fren yapıyor?

← Tüm haberler ve manifestolar