16 Şubat’ta ABD’deki Vanderbilt Üniversitesi’nin eşitlik, çeşitlilik ve kapsayıcılık ünitesi, kısa müddet evvel Michigan State Üniversitesi’nde gerçekleşen silahlı akınla ilgili bir açıklama yayımladı. Açıklama basmakalıp tabirlerle doluydu, “bu trajedinin kurbanlarının anısına” üniversiteyi “birbirimize itina göstermeye ve yerleşkemizde kapsayıcılık kültürünü yaymaya duyduğumuz bağlılığı sağlamlaştırmak için topluluk olarak bir araya” gelmeye davet ediyordu. Metinle ilgili kayda paha tek şey, birinci taslağın ChatGPT tarafından yazıldığını belirten bir dipnottu. O denli büyük bir yaygara koptu ki, sonraki gün özür yayımladılar.
Bu hadise, yapay zekanın telaşla el ele yürüyen popülerliğini düzgünden güzele gözler önüne serdi. Bir dizinin sıradaki sözcüğünü kestirim ederek metin üreten “büyük lisan modeli” ChatGPT, Kasım 2022’de piyasaya sürülmüş, yüz milyon kullanıcıya en süratli ulaşan platform olmuş, makinelerin ne kadar “zeki” olabileceğine dair tartışmaları şiddetlendirmişti. Bing’in ChatGPT ile güçlendirilmiş chat programı, bir New York Times muhabiriyle ortasındaki diyalog yayımlanınca kapatılmıştı. Yayımlanan metinde program, ısrarla muhabire âşık olduğunu, muhabirin karısını sevmediğini, ete kemiğe bürünmek istediğini söylüyordu.
Bu tip tartışmalardan da teşhirci endişe tellallığından da bir şey çıkacağı yok. Olağan bu sistemler yeniden de ciddiye alınmalı. Yazı yazmak ve kodlamayla ilgili düşük düzey işlerin yerini onlar alabilir, tıpkı endüstriyel fabrikaların fizikî emeği ayrıştırması ve fakirleştirmesi üzere kitlelerin bilişsel vasıfsızlaştırılmasına neden olabilirler. Bu sistemler kod yazabildiği için, tıpkı BuzzFeed’in içerik üretmek için ChatGPT’yi kullanacağını beyan etmesiyle gazetecilikte olduğu üzere “yazılım” bir istihdam alanı olarak ortadan kalkabilir. Otomasyon elbette her vakit kısmidir, lakin işgücünün bir kısmının makinelere devredilmesi kapitalizmin değişmezlerindendir. Devredilen bu işler bilişsel nitelikteyse, makineler her şeyin yanı sıra emek ile idare ve emek ile “boş zaman” ortasındaki önemli toplumsal hudutları da bulandırma riski taşır.
Tabii sermayenin şartları da değişiyor. Google’ın ChatGPT’ye rakip olarak ürettiği Bard’ın görücüye çıkar çıkmaz yanlış yanıtladığı soruyla şirkete bir günde 100 milyar dolar piyasa kıymeti kaybettirmesiyle bunun işaretlerini aldık. “Bilgi ekonomisi” kavramıyla ilgili başı karışan varsa, bu paragrafla her şey netleşecektir. Yalnız teknolojik kapitalizmin bir sonraki safhası nasıl gelirse gelsin, yeni yapay zeka örnekleri mana yaratmanın toplumsal sürecine direkt müdahil oluyor. Gerçekten GPT sistemleri, birer ideoloji makinesi.
Bu sistemlerin meydana çıkmasının daha az tartışılan bir sonucu daha var, o da ideolojideki değişim.
Dil modelleriyle ideoloji birinci sefer niceliksel üretiliyor
GPT sistemleriyle ilgili en temel üç çıkarım, onların birer oyuncak olduklarını, ziyanlı olduklarını ve medeniyeti baştan aşağı değiştireceklerini savunuyor. New York Times’ta yayımlanan yazısında Noam Chomsky, onları birer oyuncak olarak nitelendirirken hakikati ve mantığı ahlakla şekillenen bir içgüdüyle sezmemizi sağlayan sinirsel bir işlev olan lisanla direkt bir ilgileri olmadığını savunuyor. Emily Bender ve Timnit Gebru, “rastlantısal papağan” olarak isimlendirdikleri bu sistemlerin ziyanlı olduklarını, “akıl almaz” büyüklükteki bilgi setlerinin önyargılarını yansıttıklarını, insanların telaffuzlarla halihazırda verdiği ziyanı tekrar dağıttıklarını belirtiyor. Henry Kissinger ise toplumsal oyunun tüm kurallarını, yani sırf emeğin ya da jeopolitikayı değil, “gerçekliğin ta kendisine” dair algımızı da değiştireceklerini düşünüyor.
Sayın okur, Kissinger ile birebir fikirde olmaktan pek de mutlu sayılmam, lakin bugüne dek en kayda bedel görüş ondan geldi. Chomsky üstadımız sizi yanıltmasın, GPT sistemleri pek de lisan üretebiliyor. Ayrıyeten ziyanlı oldukları gerçek, fakat nedeni de bu tespitin kâr odaklı mühendisliğin yükselişini nasıl durduracağı da net değil. Kissinger ne yazık ki haklı, çalışma prensipleri insan olmanın ne manaya geldiğine dair hissiyatımıza çok yakın bir fonksiyonu otomatikleştirdiği için GPT sistemleri, şahsen niyet biçimimizde büyük değişimlere yol açabilir. Niyet biçimini denetim etmeye “ideoloji” diyoruz, GPT sistemleri de bunu daha evvel görülmemiş biçimde direkt ve niceliksel olarak ele alıyor.
“GPT”nin açılımı “generative pretrained transformer” (üretken önişlemeli dönüştürücü). Meğer “GPT”, iktisatta “general purpose technology” (genel maksatlı teknoloji) manasına da geliyor. Bu da internetten kazınmış lisan simgelerinden oluşan devasa bilgi kümelerini (ChatGPT’nin kullandığı birinci lisan modeli olan GPT-3, bir trilyon simgeyle eğitilmiştir) alıp her cinsten, dengeli ve ekseriyetle manalı metinlere dönüştüren sistemlerin gerisindeki kanıyı gözler önüne seriyor. Detayların birden fazla kıymetsiz, biri hariç: Bu bir trilyon simge, sistem tarafından metin oluşturmak için kullanılabilecek bir dizi dizeye (tüm sözcükler değil, sıkıntı de bu zaten) indirgeniyor. Öğrenilen bu simgeler, her simgenin başkalarıyla istatistiki bir bağlantıya sahip olduğu bir şebekeye yerleştiriliyor. Bunu bir ışık şebekesi üzere düşünebilirsiniz. Bir ışığa dokunursanız, başkalarında de bir örüntü yanar. Bir başkasına dokunursanız, diğer bir örüntü elde edersiniz. Bu türlü devam eder. Sonuç olarak sisteme bir komut verdiğimde (“Marx’ın paha teorisini açıklayan bir makale yaz”) şebeke sıradaki sözcük olmaya aday ufak bir kümesi bir kümede topluyor. Sonra bu sözcüklerden birini rastgele seçiyor, akabinde da bunu sürdürerek bir makale yazıyor, ya da söylenene cevap veriyor.
Sisteme “ince ayar yapmanın” pek çok yolu olsa da örüntü özelliği hepsinde ortak. İstatistiki yakınlık tarafından seçilen sözcüklerin gerçek dünyadaki problemlerde karşılık bulmayacağını görmek güç değil, hakikaten bilgi bilimciler, yanlış bilginin yayılacağına dair endişeleri artıran bu duruma “temellendirme sorunu” diyor. OpenAI şimdi onunla ilgili rastgele bir teknik detay paylaşmayı reddediyor, fakat geçen ay piyasaya çıkan GPT-4’ün bu “halüsinasyonu” en aza indirmesi bekleniyor. Halbuki ortada çok daha değişik ve önemli bir problem var.
GPT sistemlerinin ortaya çıkardığı şey lisandır, ancak makul bir sözcük merkezi etrafında ortalaması alınmış haldedir. Kavramsal hudutları muallak bir peltedir. İngilizce olmasına İngilizcedir (neredeyse diğer her lisan için de geçerli), fakat itilafları giderilmiş, en ortayolcu haline ayarlanmıştır. Bu yüzden de Vanderbilt’in istediği çeşitten basın açıklamalarını yazmak için çok yararlı sistemlerdir. Dinamiği ve mana yaratan özellikleriyle paketlenmiş ve hazır edilmiş bir “dil hizmetidir”, fakat mümkün olan en düz haline ayarlanmıştır ki lisanı sadece hasar denetimi için kullananların işine yarasın.
Silahlı taarruzla ilgili açıklamayı yazmakla görevlendirilen makine değil insan olsa, muhtemelen neredeyse tıpatıp birebir belgeyi ortaya çıkarırdı. Ne diyebileceğimize dair sert kısıtlamalarla yazdığımızda, biz de sözcük ve cümle seçimlerimizi standartlaştırırız. Bu tip bir lisana “ideoloji” diyoruz, GPT sistemleri de bu ideolojiyi ortaya çıkarıp incelemeye imkan tanıyan birinci nicel araç.
Hegemonya ve Kitsch
The New York Times muhabiri ve ona âşık olan sohbet robotu hikâyesindeki eksik, en başta ortalığı karıştıran komuttu. Muhabir, ChatGPT’den “C. G. Jung’un kullandığı manasıyla bir ‘gölge arketipi’ benimsemesini” istemişti. Kaygıların odağı başkayken görmezden gelinmesi doğal olan bu değerli detay, neler olduğuna dair birtakım ipuçları da taşıyordu. Komutunuzda “gölge arketipi” ve “Jung” geçtiğinde, bilgi setinde “ışığı yanan” birtakım sözcük kümeleri, bir “anlam paketi” var. Bunlar da Jung’un teorilerinin ve psikanalizin tartışmaları, akademik ve meslekten bağımsız bloglar, Reddit paylaşımları ve bu cins fikirlerin açıkça tartışıldığı öteki yerlerde bir ortaya geliyor.
Oysa sistem, Carl Gustav Jung diye biri ya da “gölge arketipi” diye bir kavram olduğunu “bilmiyor”. Bunlar dizelerden ibaret. Işığı yanan her örüntünün içinde de yaygın sözcüklerden oluşan bir küme daha var, örneğin “aşk”, “eş”, hatta “ete kemiğe bürünmek” burada olabilir. Makine işlemeyi sürdürdükçe sıradaki sözcükleri de varsayım ediyor ve ağırlaşmış “gölge-arketip-Jung” kümesinden öteki mana paketlerine gerçek “ilişkilendiriyor”. Alışılmış bakmadığımız surece öbür paketlerin içeriğini bilmiyoruz. İstatistikle ilerleyen bir mana treninde üzereyiz, orada olsalar da aşina olmadığımız mana tünelleri ortasından sallana sallana gidiyoruz.
Sözcük akışında rastgele bir objenin var olmadığını bilmek değerli. Şayet bir GPT sisteminin durup bir şeyi obje olarak “düşünmesini” istiyorsanız, onu bir biçimde buna zorlamanız lazım, hakikaten GPT-4 ve imal etabındaki ardılları da muhtemelen bunu deniyor. Kimi şeylerin ise birer “nesne” ya da sözcük “paketleri” olarak sabit kalmaları daha mümkün. ChatGPT’den Aydınlanmanın Diyalektiği’ni (Theodor Adorno ve Max Horkheimer’ın ideoloji ve çağdaş toplumla ilgili başyapıtı) anlatmasını istersem, şaşırtan derecede âlâ bir yanıt vermekle kalmıyor, zorluğuyla nam salmış bu metne sadık detaylar da sunuyor. Meslektaşım Matthew Handelman’ın Adorno, Frankfurt Okulu ve matematikle ilgili kitabını sorduğumda ise kitapla ilgili kimi temel bilgiler verdikten sonra Handelman’ın temel tezinin “Matematik toplumsal bir inşadır,” olduğunu söylüyor. Bu hakikat değil (kendisine sordum). Lakin enteresan bir açıdan yanlışsız değil.
Paket bize muhtemelen “eleştirel teori” ile “matematik” ortasında örtüşenleri gösteriyor, bu örtüşmeye dair söylenmesi en mümkün şeyleri muhteva ediyor. Kimi akademisyenler hakikaten de matematiğin toplumsal bir inşa olduğunu tez ediyor, fakat akademisyenlerin bu türlü düşündüğünü sav eden temel küme çok sağcılar. Onlar 1968’den sonra olup biten her şeyden Adorno ve arkadaşlarını suçlayan “kültürel Marksizm” isimli Yahudi düşmanı komplo teorisini savunuyor. Felsefi bir eser yazdığınızda ya da entelektüelliğin tarihine dair bir araştırma yaptığınızda, bu ortalamacı tesire karşı çalışıyorsunuz. GPT sistemlerini sorguladığınızda ortaya çıkan mana paketleri ise oldukça bilgilendirici, hatta kimi vakit aydınlatıcı. Bunun nedeni de bu paketlerin ideolojiyi ortaya çıkarması, bunu da niceliksel olarak yapması. Bu, daha evvel hiç görmediğimiz bir şey.
İdeoloji, politik prensiplerden ibaret değildir. Marx “Alman İdeolojisi”nden bahsederken, sosyalist arkadaşlarının fikirlerin gücüne olan örtük inancını kastediyor, buna karşı maddi kuvvetin gücünü öne sürüyordu. Lakin Marksistler yavaş yavaş telaffuzun ve temsilin gücü sıkıntısını ele aldılar, ne düşünebildiğimizin, hayal edebildiğimizin ve söyleyebileceğimizin kıymetli bir siyasi sıkıntı olduğunu kabul ettiler. Antonio Gramsci, hâkim fikirler dizisini “hegemonya” olarak isimlendirdi, bu fikirlerin hükümran sınıfın hakimiyetine ayak uydurduğunu, fakat bu hakimiyetle ilgili olmadıklarını savundu. Edebiyat eleştirmeni Hannes Bajohr ise tam buradan hareketle “Dili denetim eden, siyaseti denetim eder,” dedi, bizi özelleştirilmiş GPT sistemlerine karşı uyardı.
Marksistler ortasında ideolojiyi bir cins kitsch olarak gören de çok. Birinci defa Marksist sanat eleştirmeni Clement Greenberg tarafından 1937’de ortaya atılan kitsch, kolaylaştırılmış estetik formdur. Söyleyebileceğimiz ya da düşünebileceğimiz onca şey ortasında birtakım yolları yürümek, başkalarına kıyasla yeğdir. Bu yolların formu muhakkaktır, sıfırdan döşemeye gerek yoktur. Piyasadaki onca devam sineması tam da bu bakımdan kitsch özelliği taşır, bir Marvel sineması izlemeye başladığımızda yolun bizi nereye götüreceğini çok yeterli biliriz. Greenberg’e nazaran avangart, form açısından maceracıydı, yeni yollar döşeyerek yeni manalar yaratırdı. GPT sistemlerinin mana paketlerinin çıktılarında hegemonya ve kitsch iç içe, tahminen “gerçek dünyanın” kimi ögelerini ıskalıyorlar, ancak ideolojiye sıkı sıkıya bağlılar.
Adorno ideolojiyi “yönetilen dünyanın doğrusu ve yanlışsız olmayanı” olarak açıklıyordu. Sakladığı kadarını açığa da çıkarıyor, – Adorno’nun yüksek sanat düşkünlüğüne karşın – toplumsal fonksiyonların bizi koşullandırdığını görebileceğimiz bir giriş noktası sağlıyordu. GPT sistemleri bu iki istikametli sokağın bir kısmını ifşa etti, – medya kuramcısı Wendy Chun’un bir vakitler yazılım sistemleriyle ilgili genel olarak söylediği üzere – hem ideolojiyi hem de onun eleştirisini ortaya koydu. GPT sistemleri, ideolojinin dilbilimsel oluşumuna dair eşi gibisi görülmemiş bir bakış açısı sunuyor. Siyasal anlambilimde “neyin neye yakın olduğunu” üretmemize, akabinde da incelememize imkan tanıyan bir sistem daha evvel hiç olmamıştı. Ürettikleri mana paketleri elbette lisanı düzleştiriyor, lakin daha evvel bir ortaya getirmediğimiz mana kıvrımları ve köşeleriyle bizi şaşırtabiliyorlar da.
Bu mana olukları boyunca kaymak, dijital global kapitalizmin ideolojisine giriş noktasıdır ve bize hegemonyanın anlık manzarasını sunar. Bu Kissinger’ın yapay zekanın gerçeklik algımızı tümden değiştireceği fikrinden hayli uzakmış üzere görülebilir. Pekala ya “basitleştirilmiş bir formda” paketlenmiş en ortalama sözcükler bu gerçekliğin ufkunu oluşturuyorsa? Bu durumda ideolojinin atan kalbine attığımız ufacık bakış çok kıymetlidir.
Kamera icat edildiğinde, dünyanın uzak kesimlerini birinci defa kendi gözlerimizle gördük. GPT sistemleri de dünyanın modüllerini o kadar yakın gösteriyor ki bunlar temelde bizim dünyamız haline geliyor, fakat garip, düzleştirilmiş bir biçimde. Emeğin ve sermayenin şartları kaçınılmaz olarak değiştikçe, ideolojiyle kontakları anlık olarak gözler önüne seriliyor. GPT-4 Mart ayında piyasaya sürüldü, lakin OpenAI tüm teknik detayları endüstriyel sır olarak sakladı. Bu kayıtsız boşluğa teknik farkındalıkla bakabileceğimiz pencere yakında kapanacak. Bundan derhal faydalanmalıyız.
*Bu yazı, Can Koçak tarafından Leif Weatherby’nin Jacobin’de yayımlanan yazısından çevrilmiştir.
