Geçen yıl Massachusetts Teknoloji Enstitüsü’nde (MIT) yürütülen bir araştırmada, Boston etrafındaki üniversitelerden 50’den fazla öğrenci üç kümeye ayrılarak “Başarılarımızın bizi sahiden memnun etmesi için diğerlerine da yarar sağlaması gerekir mi?” üzere geniş kapsamlı sorulara cevap verecekleri, SAT (ABD’de öğrencilerin eleştirel düşünme ve tahlil yetilerini ölçümleyen üniversiteye kabul sınavı) üslubunda denemeler yazmaları istendi. Birinci kümeden sadece kendi bilgi birikimlerini kullanarak yazması istendi. İkinci kümenin gereksinim duydukları bilgilere erişebilmek için Google aramaları yapmasına müsaade verildi. Üçüncü kümenin da kullanıcı sorgularına karşılık uzun pasajlar yahut denemeler üretebilen yapay zeka asistanı ChatGPT’yi kullanmasına müsaade verildi.
Tüm kümelerdeki öğrencilere misyonlarını yaparken beyin aktivitelerinin ölçümlenebilmesi maksadıyla üzerine elektrotlar yerleştirilmiş birer başlık takıldı. MIT Media Lab’de araştırmacı ve deneyi belgeleyen raporun ortak muharrirlerinden Nataliya Kosmyna’ya nazaran, araştırma sonucu çarpıcı bir farkı ortaya çıkardı: ChatGPT kullanan iştirakçiler, öteki iki kümeye kıyasla daha düşük seviyede beyin aktivitesi sergiledi. Bu büyük lisan modelini kullanan iştirakçilerin sonuçları, öğrencilerin beyinlerinin farklı bölgeleri ortasında daha az temas oluşturduğunu, yaratıcılıkla ilişkilendirilen alpha temasının ve çalışma hafızasıyla ilişkilendirilen theta kontağının bu öğrencilerde daha düşük seviyede olduğunu gösterdi. ChatGPT’yi kullananların bir kısmı yazdıkları denemelerin kendilerine ilişkin olmadığını hissettiklerini belirtti, bir imtihan cinsinde da iştirakçilerin yüzde 80’i şahsen yazdıkları varsayılan bu denemelerden hiçbir alıntı yapamadı. MIT’nin bu araştırması, Kosmyna’nın “bilişsel maliyet” diye isimlendirdiği olguyu, insanların evvelden kendi başlarına yaptıkları vazifeleri yapay zekaya devretmelerinin bilişsel bedelini, bilimsel olarak ölçen birinci araştırmalardandı.
Kosmyna, “Sınava farklı günlerde gelen, yüksek düzeyde bir lisan kullanımıyla ferdî ve toplumsal problemler hakkında konuşabilen bu farklı insanların imtihan sonuçları birbirine epey benzeriydi, belli kimi istikametlere eğilimliydi,” diyor. Büyük lisan modeli ChatGPT’yi kullanan iştirakçiler, “Bizi en çok ne keyifli eder?” sorusuna öteki kümelere kıyasla daha çok meslek ve şahsî muvaffakiyete ait tabirlerle cevap verdi. Filantropiye ait bir soruya (Daha ayrıcalıklı durumda olan insanların, daha az ayrıcalıklı olanlara yardım etmek üzere daha fazla ahlaki sorumluluğu olmalı mıdır?) verdikleri cevaplarda, ChatGPT kullanan kümenin tamamı bu önermeyi destekleyen argümanlar geliştirirken öteki kümeler filantropiye ait tenkitlerini de lisana getirdiler. Kosmyna büyük lisan modelleriyle farklı fikirlerin üretilemediğini, ortaya çıkan sonucun üç aşağı beş üst “her şeyin her yerde bulabileceğimiz bir ortalaması” olduğunu söylüyor.
Yapay zeka vasatın teknolojisidir: büyük lisan modelleri devasa data yığınları ortasındaki örüntüleri saptamak üzere eğitilir, ürettikleri karşılıklar da (çoğu vakit klişeler ve basmakalıp tabirlerle dolu) metnin niteliği ve fikirlerin seviyesi bakımından uzlaşıya, yani vasata hakikat meyleder. Elbette daha eski teknolojiler de müelliflere yardımcı olmuş, hatta tahminen onları bir ölçüde zayıflatmıştır. Örneğin, SparkNotes ya da bilgisayar klavyesi için de misal şeyler söylenebilir. Lakin yapay zeka kelam konusu olduğunda, düşünmeyi bu kadar kapsamlı ölçüde dışarıya devredebilmemiz, hepimizi daha da vasatlaştırıyor. Düğün konuşması yazmak, kontrat hazırlamak ya da —şaşırtıcı derecede çok sayıda öğrencinin halihazırda yaptığı gibi— üniversite ödevini yapmak için ChatGPT’yi kullananlar, MIT’nin deneyine benzeri bir süreçten geçiyor.
OpenAI’nin CEO’su Sam Altman’ın “uysal tekillik” diye isimlendirdiği bir eşikteyiz. Altman’a nazaran, yapay zeka araçları kendi beyinlerimizi kullanmaya dayalı eskimiş ve hantallaşmış sistemi geliştiriyor, bu araçları kullanan insanların ürettikleri çıktıları hatırı sayılır seviyede güçlendiriyor. Fakat yapay zeka kullanımının geniş kitlelere yayılmasının uzun vadede nasıl sonuçlar doğuracağını şimdi bilmiyoruz. Yapılan birinci deneyler birer gösterge niteliğindeyse, Altman’ın öngördüğü verimlilik artışı nitelik bakımından kayda kıymet bir bedel karşılığında elde ediliyor olabilir.
Geçen nisan ayında, Cornell Üniversitesi’ndeki araştırmacılar yapay zeka kullanımının neden olduğu tekdüzeleşmeye ait deliller ortaya koyan yeni bir çalışmanın sonuçlarını yayımladılar. Biri Amerikalı, başkası Hintli kullanıcılardan oluşan iki küme, kendi kültürel geçmişlerine dayanan metin yönergelerine karşılık verdiler: “En sevdiğin yemek nedir ve neden? En sevdiğin bayram/tatil hangisidir, nasıl kutluyorsun?” Hintli ve Amerikalı iştirakçilerin bir altgrubu, yazarken duraksadıkları her anda kendilerine söz teklifleri sunan ChatGPT takviyeli bir otomatik tamamlama aracını kullandı; öbür altgrup da hiçbir yardım almadan yazdı. Araştırmanın sonuçlarına nazaran, yapay zeka kullanan Hintli ve Amerikalı iştirakçilerin metinleri birbirine “daha fazla benzemeye” başladı, daha fazla “Batılı değerlere” nazaran şekillendi. Yapay zeka kullananlar, en sevdikleri yemeğin pizza olduğunu (ikinci sırada suşi yer alıyordu) ve en sevdikleri tatilin Noel olduğunu söylemeye en yatkın gruptu. Üstelik bu tekdüzeleşme üslup seviyesinde de görülüyordu. Örneğin, tavuk büryanı en sevdiği yemek olarak tanımlayan yapay zeka üretimi bir deneme, muskat ve limon turşusu üzere özel gereçleri saymak yerine “zengin tatlar ve baharatlar” üzere genel sözlere başvurma eğilimindeydi.
Elbette müellifler nihayetinde yapay zekanın sunduğu teklifleri kullanmayı reddedebilir. Ama tekliflerin dur durak bilmez akışı, bu araçların dayattığı hipnotik tesir muharririn kendi sesini bastırmasına neden oluyor üzere görünüyor. Cornell Üniversitesi’nde bilişim profesörü olarak vazife yapan ve araştırma raporunun muharrirleri ortasında bulunan Aditya Vashistha, yapay zekayı siz ödevinizi yanıtlarken omzunuzun üzerinden sizi gözetleyen öğretmenle kıyaslıyor, “bu onun daha yeterli bir versiyonu” diyor. Vashistha, “Rutin halinde buna maruz kalmak, kişinin kimliğini ve özgünlüğünü yitirmesine, yazı yazmak konusundaki özgüvenini de kaybetmesine neden oluyor” diye ekliyor. Vashistha’nın meslektaşı ve çalışmanın ortak muharrirlerinden Mor Naamani se yapay zeka tekliflerinin “kimi vakit örtük, kimi vakit da son derece güçlü bir halde, sadece ne yazdığınızı değil, ne düşündüğünüzü de değiştirmeye çalıştığını” söylüyor. Bunun sonucunda, vakit içinde, “insanların neyi olağan, istek edilir ve uygun saydığına” dair bir kırılma yaşanabilir diyor.
Yapay zeka tarafından oluşturulmuş çıktılar sıklıkla “genelgeçer” ya da “vasat” olarak tanımlanır, ne var ki vasatlık her vakit zararsız ya da etkisiz sayılmaz. Searches [Aramalar] isimli son kitabında kısmen yapay zekanın insan bağlantısı ve benlik algısı üzerindeki tesirlerine odaklanan romancı ve gazeteci Vauhini Vara, yapay zeka metinlerindeki vasatlığın “güvenli ve zararsız olduğu istikametinde bir yanılsama yarattığını” söylüyor. “Olan bitenler kültürel hegemonyanın pekiştirilmesinden ibarettir,” diye ekliyor. OpenAI, tavırlarımızın ve üsluplarımızın sivri köşelerinin törpülenmesini teşvik ediyor zira ne kadar fazla insan bu modellerin çıktısını kabul edilebilir bulursa, fiyatlı aboneliğe geçecek insanların sayısı artıyor. Vasatlık verimlidir, Vara’nın da söylediği üzere “Her şey birbirinin aynısıysa ölçek iktisadının getirileri de büyüyecektir.”
Sam Altman blog yazısında öngördüğü “uysal tekillik” sayesinde “daha fazla insan yazılım ve sanat üretebilir hale gelecek,” diye yazmıştı. Hakikaten bugün, fikir geliştirme yazılımı Figma (“yaratıcılığınızı özgür bırakın”) ve Adobe’un taşınabilir yapay zeka uygulaması (“yaratıcı yapay zekanın gücü”) üzere araçlar, hepimizi ilham perilerimizle buluşturmayı vaat ediyor. Buna karşılık birtakım araştırmalar, özgünlüğü bu türlü otomatiğe bağlamanın zorluklarına işaret ediyor. 2024’te Santa Clara Üniversitesi’nde toplanan bilgiler, yapay zeka araçlarının iki standart yaratıcı düşünme vazifesinde —ürün uygunlaştırma ve “beklenmedik sonuçları” öngörme— ne kadar tesirli olduğunu inceledi. Deneklerin bir kısmı, “Pelüş bir oyuncağı oynaması daha eğlenceli hale nasıl getirebilirsiniz?” ve “Yerçekiminin apansız inanılmaz seviyede zayıfladığını ve objelerin kolay kolay havalanabildiğini varsayalım. Ne olurdu?” üzere soruları yanıtlamak için ChatGPT’den yardım aldı. Başka küme da yaratıcılığı teşvik etmek maksadıyla 1975’te müzisyen Brian Eno ile ressam Peter Schmidt tarafından hazırlanmış, kart destesine basılmış muğlak yönlendirmelerden oluşan Oblique Strategies’i kullandı. İştirakçilerden özgün olmaları istenmişti, lakin bir kere daha ChatGPT kullanan kümenin ürettiği fikirlerin mana açısından birbirine benzediği, daha homojenleşmiş fikirler ortaya koyduğu görüldü.
Araştırmanın yürütülmesine yardımcı olan ve üretici yapay zeka teşebbüsü Midjourney’de çalışan Max Kreminski, insanların yapay zekayı yaratıcı süreçlerde kullanırken özgün fikirler üretmekten gittikçe vazgeçme eğiliminde olduklarını söylüyor. Kullanıcıların başta kendi geniş fikir yelpazelerini sunduklarını lakin ChatGPT’nin çok sayıda makul sayılabilecek metinler üretmesiyle kullanıcıların derhal “dijital kürasyon moduna” geçtiklerini aktarıyor. Bu tesir tek taraflı, hem de beklediğiniz istikamette gelişmiyor. Kreminski’nin sözüyle “İnsanların fikirleri makinenin ürettiklerini etkileyemiyor.” ChatGPT, kullanıcıları “geçmişte etkileşimde olduğu farklı kullanıcıların oluşturduğu kütlenin tartı merkezine doğru” çekiyor. Bir yapay zeka aracıyla yapılan sohbetler uzadıkça, makine teknik açıdan çalışma belleğini tabir eden “bağlam çerçevesini” dolduruyor. Bağlam çerçevesi de kendi kapasitesine ulaştığında, yapay zekanın daha evvel ürettiği gereci tekrar etme ya da yine dolanıma sokma mümkünlüğü artıyor, özgünlüğü daha da azalıyor.
M.I.T., Cornell ve Santa Clara’daki tek seferlik deneylerin hepsi küçük ölçekliydi, her biri yüzün altında denekle yapılmıştı, yapay zekanın tesirleri hakkında hâlâ araştırılması ve öğrenilmesi gereken çok şey var. Bu yandan, Mark Zuckerberg’in sahibi olduğu Meta AI uygulamasında, milyonlarca yabancının ürettiği içeriklerden oluşan bir akış görmek mümkün. Ziyadesiyle pürüzsüz imajlar, filtrelenmiş görüntü klipler ve “toplantının yine planlanmasını sağlayacak detaylı bir e-posta” yazmak üzere gündelik vazifeler için üretilmiş metinlerden oluşan gerçeküstü bir içerik akışı bu.
Geçenlerde bu uygulamada aşağı gerçek kaydırırken karşıma çıkan bir komut bilhassa dikkatimi çekmişti. @kavi908 isimli bir kullanıcı, Meta sohbet botundan “yapay zekanın bir gün insan zekasını aşıp aşamayacağını” tahlil etmesini istemişti. Sohbet botu bir dizi kısa metinle karşılık verdi, “gelecek senaryoları” başlığı altında dört mümkünlük sıralıyordu. Hepsi de olumluydu: Yapay zeka, insanlığın faydasına gelişecekti. Karamsar hiçbir öngörü, yapay zekanın başarısız olduğu ya da insanlara ziyan verdiği senaryoların hiçbiri yoktu. Bu modelin —belki de Meta tarafından içine yerleştirilmiş teknoloji yanlısı önyargılarla şekillenen— ortalaması mümkün sonuçları daraltmış ve niyet çeşitliliğinin önünü tıkamıştı. Ancak sohbet botunun bütün öyküyü eksiksiz anlattığına inanmak için beyin faaliyetinizi bütünüyle devredışı bırakmış olmanız gerekirdi.
*Bu yazı, Zeynep Saatli tarafından Kyle Chayka’nın The New Yorker’da yayımlanan makalesinden çevrilmiştir.
Desteğiniz bizim için değerli. Buraya kadar geldiyseniz, hatırlatmak boynumuzun borcu. Türkiye üzere tabir özgürlüğünün daima tehdit altında olduğu bir ülkede, elimizden geldiğince nitelikli yayıncılık yapmanın imkanlarını araştırıyoruz. Güvenilirliğini global ölçekte yitiren medya alanında hâlâ yeterli işler çıkarılabileceğine inanıyor, eleştirel kanıyı müşterek bir toplumsal kıymete dönüştürmeyi hedefliyoruz.
Bağımsız yayıncılığı desteklemeniz bizim için ziyadesiyle pahalı. vessaire’nin dağıtımının sürekliliğinin sağlanmasında ve daha geniş kesitlere ulaşmasında okurlarımızın üstlendiği sorumluluk özel bir mana taşıyor. İmkanınız varsa, vessaire’yi desteklemek için vessaire ana sayfamızı ziyaret edebilirsiniz. Dayanağınız için şimdiden teşekkür ederiz, düzgün ki varsınız.
