Yuval Noah Harari: Robotlardan değil, bilgi ağını yönetenlerden korkmamız gerek

Yapay zekâ devrimi hızını aldıkça ortalık iyimser ütopyalardan ve kıyamet kehanetlerinden geçilmiyor. Bilim kurgu dünyası insanları hep Büyük Robot İsyanı’na karşı uyardı. Terminatör ve Matrix gibi birçok bilim kurgu roman ve filminde yapay zekalar ve robotlar dünyayı ele geçirmeye karar verip efendilerine karşı ayaklanıyor ve insanlığı ya köleleştiriyor ya da yok ediyor. Ama yakın gelecekte böyle bir ihtimal sıfıra yakın görünüyor.

Financial Times’a makale yazan Yuval Noah Harari “Yapay zekâ bürokratları” hakkında uyardı. Harari yazdığı mektupta şunları yazdı:

Teknoloji o seviyeden uzak. Şu an için yapay zekalar aptal bilginler olarak nitelenebilir. Satranç oynamak, protein katlamak ve metin oluşturmak gibi bazı niş alanlarda ustalaşmış olabilirler ancak robot ordusu kurmak veya ülkeleri ele geçirmek gibi son derece karmaşık faaliyetler için gereken genel zekadan yoksunlar.

TERMİNATÖR DEĞİL KAFKA

Büyük Robot İsyanı’nın muhtemel görünmemesi korkacak bir şey olmadığı anlamına gelmiyor. Çünkü korkmamız gereken şey katil robotlar değil dijital bürokratlar. Yapay zekâ distopyasını anlamak istiyorsak Terminatör’den ziyade Kafka’nın “Dava” romanına bakmak daha iyi bir kılavuz olabilir.

Milyonlarca yıllık evrim sonucunda insanlar Terminatör’de gösterilene benzer vahşi yırtıcılardan korkmaya şartlandı. Bürokrasi memelilerin ve hatta insanın evriminde çok yeni bir gelişme olduğundan bürokratik tehditleri çok daha zor kavrıyoruz. Zihnimiz kaplanlar tarafından öldürülmekten korkmaya hazır ama evraklar tarafından değil.

Antik Mezopotamya’da yazının icadından sonra ortaya çıkan bürokrasinin tarihi sadece 5 bin yıl geriye uzanıyor. Ancak bürokrasi insan toplumlarını radikal ve beklenmedik biçimde hızla değiştirdi. Yazılı belgelerin ve bunları kullanan bürokratların mülkiyet kavramının anlamı üzerindeki etkisini düşünün. Yazılı belgelerin icadından önce mülkiyet toplumsal uzlaşıya dayanıyordu. Bir tarlanın “sahibi” olmak demek komşularınızın oranın size ait olduğunu sözleri ve eylemleriyle kabul etmesi demekti. Siz izin vermediğiniz sürece o tarlaya bina dikmiyor, ekinini biçmiyorlardı.

Sahipliğin komünal yapısı sebebiyle bireysel mülkiyet hakları sınırlıydı. Örneğin komşularınız belli bir tarlayı işleme hakkının sadece size ait olduğunu kabul etmiş olabilirdi ama orayı yabancı birine satma hakkınızı kabul etmiyorlardı. Üstelik sahiplik toplumsal uzlaşıya tabi olduğu sürece uzaktaki merkezî otoritenin toprağı kontrol etme kabiliyetini de engelliyordu. Yazılı kayıtların ve ayrıntılı bürokrasinin olmadığı bir dünyada, merkezden uzak yüzlerce köydeki hangi tarlanın kime ait olduğunu hiçbir kral hatırlayamazdı. Dolayısıyla kralların vergi alması zordu. Bu da sürekli bir ordu ve emniyet teşkilatı kurmalarını önlüyordu.

YAZIYLA GELEN MÜLKİYET DEVRİMİ

Sonra yazı icat oldu. Ardından arşiv ve bürokrasi yaratıldı. Antik Mezopotamyalı bürokratlar küçük çubuklar kullanarak esasen çamur parçasından ibaret olan kil tabletlerin üzerine bazı işaretler yapıyordu. Ancak yeni bürokratik sistemler için bu çamur parçaları mülkiyet konusunda devrim demekti. Tarla sahibi olmak bir anda o tarlaya sahip olduğunuzun kil tablet üzerinde yazılı olması anlamına gelmeye başladı. Komşularınız yıllarca oradan meyve toplamış olsa ve hiçbiri o toprak parçasının size ait olduğunu söylemese bile elinizde oranın sahibi olduğunuzu gösteren resmi bir çamur parçası varsa mahkemede tarlanın sahibi olduğunuzu iddia edebiliyordunuz. Buna karşılık yerel halk bir tarlanın size ait olduğunu kabul ediyor fakat bu yönde resmi onay damgalı bir belge bulunmuyorsa oranın sahibi olmuyordunuz. Aynısı bugün de geçerli. Sadece bizim hayati belgelerimiz kil yerine kağıt veya silikon çipler üzerine yazılıyor.

VERGİ SİSTEMİ BÖYLE DOĞDU

Mülkiyet toplumsal rıza yerine yazılı belgelerin konusu haline gelince insanlar komşularına sormadan tarlalarını satabilir hale geldi. Tarlayı satmak için elinizdeki kil tableti başka birine vermek yetiyordu. Ancak bu aynı zamanda sahipliğin artık ilgili belgeleri veren ve muhtemelen merkezdeki arşivinde de bulunduran uzak bürokrasi tarafından belirlendiği anlamına geliyordu. Böylece vergi koymanın, askerlere para vermenin ve büyük merkezi devletler kurmanın yolu açıldı. Yazılı belge dünyadaki güç akışını değiştirdi ve bürokratlar bir anda vergi tahsildarı, veznedar, muhasebeci, arşivci ve hukukçuya dönüşerek çok büyük prestij kazandı. Bilgi ağının kaynağı haline gelip vergi, ücret ve hatta asker hareketlerini iyi veya kötü yönde kontrol eder oldular. Bunu belgeleri, formları, yasaları ve diğer bürokratik araçları kullanarak yapıyorlardı.

AVUKAT FİLİ YENEBİLİR Mİ?

Yapay zekâ şimdi bu gücü ele geçirme niyetinde. Bürokrasi yapay bir ortamdır ve burada dar bir alandaki ustalık bilgi akışını manipüle ederek dünyada çok büyük etki yaratmaya yetebilir. Bugünkü yapay zekayı belli bir yapıdan yoksun ve dağınık bir dünyaya atarsanız muhtemelen çok fazla şey yapamayacaktır – robot ordusu kuramayacağı kesin. Ancak bu bir şirket avukatını darmadağın ve düzensiz bir savanaya göndermeye benziyor. Böyle bir yerde avukatın kabiliyetleri hiçbir anlam ifade etmez ve ne fille ne de aslanla başa çıkabilir. Ama önce savanada bürokratik sistem kurup uygulamaya başlarsanız dünyanın bütün aslanlarını toplasanız avukatın gücüyle başa çıkamazlar. Bugün aslanların kaderi labirenti andıran bürokrasilerde belge hazırlayan ve taşıyan avukatların elinde. Yapay zekâ bu labirentte hiçbir gerçek avukatın elde edemeyeceği güce ulaşabilir. Hayati önem taşıyan da bu.

Dünyada yapay zekanın otomatize hale getirdiği ilk mesleklerden birinin taksi şoförlüğü veya tekstil işçiliği değil haber editörlüğü olması ilginç. Bir zamanlar Lenin ve Mussolini’nin yaptığı mesleği şimdi yapay zekalar yapabiliyor

Önümüzdeki yıllarda milyonlarca yapay zekâ bürokrat sadece aslanların değil insanların hayatına dair de karar almaya başlayacak. Kredi alıp alamayacağınıza yapay zekâ bankacılar karar verecek. Üniversiteye alınıp alınmayacağınızı eğitim sistemindeki yapay zekalar belirleyecek. İşe alınıp alınmayacağınıza şirketlerdeki yapay zekalar karar verecek. Hapse girip girmeyeceğinize yargı sistemindeki yapay zekalar karar verecek. Evinizin bombalanıp bombalanmayacağına ordudaki yapay zekalar karar verecek. Bu yapay zekalar illa kötü olacak diye bir şey yok. Sistemleri çok daha verimli, hatta daha adil hale getirebilirler. Daha iyi sağlık, eğitim, yargı ve güvenlik sistemlerine sahip olmamızı sağlayabilirler. Ancak işler ters giderse feci sonuçlar ortaya çıkabilir. Aslına bakarsanız birkaç alanda şimdiden ters gitti bile.

AÇGÖZLÜLÜK, NEFRET VE KORKU

Muhtemelen şu ana kadarki en anlamlı örnek sosyal medya algoritmaları. Bu ilkel yapay zekalar, topluma muazzam ölçüde etki ederek şimdiden dünyayı şekillendiriyor. Facebook, X, YouTube ve TikTok gibi şirketlerin algoritmalarına aptal bilginler için ideal, son derece kısıtlı bir görev veriliyor: Kullanıcı katılımını artırmak. Ne de olsa kullanıcılar sosyal medyada ne kadar vakit geçirirse şirketlerin kârı o kadar artıyor. Ancak kullanıcı bağlılığını artırma peşindeki algoritmalar tehlikeli bir şey keşfetti. İnsan suretindeki milyonlarca kobay üzerinde deneyler yaparak açgözlülük, nefret ve korkunun kullanıcıları daha fazla çektiğini öğrendiler. Bir insanın zihnindeki açgözlülük, nefret ve korku düğmesine basınca dikkati size yöneliyor, ekrana yapışıp kalıyordu. Bunu gören algoritmalar kasıtlı olarak açgözlülük, nefret ve korku saçmaya başladı. Bugün bütün dünyada toplumların altını oyan komplo teorisi, yalan haber ve sosyal kargaşa salgınının ana nedenlerinden biri de bu.

TARİHİN AKIŞINI DEĞİŞTİREN GAZETECİLER

Sosyal medya algoritmaları savanada hayatta kalamayacak ve Büyük Robot İsyanı’nı yönetemeyecek kadar kısıtlı yapay zekâ örnekleri. Ancak bu aptal bilginler, sosyal medya platformlarının bürokratik yapısı içinde bir zamanlar insanlığa özgü olan muazzam bir güce sahipler. Radyo ve televizyonda hangi haberlerin yer alacağına, gazetelerde neyin manşet olacağına yüzyıllardır editörler karar veriyor. Bu sayede kamuoyunun gündemini biçimlendirip güçlü figürler oldular. Nüfuzlu L’Ami du Peuple gazetesinin editörü Jean-Paul Marat Fransız Devrimi’nin gidişatını değiştirdi. Der Sozialdemokrat’ın editörü Eduard Bernstein modern sosyal demokrasi düşüncesini biçimlendirdi. Vladimir Lenin’in Sovyet diktatör olmadan önceki en önemli unvanı Iskra gazetesinin editörlüğüydü. Benito Mussolini deli fişek sağcı gazete Il Popolo d’Italia’nın editörü olarak ün ve güç kazandı. Dünyada yapay zekanın otomatize hale getirdiği ilk mesleklerden birinin taksi şoförlüğü veya tekstil işçiliği değil haber editörlüğü olması ilginç. Bir zamanlar Lenin ve Mussolini’nin yaptığı mesleği şimdi yapay zekalar yapabiliyor.

                                                                                Jean-Paul Marat

Algoritmik editörlerin insan toplumlarında yarattığı kargaşa bir uyarı işareti olarak görülmeli. İnsanın dünyası çok sayıda bürokrasiden oluşan karmakarışık bir örgü. Yapay zekalar Büyük Robot İsyanı’nı yönetecek beceriden yoksun olsalar da bu örgü içinde muazzam güç biriktirebilirler. İçeriden fethedebileceğiniz bir sisteme niye isyan edesiniz ki?

patronlardunyasi.com