tiktok algoritmasında karanlık bir şeyler var // eleanor cummins

tiktok öyle bir algoritmaya sahip ki bizi sanki bizden daha iyi tanıyor. gizli arzularımız, eğilimlerimiz ve yatkınlıklarımız tiktok dünyasında birdenbire karşımıza çıkıveriyor. kullanıcı sayısı bir milyarı aşan tiktok diğer bütün sosyal platformları uzak ara geride bırakacak kadar karmaşık ve güçlü algoritmasıyla internette yeni bir çağı açmış gibi görünüyor. facebook bir profil oluşturmak için size sorular sorarken ve sizin onu kullanma sürecinizde diğer kişisel bilgilerinizi adım adım öğrenirken, tiktok ise hepsini bir anda biliveriyor – ya da öyleymiş gibi görünüyor. tiktok sanki “varlığınızın kendi zihniniz tarafından bile bilinmeyen katmanlarını izleyerek ruhunuzu bir tür ilahi dijital kahin gibi okuyuveriyor.” fakat işin oldukça karanlık bir tarafı var, yakından bakalım…

“Algoritma” denen şeyin size sizden daha iyi tanıdığı artık evrensel ölçekte kabul gören bir gerçek. Bu kabule göre, bir bilgisayar sizin işinizden ya da eşinizden ayrılıp ayrılmayacağınızı sizden önce tahmin edebiliyor. Yazdıklarınızdan yola çıkarak belirli bir zaman içinde yaşınızı belirleyebiliyor vesaire. Fakat hiçbir algoritma, kullanıcıların kendi cinselliklerini keşfetmelerine ve çocukluk travmalarını tespit etmelerine yardım ettiği söylenen TikTok algoritması kadar kapsamlı ve derinlikli değilmiş gibi görünüyor. Facebook bir profil oluşturmak için size sorular sorarken ve sizin onu kullanma sürecinizde diğer kişisel bilgilerinizi adım adım öğrenirken, TikTok ise hepsini bir anda biliveriyor – ya da öyleymiş gibi görünüyor. Jess Joho’nun Mashable’daki yazısında söylediği gibi, TikTok sanki “varlığınızın kendi zihniniz tarafından bile bilinmeyen katmanlarını izleyerek ruhunuzu bir tür ilahi dijital kahin gibi okuyuveriyor.” Bir tür büyüyle karşı karşıyayız gibi…

Fakat tabii ki meselenin bir de karanlık tarafı var. TikTok kullanıcıların çoğu kendilerini WitchTok’a ve bahçecilik videolarına kaptırıyorlar, fakat bir kısım ise dikkat eksikliği ve hiperaktivite bozukluğu, Tourette sendromu ya da otizm üzerine sayısız videoya dalıp gidiyor (örneğin #mentalhealth başlığındaki videolar yaklaşık 21 milyar izlemeye sahipken, onlarca #dance başlığından sadece birinde 341 milyar izleme görülüyor; bunlar kayda değer izlenme verileri sayılabilir). Buradan edinilen bilgiler özellikle de damgalanma korkusuyla gizlenen durumlar açısından oldukça özgürleştirici olabiliyor. Fakat TikTok’un bu sözde-psikiyatrik içeriklerinin dikkate alınması konusunda endişe duyanlar da var. TikTok’ta @dr_inna adıyla yer alan psikoloji profesörü Inna Kanevsky “[Algoritma] bir kere sizi bir yere yerleştirdiğinde, artık sizi hep orada tutuyor ve sanki bir doktor tarafından teşhisiniz konulmuş gibi o yerden çıkmanız mümkün olmuyor” diyor. Bu durum, kâr amacıyla kurulmuş bir algoritma ve güvenilirlikleri şüpheli içerik üreticileri eliyle sunulan ve potansiyel olarak yaşamı değiştiren bir tür paket servisle karşı karşıya olduğumuzu gösteriyor.

Fakat insanların sosyal mecralardan edindikleri bilgilerle kendi kendilerine teşhis koyması üzerine süregiden tartışma, sadece tahmin-üreten makineler değil öngörü-üreten makineler de olarak konumlandırdığımız TikTok ve benzer algoritmalar üzerine ortaya çıkan tartışmaların küçük bir kısmı. Amazon’dan Netflix’e kadar bu türden platformlarda işleyen öneri algoritmaları sizin bir dahaki sefere ne izleyeceğinizi tahmin etmek için tasarlanmışken, TikTok ise sanki size sizin aslında olduğunuz kişiyi sunuyormuş gibi hissettiriyor. Süreç içerisinde kendimizi “bir yapay zekaya dış kaynak olarak öz-farkındalık kazandırmanın” hem tehlikesine hem de umut vaat eden niteliklerine açıyoruz. Programlamayla kurulan bu yeni ilişki tarzı bir yandan kişisel gelişim açısından yeni olanaklar sunabiliyorken, diğer yandan ise bizleri çok daha katı kimlikler içinde sınıflandırmaya başlıyor.

Yapay zeka uzmanı yazar George Zarkadakis 2016 tarihli “Our Own Image” kitabında “İnsan zihni binlerce yıldır kendisine teknolojik metaforlar yoluyla anlam katmaya çalıştı” diyor. Örneğin, Roma İmparatorluğu’nda hidrolik mühendisliğin başarısı insan zekasının dört “mizacın” akışı olarak kavranmasına yol açtı. Bugün ise beyni –anıları “saklayan” ve “tekrar önümüze getiren” ve “bilgiyi işleyen” pek çok makineden biri gibi– bir tür bilgisayar olarak tanımlıyoruz. Bütün bu metaforlar ciddi eksikler barındırıyor elbet, fakat insan sinirbilimi ile bilgisayar biliminin yakın işbirliği zihinlerimiz ile icat ettiğimiz makineler arasında etkileyici benzerlikler olduğunu ortaya koyuyor.

Diğer algoritmalar gibi TikTok’un kahin benzeri nitelikleri de bir dizi tekrarlanan adımın nihai sonucundan başka bir şey değil. Wall Street Journal’ın yakın tarihli bir araştırmasına göre, TikTok’ta birisi bir hesap açtığında, algoritma hemen o kişinin karşısına o kişinin viral olmuş danslardan ev tamiratına kadar içeriklere verdiği tepkileri ve yanıtları sınamak adına tasarlanmış bir dizi popüler video çıkarmaktadır. Bu araştırma için yapılan deney çerçevesinde TikTok’ta yüzden fazla bot hesap açıldığında, TikTok’un “tavşan delikleri” bu botların hepsinin önceden programlanmış ilgi alanlarını iki saatten kısa bir sürede tamamen bulmuştur.

Yale Üniversitesi’nden psikoloji ve bilişsel bilim profesörü John Bargh’a göre aslında işler oldukça basit bir matematik hesabıyla işliyor, fakat hiç güven vermeyen bir taklide dayalı istatistiksel öğrenme de söz konusu. İnsan zihninin bilinçsiz bir şekilde yeni bilgiler edinmesinin yollarından biri bu zaten – çevresindeki dünyadaki örüntüleri fark etmek. Tıpkı TikTok algoritması gibi insanlar da çoğu zaman farkına bile varmaksızın sürekli öğrenirler.

Bir başka deyişle, çoğunlukla kişinin bilinçli farkındalığı olmaksızın işleyen ve yine de bütünüyle kişinin dikkatini çeken şeyler tarafından belirlenen bir süreçten bahsediyoruz.

Bu anlamda, TikTok her ne kadar kullanıcıların kendileri hakkında bilmedikleri şeyleri açığa çıkarıyor gibi görünüyorsa da, gerçekte ise TikTok’un karşınıza meraklarınızı çevrimdışı gidermeye çalışmanıza neden olan toplumsal normlardan özgürleştiğinizde zaten ilginizi çeken –ya da çekecek olan– şeyleri çıkardığını söylemek daha doğru olacaktır. Jess Joho Mashable’daki yazısında “Algoritmalar benim biseksüel olduğumu benden önce bildi” derken, yazısının sonunda ise yaşadığı bu öz-farkındalığın aslında algoritmanın onun arzularını ortaya çıkarma becerisinden daha çok heteronormativitenin arzularını gizlemesine neden olan gücüyle ilgili olduğu sonucuna varıyor. Bu türden anlarda TikTok, yansımanızın göz ardı ettiğiniz ya da bastırdığınız kısımlarını büyüten türden bir ayna gibidir. Belirli kısımlarınızın yüksek çözünürlüklü şekilde karşınıza çıkıvermesi önemli ve anlamlı bir şey, fakat kullanıcıların bunu son derece gizemli bir şeymiş gibi anlamasında bir sorun var.

TikTok algoritmasının bu konudaki artık neredeyse evrensel hale gelen şöhreti, TikTok’un olasılıklara dayanan işlevlerinin teşhis koyucu, hatta belirleyici olarak kabul edilmesini çok kolay hale getiriyor. Bir başka bağlamda düşünürsek, bu yaklaşım algoritmaya güvenildiği anlamına da gelebilir – mesela, eğer algoritma sizin Fransız buldog köpeklerine takıntılı, kırsal giyim tarzına düşkün flörtöz bir lezbiyen olduğunuz konusunda haklı çıkmışsa, aynı güvenilirliğin dikkat eksikliği ve hiperaktivite bozukluğu konusunda da söz konusu olabileceğini en azından düşünmeye değer bulabilirsiniz. Fakat bu sorular, TikTok temelinde ortaya çıkardığı bütün merakları durmaksızın sömürmek üzere tasarlandığı için son derece ağır sorulardır.

Daha da açık konuşursak, TikTok’un gerçek motivasyonu psikanaliz değil, kârdır. Stanford İnsan-Merkezli Yapay Zeka Merkezi Enstitüsü’nden sayısal sosyal bilimci Johannes Eichstaedt’ın sözleriyle, algoritma sizin dikkatinizi sürekli çekmek (ve para kazanmaya devam etmek) için “sizi sıradan bir kullanıcı olmaktan çıkarmaya çalışmaktadır”. “Bu anlamda, ona sunduğunuz her sapmada, algoritma o sapmanın üzerine gidip onu keşfeder.” Gerçek hayatta TikTok’ta kendisine bahçecilik videoları sunulan kişi ile sunulmayan kişi arasındaki fark o iki insanın ortak noktalarından çok daha azmış gibi görünmektedir. Yine de şirketler bu neredeyse görünmez ayrımları son sınırına kadar zorlamaktadırlar.

Çoksatan “How To Do Nothing” kitabının yazarı görsel sanatçı Jenny Odell’in sözleriyle, TikTok’taki ve diğer platformlardaki dijital kimlikler yavaş yavaş “[insanı] neyi seviyorum ve neden seviyorum’un sabit imgesi içine hapsettikçe”, başlangıçtaki sınırsız olasılıklara sahip olunduğu hissi de hızla aşınmaktadır. Odell’e göre, benlik “bir sermaye birimiymişçesine daha kolay bir şekilde pazarlanabilen ve sahip olunabilen bir sürekli ve kavranabilir alışkanlıklar, arzular ve dürtüler örüntüsü”ne indirgendikçe, sizi kendinize –artık kimseniz ona– pazarlamak da o kadar kolay hale gelir.

Bu sürecin yarattığı sonuçlar (Facebook Watch mı yoksa HelloFresh mi gibi) hedefli reklamlarla ya da (Dikkat Eksikliği ve Hiperaktivite Bozukluğu mu yoksa Obsesif Kompülsif Bozukluk mu gibi) zihinsel hastalık teşhisleriyle sınırlı değildir. Bizler TikTok’a gizemli nitelikler atfettiğimiz sürece, aslında kendi sahip olduğumuz –hiçbir algoritmanın bilemeyeceği– gizemli nitelikleri önemsemez hale geliyoruz. Netflix kategori kodunuzun (son zamanlarda benimki #1476024: Noel, Çocuklar & Aile Filmleri, 1990lar) mesela Yeşil Yeni Düzen hakkındaki düşünceleriniz kadar önemli ve gittiğiniz üniversite kadar sürekli bir belirleyici olduğu düşüncesiyle, anahtar-kelimelerle aranabilen bir benlik algısına karşılık bir sınırsız olasılıklara sahiplik duygusunun sahibi olmak için para döküyoruz.

Bugünlerde belirli yıllarda doğan insanlarla daha fazla ortak noktamızın olduğunu anlamsızca varsayan hatalı “nesil” mantığından daha da kötüsünü yaşıyoruz, çünkü artık nesiller üç dakikalık bir videodan daha kısa sürede değişiyor.

Bu algoritmaların ortaya çıkardığı sorunlara karşı, Metaverse’in iyice derinlerine gömülmekten her şeyi bırakıp ormanda yaşamaya kadar uzanan sayısız çözüm önerisi mevcut. Fakat beyin ile ilgili işe yaramayan metaforlardan kurtulmak –ve insani deneyimin hakiki kaosunu kabullenmek– iyi bir başlangıç noktası olacaktır.

Sigmund Freud “bilinçdışı” düşüncesini bir asırdan fazla zaman önce bastırılmış anılar, inançlar ve arzuların girdapvari bir derinliği olarak kavramsallaştırmıştı. Freud’un pek çok düşüncesi gibi “bilinçdışı” da bir sonraki yüzyılın bilimsel araştırmaları tarafından aşıldı; bugün ise bilişsel bilimle uğraşan bilim insanları artık “id” ve “süperego”dan değil, “örtük” ya da “otomatik” işlevlerden bahsediyorlar. Fakat New Yorker’dan Louis Menand’ın sözleriyle “Popüler tahayyülde [Freud] bir tür zihin şairi haline geldi.” Freud’un düşünceleri içinde yaşadığımız bu algoritmik çağda bile edebiyat, pazarlama ve kendimiz ve birbirimiz hakkında konuşma tarzımız üzerindeki egemenliğini sürdürüyor. “Gerçek sen”i ortaya çıkarmak bugüne kadar kendini-keşfetme kültünün temel unsurlarından biri olmaya devam etti – yine bunun için konuşma terapilerinin yanı sıra psilosibine, sağlığımız için inzivaya çekilmeye ve TikTok’a da bel bağladığımız ortada. Geldiğimiz noktada insanlarla artık birer kumar makinesi gibi oynanırken, sınırsız derinlikler TikTok’a ait bir şey haline geliyor.   

Mesele, topyekun şeffaflığa yönelik bu inatçı gidişin hiç de göründüğü gibi soylu ve hatta gerekli bir şey olmaması. Önyargılarımız ve arzularımız dahil pek çok şey sorgulanmaya değer şeyler; fakat (içinde yaşayıp gittiğimiz) evrenin büyük kısmı biz ne kadar kavramaya çalışırsak çalışalım gizemini korumaya devam ediyor. Psikolog Daniel McAdams’ın sözleriyle, bir insanı (ya da benliği) gerçek anlamda tanımak, o insanın favori Taylor Swift şarkısının hangisi olduğundan ziyade onun yaşam öyküsü, gelecek için hedefleri, savunma mekanizmaları ve baş etme stratejileri, becerileri ve zayıflıkları, kendilerini nasıl gördükleri ve başka bir sürü şeyi bilmeyi gerektiriyor. Öğütülecek daha çok fazla veri var, fakat kendimizi bir dizi bir ve sıfıra indirgemek yerine sahip olduğumuz karmaşıklığı korumak daha iyi olacak gibi görünüyor.

kaynak: wired / çevirgen: kromozom #0