Uluslararası Af Örgütü ve Element AI şirketi, kadınlara yönelik sanal istismara ilişkin şimdiye kadar yapılmış en kapsamlı araştırmanın sonuçlarını yayımladı.

Uluslararası Af Örgütü (UAÖ), Twitter’da kadınlara yönelik sanal istismara ilişkin küresel bir yapay zeka yazılım ürünleri şirketi olan Element AI ile gerçekleştirdiği çığır açan araştırmanın sonuçlarını yayımladı. UAÖ, incelenen örneklem içinde, siyahi kadın siyasetçilerden ve gazetecilerden söz eden her 10 tweet’ten birinin istismar edici veya sorunlu olduğunu belirtti.

150 ülkeden 6.500’ün üzerinde gönüllü, sanal istismar hakkındaki çok geniş kapsamlı verilerin işlenmesi için tasarlanmış ve benzersiz bir kitle kaynak projesi olan Troll Patrol’e kaydoldu. Gönüllüler, 2017’de Birleşik Krallık ve Amerika Birleşik Devletleri’nde (ABD) 778 kadın siyasetçiye ve gazeteciye gönderilen 228.000 tweet’i sınıflandırdı.

UAÖ ve Element AI daha sonra kadınların Twitter’da karşı karşıya kaldığı istismarın boyutlarına ilişkin verileri anlamlandırmak için gelişmiş veri bilimi ve yapay zeka ile öğrenme tekniklerini kullandı. Element AI, çalışma kapsamındaki kadınlara yıl boyunca 1.1 milyon istismar edici veya sorunlu tweet atıldığını hesapladı. Bu da ortalama 30 saniyede bir benzeri bir tweet atıldığı anlamına geliyor.

UAÖ Taktiksel Araştırmalar Kıdemli Danışmanı Milena Marin konu hakkında yaptığı açıklamada, “Teknik uzmanların ve binlerce gönüllünün desteğiyle kadınlara yönelik sanal istismar konusunda dünyanın en büyük kitle kaynaklı veri setini oluşturduk. Troll Patrol, kadınların uzun zamandır bize söylediği bir şeyi destekleyen verilere sahip olduğumuz anlamına geliyor: Twitter, ırkçılığın, kadın düşmanlığının ve homofobinin hiçbir denetim olmaksızın artmasına göz yumulan bir mecradır” dedi. Marin, sözlerini şöyle sürdürdü:

“Bulgularımıza göre siyasi yelpazenin her kesiminden kadınlar istismarın hedefi olsa da beyaz olmayan kadınların istismardan zarar görmesi daha olası, siyahi kadınlar ise orantısız biçimde hedef alınıyor. Twitter’ın bu sorunun üzerine gitmemesi, halihazırda toplum dışına itilmiş olan seslerin susturulmasına katkı sağladığı anlamına gelir.”

Element AI, istismar edici tweet’leri otomatik olarak tespit etmeye çalışan bir uygulamanın yapay zeka ile öğrenme modelini geliştirmek için Troll Patrol’deki verileri topladı. Element AI, geliştirdiği modeli denemek ve yapay zekayı bu alanda kullanmanın olası ve mevcut sınırlarını göstermek için üç haftalığına kullanıma açıyor.

‘AI For Good’ (Yapay Zekanın İyilik İçin Kullanılması) platformunun Araştırma Direktörü ve Element AI Londra Şubesi Başkanı Julien Cornebise, “Bu çalışma, UAÖ ile Element AI arasındaki uzun süreli iş birliğinin bir parçasıdır. Biz, yapay zekaya ilişkin daha dengeli bir tutum benimseyerek uzun vadeli taahhütlerde bulunuyor, teknik uzmanlarımızı ve araçlarımızı, ellerinden geleni yapmalarını kolaylaştırmak için ortak faydayı gözeten aktörlerin hizmetine sunuyoruz” dedi. Örnekleme dahil olan siyasetçiler ABD ve Birleşik Krallık’taki siyasi yelpazenin farklı kesimlerine mensup. Örneklemin içerdiği gazeteciler ise The Daily Mail, The New York Times, Guardian, The Sun, GalDem, Pink News ve Breitbart da dahil olmak üzere ABD ve Birleşik Krallık’taki çok çeşitli yayınlarda çalışıyor.

Temel bulgular

*  Siyahi kadınlar orantısız biçimde hedef alındı. İstismar edici veya sorunlu tweet’lerde siyahi kadınlardan beyaz kadınlara göre yüzde 84 daha fazla söz edildi. Siyahi kadınlardan bahsedilen her 10 tweet’ten 1’i istismar edici veya sorunluyken, beyaz kadınlardan bahsedilen her 15 tweet’ten 1’i istismar edici veya sorunluydu.

*  Çalışmada yer alan kadınlara gönderilen tweet’lerin yüzde 7.1’i sorunlu veya istismar ediciydi. Bu oran, yıl boyunca 778 kadından söz eden 1.1 milyon istismar edici veya sorunlu tweet atıldığı, yani ortalama her 30 saniyede benzeri bir tweet atıldığı anlamına geliyor.

*  Beyaz olmayan (siyahi, Asyalı, Latin kökenli ve melez) kadınlardan, istismar edici veya sorunlu tweet’lerde beyaz kadınlara göre yüzde 34 daha fazla söz edildi.

*  Sanal istismar, siyasi yelpazenin her kesimini etkiliyor. Siyasetçiler ve gazeteciler benzer seviyede sanal istismara uğradı. Araştırmamızda hem liberallerin hem muhafazakarların, ayrıca sol ve sağ eğilimli basın örgütlerinin birbirine benzer şekilde etkilendiğini gözlemledik.

UAÖ, Twitter’dan defalarca Twitter’daki istismarın boyutları ve niteliğine ilişkin verileri açıklamasını talep etti, ancak şirket şimdiye dek hiçbir açıklama yapmadı. Bu durum, sorunun gerçek boyutlarını gizliyor ve etkin çözümler oluşturulmasını zorlaştırıyor.

Troll Patrol gönüllüleri, kolektif olarak 2.500 saati tweet’leri analiz etmeye ayırdı. Bu süre, tam zamanlı çalışan birinin 1.5 yıl çalışma süresine tekabül ediyor.

“Kitle kaynaklı araştırma yaparak bir UAÖ araştırmacısının harcayacağı zamanın küçük bir kısmı kadar sürede çok önemli kanıtlar topladık. Üstelik bunu, tweet’lerle ilgili bağlamın incelenmesinde çok büyük önem taşıyan muhakeme yeteneğini kaybetmeden yaptık” diyen Milena Marin, sözlerini şöyle sonlandırdı:

“Troll Patrol, Twitter’ı denetlemeye veya içeriklerini kaldırması için zorlamaya çalışmıyor. Twitter’dan daha şeffaf olmasını talep ediyoruz ve Troll Patrol bulgularının bu değişimin yaratılmasında teşvik edici olmasını umuyoruz. Twitter, istismarı saptamak için yapay zeka öğrenimini tam olarak nasıl kullandığı konusunda şeffaf olmalı ve hangi algoritmalara dayandığıyla ilgili teknik bilgileri yayınlamalıdır.”

Arka Plan

İstismar edici içerikler Twitter’ın kendi kurallarını ihlal ediyor. Irk, etnik kimlik, ulusal köken, cinsel yönelim, cinsiyet, cinsel kimlik, dini aidiyet, yaş, engellilik veya ağır hastalığa dayalı şiddeti veya tehditleri kışkırtan tweet’ler bu içerikler kapsamındadır. Sorunlu içerikler ise istismar edici tweet’ler kadar şiddetli olmasa da özellikle bir kişiye birden çok seferde veya birikerek artan şekilde yöneltilen, yaralayıcı veya düşmanca içeriklere denir. UAÖ, bulgularını Twitter ile paylaştı. Twitter, verdiği cevapta, “sorunlu” ifadesinin tanımının “ifade özgürlüğünün korunması ve politikaların açık ve sınırlı bir biçimde oluşturulması gerekliliğine uygun bir şekilde” açıklığa kavuşturulmasını istedi

Araştırmanın yöntemi hakkında daha fazla bilgi almak için interaktif web sayfasına bakabilirsiniz: <https://decoders.amnesty.org/projects/troll-patrol/findings>