Trollere karşı yapay zeka

Google’ın kardeş firması Jigsaw, internette nefret içerikli yorum ve paylaşımlara karşı yapay zekayla savaş başlattı.

İnternette çok sayıda trol, nefret içerikli mesajlarıyla diğer kullanıcıları rahatsız ediyor. Google’ın kardeş firması Jigsaw, internette dolanan bu “zehirli” yani “nefret içerikli” paylaşımlara yapay zekayla savaş açtı.

Perspective adı verilen program aracılığıyla nefret içeren, düşmanca, kötü niyetli ya da incitici bu tarz paylaşımların daha kolay tespit edilmesi hedefleniyor.

Jigsaw firması, Google tarafından desteklenen Digital News Initative (Dijital Haber Girişimi) çerçevesinde, Perspective programıyla ücretsiz kullanılabilecek bir API (iki yazılımın veya veritabanının birbiri ile sorunsuz çalışabilmesini sağlayan yapı) hizmete sunacak.

Söz konusu hizmet daha önce Wikimedia Vakfı ve New York Times tarafından trolleri ve nefret içerikli yorumları otomatik olarak tespit etmek amacıyla denendi. Wikimedia tartışma sayfalarında 115 bin mesaj da dahil pek çok veri incelendi.

Program çok farklı dillere genişletilebilecek

Perspective hizmeti önce İngilizce tartışma forumları için hizmete konuldu. Ancak kullanımı, Digital News Initative kapsamında Almanca da dahil çok farklı dillere genişletilebilecek.

Google’un ana firması Alphabet’e ait olan Jigsaw, hedefini, “dünyayı teknoloji ile daha güvenli bir yer yapmak” olarak açıklıyor.

Jigsaw yöneticisi Jared Cohen, Perspective programının, şüpheli anahtar kelimeler listesiyle ayarlama yapılmasını içerdiğini söyledi. Cohen, yapay zekanın, bir içeriğin bir insan tarafından uygunsuz olarak nitelendirilip nitelendirilmeyeceğini anladığını ve o kişinin sohbetten ayrılmasını sağladığını kaydetti.

İnternette taciz

Yapılan bir çalışmaya göre, ABD’lilerin yüzde 72’si internette tacizin var olduğu görüşünde. Kullanıcıların yarısı ise bunu bizzat yaşadıklarını bildirdi. Yapılan çalışmaya katılanların üçte biri ise nefret eylemlerinden korktuğu için kendini online yorumlarda sansürlediğini kaydetti.

Jigsaw’un yapay zekası bir yorumun ne kadar ”zehirli” olduğunu 0’dan 100’e kadar bir rakamla tespit ediyor. Bu yorumlara ne yapılacağı ise söz konusu sitenin yayıncılarına kalmış. Sistem sayesinde moderatörler şüpheli yorumlar konusunda bilgilendirilebilecek.