Google'ın sunduğu 'Content Safety API' sayesinde kurumlar internet üzerindeki çocuk tacizi görsellerini daha hızlı yakalayıp önlem alabilecekler
Çocuk tacizi görsellerinin yayılması internet üzerindeki en ciddi sorunlardan biri. Bu türden görsellerin temizlenmesi ve erişilmesinin engellenmesi için birçok organizasyon küresel olarak çalışmakta. Google da bu çabalara destek olmak için yapay zeka destekli yeni bir araç hazırlamış. ‘Content Safety API’ adı verilen araç seçili geliştiricilere, şirketlere ve kurumlara sunulacak. Bu araç sayesinde internette çocuk tacizi görselleri daha kolay bulunacak ve ortadan kaldırılabilecek.
Çocuk tacizi görselerini saptama ve yakalamada, şimdiye kadar işin büyük kısmı insan operatörlere düşmekteydi. Fakat burada görevlilere büyük bir psikolojik yük biniyor. Çünkü çoğu üzücü, acı verici veya insanlık dışı kabul edilebilecek taciz görsellerinin hepsinin gözden geçirilmesi insan görevlilerin işi. Bu süreç görevlilerin kısa sürede yıpranmalarına yol açmakta. Her ne kadar kurumlar ve kar amacı gütmeyen çeşitli organizasyonlar çocuk tacizini durdurmaya kararlı bile olsa, görevlilerinin işleri yüzünden psikolojik rahatsızlıklara uğramalarının önüne geçmekte zorlanıyorlar.
İşte yeni duyurulan araç insan görevlilerin üzerindeki yükü azaltmak için tasarlanmış. Content Safety API arka planında Google’ın derin nöral ağlarını kullanan bir uygulama geliştirme arayüz aracı. Çocuk tacizi olduğu düşünülen görselller önce bu API ile hazırlanan tarama uygulamalarından geçiriliyor. Derin öğrenme ile eğitilmiş yapay zeka, görsellerin taciz odaklı olup olmadığını insan görevlilerden daha kısa sürede ve hiç sorun yaşamadan tespit edebiliyor. Sistemin emin olamadığı görseller ise insan görevlilerin onayından geçirilmekte.
Google yaptığı açıklamada Content Safety API sayesinde görevlilerin ve kurumların aynı süre içinde yüzde 700 daha fazla görsel tarayabildiğini belirtiyor. API ücretsiz olarak, Google’ın ortağı olan güvenilir kurum ve organizasyonlara dağıtılacak. İntermet üzerinde çocuk tacizi vakalarını minimize etmeye çalışan, İngiltere kökenli ‘Internet Watch Foundation’ gibi kurumlar bu aracın geliştirilmiş olmasını memnuniyetle karşıladıklarını söylüyorlar. Bu ve benzeri akıllı araçlar sayesinde, dev küresel iletişim ağı daha temiz ve her yaştan kullanıcılar için daha güvenli bir ortam haline gelebilecek.