MIT'den Sahte Haberleri Otomatik Tespit Edecek Sistem
Günümüzde birçok habere bir tıkla ulaşmak mümkün olabiliyor. Asıl soru, hangisinin gerçek haber olduğu. MIT'den araştırmacılar, haberlerin sahte olup olmadığını tespit etmek için kullanılan sistemleri daha da geliştirmeyi amaçlıyor.
Kötü amaçlı kişiler, sahte haberler üretmek ve okuyucuları amaçları doğrultusunda kandırmak için giderek daha gelişmiş yöntemler kullanıyorlar. OpenAI’nin insan yazarlarını taklit etmeye çalışan GPT-2 modeli de dâhil olmak üzere AI (yapay zekâ) tabanlı metin üretme sistemleri bu konuda büyük rol oynuyor. Araştırmacılar, yapay olarak üretilen metni tespit etmek için araçlar geliştirmeye devam ediyorlar. Bununla birlikte MIT'den yeni bir araştırma, bu dedektörlerin çalışmasında temel bir kusur olabileceğini öne sürüyor.
Metnin bir makine tarafından mı yoksa bir insan tarafından mı üretildiğini belirlemek yerine bir metnin gerçek olup olmadığına bakılmalı:
MIT profesörü Regina Barzilay’a göre bu araştırma, mevcut haber sınıflandırıcılarının güvenilir olmadığını vurguluyor. Bu kusurların üstesinden gelmek için aynı araştırmacı grubu, dünyanın en büyük 'gerçekleri kontrol eden' veritabanı olan Fact Extraction And Verification'ı (FEVER) yeni tespit sistemleri geliştirmek için kullandı.
Schuster, olumsuz ifadelerin çoğu zaman model tarafından yanlış sayıldığını söyledi. İnsan tarafından oluşturulan ifadelerin çoğu ‘yapmadı’ ve ‘henüz’ şeklinde ve çoğunlukla yanlış ifadelerde görünüyor. Bununla birlikte takım, FEVER'i parçalayarak bir veri oluşturduğunda tespit modelinin doğruluğu %86'dan %58'e düştü. Modelin herhangi bir dış kanıt olmadan iddianın dilini dikkate aldığı söylendi. Dolayısıyla bir dedektörün gelecekteki bir olayı yanlış olarak kabul edebileceği bir ihtimal var çünkü dış kaynakları doğrulama sürecinin bir parçası olarak kullanmamış.
Ekip, durum kontrolünü mevcut savunma mekanizmalarıyla birleştirerek yeni yanlış bilgilendirme türlerini tespit etme modelini geliştirmeyi umuyor.
Kaynak : https://thenextweb.com/artificial-intelligence/2019/10/15/mit-researchers-unveil-new-system-to-improve-fake-news-detection/
sıradaki haber: Beats Solo Pro Tanıtıldı: İşte Fiyatı ve Özellikleri