Örnek Olay: İçerik Denetimi
30'den fazla doküman web'den çıkarıldı ve İçerik Denetleme için açıklama eklendi
bağlantı kurduğumuz ve iletişim kurduğumuz çevrimiçi alanı güvence altına almaya çalışan.
Sosyal medya kullanımı artmaya devam ettikçe,
siber zorbalık sorunu ortaya çıktı
çabalayan platformlar için önemli bir engel
güvenli bir çevrimiçi alan sağlayın. şaşırtıcı
Bireylerin %38'i bununla karşılaşıyor
günlük olarak zararlı davranış,
yaratıcı için acil talebi vurgulayarak
içerik denetleme yaklaşımları.
Günümüzde kuruluşlar,
kalıcı sorunları çözmek için yapay zeka
proaktif olarak siber zorbalık sorunu.
Siber güvenlik:
Facebook'un 4. Çeyrek Topluluk Standartları Uygulama Raporu açıklandı - %6.3'luk proaktif tespit oranıyla 49.9 milyon parça zorbalık ve taciz içeriğine yönelik eylem
Eğitim:
A 2021 çalışma bulundu %36.5Amerika Birleşik Devletleri'ndeki öğrencilerin yaşları arasındaki yüzdesi 12 ve 17 yıllarca okulları boyunca bir noktada siber zorbalık yaşadılar.
2020 raporuna göre, küresel içerik denetleme çözümleri pazarının değeri 4.07'da 2019 milyar ABD dolarıydı ve 11.94'de %2027'lik YBBO ile 14.7 milyar ABD dolarına ulaşması bekleniyordu.
Gerçek Dünya Çözümü
Küresel görüşmeleri yöneten veriler
Müşteri, güçlü bir otomatikleştirilmiş
içerik denetimi Makine Öğrenimi
Bulut teklifi için model oluşturdukları
alan adına özel satıcı arıyorlardı.
doğru eğitim verileriyle onlara yardımcı olabilir.
Doğal dil işleme (NLP) konusundaki kapsamlı bilgimizden yararlanarak, müşteriye Zehirli, Yetişkinlere Uygun veya Müstehcen içerik olarak ikiye ayrılan otomatik içerik denetleme Makine Öğrenimi Modeli oluşturmak için hem İngilizce hem de İspanyolca dillerinde 30,000'den fazla belgeyi toplama, sınıflandırma ve açıklama ekleme konusunda yardımcı olduk. kategoriler.
Sorun
- Öncelikli alanlardan hem İspanyolca hem de İngilizce olarak 30,000 belgeyi web kazıma
- Toplanan içeriği kısa, orta ve uzun bölümlere ayırma
- Derlenen verileri toksik, yetişkinlere uygun veya müstehcen içerik olarak etiketleme
- Minimum %90 doğrulukla yüksek kaliteli ek açıklamaların sağlanması.
Çözüm
- Web, BFSI, Sağlık Hizmetleri, İmalat ve Perakende'den İspanyolca ve İngilizce için her biri 30,000 belge hurdaya ayırdı. İçerik ayrıca kısa, orta ve uzun belgeler olarak ikiye ayrıldı
- Sınıflandırılmış içeriği zehirli, yetişkinlere uygun veya müstehcen içerik olarak başarıyla etiketleme
- Shaip, %90 kalite elde etmek için iki aşamalı bir kalite kontrol süreci uyguladı:
» Seviye 1: Kalite Güvence Kontrolü: Doğrulanacak dosyaların %100'ü.
» Seviye 2: Kritik Kalite Analizi Kontrolü: Shaips'in CQA Ekibi, retrospektif örneklerin %15 - %20'sini değerlendirecek.
Sonuç
Eğitim verileri, daha güvenli bir çevrimiçi ortamı sürdürmek için faydalı olan çeşitli sonuçlar sağlayabilen otomatik içerik denetleme ML modelinin oluşturulmasına yardımcı oldu. Önemli sonuçlardan bazıları şunlardır:
- Çok büyük miktarda veriyi işleme verimliliği
- Denetleme politikalarının tek tip uygulanmasını sağlamada tutarlılık
- Büyüyen kullanıcı tabanına ve içerik hacimlerine uyum sağlamak için ölçeklenebilirlik
- Gerçek Zamanlı Denetleme, &
potansiyel olarak zararlı içeriği oluşturuldukça kaldırın - İnsan moderatörlere olan güveni azaltarak maliyet etkinliği
İçerik Denetleme Örnekleri
Bir sonraki AI girişiminize nasıl yardımcı olabileceğimizi bize bildirin.