Örnek Olay: İçerik Denetimi
Sosyal medya kullanımı artmaya devam ederken, siber zorbalık sorunu güvenli bir çevrimiçi alan sağlamaya çalışan platformlar için önemli bir engel olarak ortaya çıktı. Bireylerin %38'i gibi şaşırtıcı bir oran günlük olarak bu zararlı davranışla karşılaşıyor ve bu da yaratıcı içerik denetimi yaklaşımlarına olan acil talebi vurguluyor. Günümüzde kuruluşlar, siber zorbalığın kalıcı sorununu proaktif bir şekilde ele almak için yapay zekanın kullanımına güveniyor.
Siber güvenlik:
Facebook'un 4. Çeyrek Topluluk Standartları Uygulama Raporu açıklandı - %6.3'luk proaktif tespit oranıyla 49.9 milyon parça zorbalık ve taciz içeriğine yönelik eylem
Eğitim:
A 2021 çalışma bulundu 36.5%Amerika Birleşik Devletleri'ndeki öğrencilerin yaşları arasındaki yüzdesi 12 ve 17 yıllarca okulları boyunca bir noktada siber zorbalık yaşadılar.
2020 raporuna göre, küresel içerik denetleme çözümleri pazarının değeri 4.07'da 2019 milyar ABD dolarıydı ve 11.94'de %2027'lik YBBO ile 14.7 milyar ABD dolarına ulaşması bekleniyordu.
Gerçek Dünya Çözümü
Küresel görüşmeleri yöneten veriler
Müşteri, Bulut teklifi için sağlam bir otomatik içerik denetleme Makine Öğrenmesi modeli geliştiriyordu ve bunun için doğru eğitim verileriyle kendilerine yardımcı olabilecek alan-özel tedarikçi arıyorlardı.
Doğal dil işleme (NLP) konusundaki kapsamlı bilgimizden yararlanarak, müşteriye Zehirli, Yetişkinlere Uygun veya Müstehcen içerik olarak ikiye ayrılan otomatik içerik denetleme Makine Öğrenimi Modeli oluşturmak için hem İngilizce hem de İspanyolca dillerinde 30,000'den fazla belgeyi toplama, sınıflandırma ve açıklama ekleme konusunda yardımcı olduk. kategoriler.
Sorun
- Öncelikli alanlardan hem İspanyolca hem de İngilizce olarak 30,000 belgeyi web kazıma
- Toplanan içeriği kısa, orta ve uzun bölümlere ayırma
- Derlenen verileri toksik, yetişkinlere uygun veya müstehcen içerik olarak etiketleme
- Minimum %90 doğrulukla yüksek kaliteli ek açıklamaların sağlanması.
Çözüm
- Web, BFSI, Sağlık Hizmetleri, İmalat ve Perakende'den İspanyolca ve İngilizce için her biri 30,000 belge hurdaya ayırdı. İçerik ayrıca kısa, orta ve uzun belgeler olarak ikiye ayrıldı
- Sınıflandırılmış içeriği zehirli, yetişkinlere uygun veya müstehcen içerik olarak başarıyla etiketleme
- Shaip, %90 kalite elde etmek için iki aşamalı bir kalite kontrol süreci uyguladı:
» Seviye 1: Kalite Güvence Kontrolü: Doğrulanacak dosyaların %100'ü.
» Seviye 2: Kritik Kalite Analizi Kontrolü: Shaips'in CQA Ekibi, retrospektif örneklerin %15 - %20'sini değerlendirecek.
Sonuç
Eğitim verileri, daha güvenli bir çevrimiçi ortamı sürdürmek için faydalı olan çeşitli sonuçlar sağlayabilen otomatik içerik denetleme ML modelinin oluşturulmasına yardımcı oldu. Önemli sonuçlardan bazıları şunlardır:
- Çok büyük miktarda veriyi işleme verimliliği
- Denetleme politikalarının tek tip uygulanmasını sağlamada tutarlılık
- Büyüyen kullanıcı tabanına ve içerik hacimlerine uyum sağlamak için ölçeklenebilirlik
- Gerçek Zamanlı Denetleme, &
potansiyel olarak zararlı içeriği oluşturuldukça kaldırın - İnsan moderatörlere olan güveni azaltarak maliyet etkinliği
Konuşmalı Yapay Zeka uygulama geliştirmenizi %100 oranında hızlandırın
Bir sonraki AI girişiminize nasıl yardımcı olabileceğimizi bize bildirin.