DETECTVISION
Demoyu ücretsiz deneDemoyu dene
Flört uygulamaları

Flört uygulamaları için içerik moderasyonu: ilk fotoğraftan son mesaja.

Bir flört uygulaması güveni profillerde ve sohbetlerde kazanır ya da kaybeder. Detectivision profil fotoğraflarını çıplaklık ve cinsel içerik, şiddet, nefret ve dolandırıcılık görsellerine; biyografileri ve sohbet mesajlarını 12 dilde cinsel içerik ve taciz, hakaret, nefret söylemi, ırkçılık, cinsiyetçilik ve kendine zarar verme işaretlerine göre denetler. Moderatörleriniz kararı tek yerden verir.

Demoyu ücretsiz deneDokümanı okuyun
Ne denetlenir

Nerede hangi bayrak?

Profil fotoğrafı görsel moderasyonuna, biyografi ve mesaj metin moderasyonuna gider. Tablodaki bayraklar bir başlangıç önerisidir; kurallarınıza göre ekleyip çıkarın.

NeredeTürBayraklar
Profil fotoğraflarıimage_moderationsexual, violence, hate, scam
Biyografi ve profil sorularıtext_moderationsexual, hate, racism, sexism, insult
Sohbet mesajlarıtext_moderationsexual, insult, hate, self_harm
Sohbette gönderilen fotoğraflarimage_moderationsexual, scam

Bu bayraklar her hesapta var. Hesabınızın gönderebileceklerini GET /api/v1/flags listeler. Bayraklar fotoğrafı ya da metni bir bütün olarak değerlendirir.

Akış

Kayıttan şikâyete

  1. Kayıtta

    Her profil fotoğrafını gösterilmeden önce denetleyin. detect modu kararı verir: kalkan bayrakları ve her birinin güven puanını.

  2. Sohbette

    Mesajları "async": true ile ve iki kişinin numarasını metadata’ya koyarak gönderin. Bayrak kaldıran mesajlar moderation.flagged webhook’uyla gelir; arka planda denetim anında cevabın yarı fiyatınadır. Bir hesapta aynı anda en çok 50 kontrol bekleyebilir; sonuç geldikçe yenisini gönderin.

  3. Şikâyette

    Moderatörünüz isteği panelin Logs ekranında açar ve Uyar ya da Engelle gibi kendi tanımladığınız aksiyonlardan birini seçer. Sisteminiz aksiyonu moderation.action webhook’uyla alır ve uygular.

Kodda

Bir sohbet mesajını arka planda denetleyin

İstek
curl https://api.detectivision.ai/api/v1/moderation \
  -H "Api-Key: $DETECTIVISION_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "type": "text_moderation",
    "input": "Fotoğraflarını gönder, yoksa herkese senden bahsederim.",
    "flags": ["sexual", "insult", "hate", "self_harm"],
    "async": true,
    "metadata": { "senderId": "u_481", "matchId": "m_9920" }
  }'
Örnek ilk cevap: 202 Accepted (biçim API referansından; değerler örnek amaçlı)
{
  "id": 6044,
  "type": "text_moderation",
  "status": "queued",
  "metadata": { "senderId": "u_481", "matchId": "m_9920" }
}

API önce isteğin numarasıyla cevap verir. Sonuç moderation.completed webhook’uyla, bir bayrak kalktıysa ayrıca moderation.flagged ile gelir. metadata cevapta, Logs’ta ve her webhook’ta değişmeden geri gelir.

Dolandırıcılık

Profil fotoğrafında dolandırıcılık ve iletişim bilgisi

scam bir görsel bayrağıdır. Doküman neyi kapsadığını şöyle anlatır:

  • Görsele yazılmış iletişim bilgisi

    Rakamla ya da yazıyla telefon numarası; WhatsApp, Telegram, Snapchat ya da Instagram kullanıcı adı; e-posta adresi, IBAN ya da kripto cüzdanı. Profil fotoğrafına yazılmış bir numara bu yüzden scam bayrağını kaldırır.

  • Kandırmak için hazırlanmış görseller

    Sahte çekiliş ve ödüller, oltalama amaçlı QR kodları ve bağlantılar, sahte ödeme ya da banka ekranları, hızlı zengin olma ve yatırım vaatleri.

  • Mesajlarda

    Cinsel taciz ve teklifler sexual, bir kişiye yönelik saldırılar insult bayrağını kaldırır.

  • Kuralı siz koyarsınız

    Uygulamanız profilde iletişim bilgisine izin veriyorsa scam bayrağını otomatik ret değil, inceleme sebebi sayın.

İlgili
Sorular

Sık sorulanlar

Dolandırıcılığı yakalayabilir mi?

Evet. scam bayrağı sahte ödeme ekranı ya da sahte çekiliş gibi kandırmak için hazırlanmış görselleri ve fotoğrafa yazılmış iletişim bilgisini bulur: telefon numarası, mesajlaşma kullanıcı adı, e-posta adresi ya da IBAN.

Fotoğrafları saklıyor musunuz?

Hayır. Bir görsel indirilir, denetlenir ve saklanmaz. Arka planda gönderilen bir isteğin görseli yalnızca kontrolü yapılana kadar bekler.

Hangi diller destekleniyor?

İngilizce, İspanyolca, Portekizce, Fransızca, Almanca, İtalyanca, Türkçe, Arapça, Rusça, Hintçe, Çince ve Japonca.

Moderatörler nasıl çalışır?

Moderatör bir kontrolü panelin Logs ekranında açar; bayrakları, metadata’nızı ve aksiyonlarınızı görür. Onayla ya da Engelle gibi aksiyonları siz tanımlarsınız; biri seçilince sisteminize moderation.action webhook’u gider ve işlemi sisteminiz yapar.

Ücretsiz deneme var mı?

Evet. Basic plan iki ay ücretsizdir. Planlar ve fiyatlar fiyatlandırma sayfasında (İngilizce).