İçerik moderasyonu nedir? Türleri, işleyişi ve Türkiye'deki kurallar

Kısa tanım

İçerik moderasyonu, kullanıcıların bir platformda paylaştığı yorum, mesaj, fotoğraf ve videoların platform kurallarına ve yasalara uygunluğunun denetlenmesi, kuralı çiğneyenlerin gizlenmesi ya da kaldırılmasıdır. Bu işi moderatörler, yazılım ya da ikisi birlikte yapar. İkisi birlikte çalıştığında açık vakaları yazılım ayırır, emin olunamayanlara bir insan bakar.

Bir örnek: bir pazar yerinde alıcı, satıcıya hakaret eden bir yorum yazar. Yorum yayınlanmadan önce kontrol edilir; yazılım onu hakaret olarak işaretlerse bir moderatör okur. Moderatör yorumu kurallara aykırı bulursa yayınlamaz ve alıcıya nedenini bildirir. Aynı alıcı “Kumaş ilk yıkamada çekti” yazsaydı, yorum olumsuz da olsa yayınlanırdı.

Denetlenen içerik platforma göre değişir: sosyal ağda gönderi ve mesaj, pazar yerinde ilan fotoğrafı ve ürün yorumu, oyunda sohbet ve kullanıcı adı. Kararlar da birkaç türlüdür: yayınlamak, bekletmek, gizlemek, kaldırmak, kullanıcıyı uyarmak ya da hesabı kapatmak.

Neden gerekli?

• Kullanıcı güveni. Bir topluluk, kurallarını uygulayamadığında güvenini kaybeder. Hakarete, dolandırıcılığa ya da istemediği cinsel içeriğe maruz kalan kullanıcı platformdan uzaklaşabilir.
• Uygulama mağazaları. Apple, kullanıcı içeriği olan uygulamalardan dört şey ister: sakıncalı içeriğin paylaşılmadan önce filtrelenmesi, rahatsız edici içeriğin şikâyet edilebilmesi ve şikâyetlere zamanında cevap, kötü niyetli kullanıcıların engellenebilmesi ve yayınlanmış iletişim bilgisi (App Review Guidelines 1.2, 16 Ekim 2026'da okundu). Kurallara aykırı içeriği kaldırmanın uygulama sahibinin sorumluluğu olduğunu da yazar. Ayrıntılar: Guideline 1.2 rehberi (İngilizce).
• 5651 ve 1 Kasım düzenlemesi. Türkiye'nin internet kanunu olan 5651 sayılı Kanun, yer sağlayıcıya (içeriği barındıran hizmete) barındırdığı içeriği kontrol etme yükümlülüğü getirmez; ama hukuka aykırı içerik usulüne uygun bildirildiğinde onu yayından kaldırmasını ister (5651 m. 5/1, 5/2). 1 Kasım 2026'dan itibaren sosyal ağ sağlayıcılar, yani kullanıcıların içerik paylaşıp birbiriyle etkileştiği hizmetler, 15 yaşından küçüklere hizmet veremeyecek ve 15–17 yaştakiler için içerik filtreleme ayarları uygulayacak (5651 ek 4/7; 5651'de bu konuda yetkili kurum olan Siber Güvenlik Başkanlığının 10 Ekim 2026 tarihli yönetmeliği, m. 5/1 ve 8/4). Ayrıntılar: 15 yaş altı sosyal medya düzenlemesi.
• Reklam Kurulu yorum kılavuzu. Reklam Kurulu, Ticaret Bakanlığı bünyesinde ticari reklam ve haksız ticari uygulama kurallarını belirleyen kuruldur. Kurulun kılavuzuna göre e-ticaret siteleri ve pazar yerleri, ürün yorumlarını kendi yayın kurallarına göre denetleyebilir; ama kuralları önceden göstermeli, reddettikleri yorumun nedenini tüketiciye bildirmeli ve olumsuz yorumları sırf olumsuz oldukları için engellememeli (Tüketici Değerlendirmeleri Hakkında Kılavuz m. 5/6, 6/1, 6/5). Ayrıntılar: e-ticarette yorum moderasyonu.

İçerik moderasyonu türleri

Türler bir arada kullanılabilir. Örneğin yeni hesapların içeriği ön moderasyonla, geçmişi temiz kullanıcılarınki son moderasyonla denetlenebilir; şikâyet yolu ise herkese açık kalır. Ürün yorumları için Reklam Kurulu Kılavuzu, değerlendirmelerin “gerekli incelemeler yapıldıktan sonra” yayınlanacağını yazar (m. 5/6); bu da yayından önce kontrole uygun düşer.

Yapay zekâ ne yapar, insan ne yapar?

Yazılım her içeriği okur ve kategorilere ayırır. Moderasyon API'lerinde bu kategorilere bayrak denir: küfür, hakaret, nefret söylemi, cinsel içerik gibi. Her kalkan bayrağın yanında 0 ile 1 arasında bir güven puanı olur. Yazılım hacimde hızlıdır ama bağlamı sınırlı görür: ironiyi, alıntıyı ya da birkaç mesaja yayılmış bir tehdidi kaçırabilir.

Eşik, bir bayrağın kalkması için gereken en düşük güven puanıdır. Detectivision'da varsayılan eşik 0,5'tir ve bunun altında kalan bulgular hiç dönmez (Flags). Kendi işlem çizginizi bunun üstünde çizersiniz. Örneğin 0,8'in üstünü otomatik engelleyip 0,5 ile 0,8 arasını bir insana gönderebilirsiniz (sayılar temsilîdir; kendi içeriğinizden bir örnekle ayarlayın).

İnceleme kuyruğu, bir insanın karar vermesi için bekletilen içeriklerdir: çizginizin altında kalan bayraklı sonuçlar, kullanıcı şikâyetleri ve itirazlar.

İnsan bağlamı okur, kuralı yorumlar, itirazı karara bağlar ve kuralların değişmesi gereken yerleri görür. Bazı kurallar insanı şart koşar: 15 yaş düzenlemesi kapsamındaki itirazlar tamamen otomatik sistemlerle incelenemez, anlamlı insan incelemesinden geçer (Yönetmelik m. 10/3).

Detectivision işin yazılım tarafını yapar ve insan tarafı için araç verir. Moderatörleriniz bir kontrolü panelin Logs bölümünde açar, sizin tanımladığınız eylemlerden birini (örneğin “Yayınla” ya da “Hesabı kapat”) seçer ve sisteminiz bunu moderation.action webhook'u ile öğrenir (Metadata and actions). Detectivision moderatör sağlamaz ve platformunuzda hiçbir eylemi kendisi uygulamaz.

Türkçe neden zor?

Kelime listesiyle çalışan basit bir filtre İngilizcede de hata yapar; Türkçede işi zorlaştıran birkaç özellik daha var.

• Eklemeli yapı. Türkçede bir köke ekler gelerek çok sayıda biçim türer: “aptal”, “aptallar”, “aptalsın”, “aptallığın”, “aptallaştırmak”. Bir kelime listesi ya her biçimi ayrı ayrı tutmak zorunda kalır ya da kökü arar; kökü arayınca da içinde o harfleri taşıyan masum kelimeleri yakalar.
• Aynı kelime, iki anlam. Türk Dil Kurumunun Güncel Türkçe Sözlük'ünde “mal” hem “alınıp satılabilen her türlü ticaret eşyası” hem de mecaz anlamıyla “bayağı, aşağılık, kötü kimse” demektir. “Mal elime iki günde ulaştı” bir alışveriş yorumudur; aynı kelimeyi bir kişiye söylemek hakarettir. Bir kelime listesi ikisini ayıramaz.
• Türkçe karaktersiz yazım. Klavyesinde Türkçe harf olmayan ya da hızlı yazan kullanıcılar ı yerine i, ş yerine s, ğ yerine g yazar. Masum bir kelime böylece küfre benzeyebilir; örnekler Türkçe küfür ve hakaret tespiti sayfasında.
• Argo ve samimi dil. Türkçede küfür arkadaşlar arasında şakalaşırken de kullanılır; aynı söz bir yerde şaka, başka yerde saldırıdır. Küfür ile hakaret de aynı şey değildir. Detectivision'da küfür (profanity) ve hakaret (insult) ayrı bayraklardır; hangisine ne yapacağınıza siz karar verirsiniz.

Türkçe harf sorunu yazılımın kendisinde de çıkar: Türkçeye göre ayarlanmamış bir küçük harf dönüşümü, büyük “I” harfini “ı” yerine “i” yapar.

"ISPARTA".toLowerCase();              // "isparta"  (Türkçede doğrusu "ısparta")
"ISPARTA".toLocaleLowerCase("tr-TR"); // "ısparta"

"ISPARTA".lower()  # "isparta": Python Türkçe büyük-küçük harf kuralını uygulamaz

Bu satırlar 16 Ekim 2026'da Node.js 22 ve Python 3.9 ile çalıştırıldı. Büyük harfle yazılmış bir yorumu bu şekilde küçültüp kelime listesinde arayan bir filtre, kelimeleri yanlış yazılmış hâlleriyle arar.

Detectivision'ın metin kontrolü İngilizce, İspanyolca, Portekizce, Fransızca, Almanca, İtalyanca, Türkçe, Arapça, Rusça ve Hintçe için güvenilirdir; başka dillerdeki metinler de kontrol edilir, ama sonuçlar güvenilir değildir (Text moderation).

Temel terimler

• Ön moderasyon: İçerik yayınlanmadan önce denetlenir.
• Son moderasyon: İçerik yayınlanır, hemen ardından denetlenir.
• Bayrak: Bir kontrolün aradığı kategori; örneğin küfür, hakaret ya da nefret söylemi. Kontrol, kalkan bayrakları güven puanlarıyla birlikte döndürür.
• Güven puanı ve eşik: Güven puanı 0 ile 1 arasındadır; bir bayrağın kalkması için gereken en düşük puan eşiktir.
• Yanlış pozitif: Kurallara uygun bir içeriğin yanlışlıkla işaretlenmesi. Tersi yanlış negatif: kurala aykırı bir içeriğin gözden kaçması. Kendi işlem çizginizi yükseltmek yanlış pozitifleri azaltır, yanlış negatifleri artırır.
• İnceleme kuyruğu: Bir insanın karar vermesi için bekletilen içerikler.
• NSFW: “Not safe for work”, yani iş yerinde açılması uygun olmayan içerik; genellikle cinsel ya da şiddet içeren görseller. Apple da Guideline 1.2'de bu kısaltmayı kullanır.
• Küfür ve hakaret: Küfür kaba ya da müstehcen sözdür; hakaret bir kişiyi küçük düşüren sözdür. Küfürsüz hakaret de, kimseye yönelmeyen küfür de olur. Bir bayrak hukuki bir tespit değildir.
• Nefret söylemi: İnsanları kökenleri, dinleri, cinsiyetleri gibi kim olduklarına göre hedef alan söz.
• Yaş doğrulama: Kullanıcının yaşının bir belgeyle ya da e-Devlet yaş doğrulama belirteci gibi bir araçla doğrulanması. İçerik moderasyonundan ayrı bir iştir.

Nereden başlamalı?

1. Kuralları yazın. Neyin yasak olduğunu örneklerle ve kullanıcının anlayacağı dille yazıp yayınlayın. E-ticarette Kılavuz, yorum kurallarının yorumların yayınlandığı alanda ya da bir bağlantıyla açılan ekranda gösterilmesini ister (m. 6/1).
2. Nerede ve ne zaman denetleyeceğinizi seçin. Yorumlar, mesajlar, profil fotoğrafları, kullanıcı adları, ilanlar, ürün yorumları: her biri için yayından önce mi, hemen sonra mı?
3. Aracı seçin. Kelime listesi ucuz ve hızlıdır, ama yukarıdaki örneklerdeki gibi Türkçede yanılır. Kendi modelinizi eğitmek emek ister. Bir moderasyon API'si hızlı başlar ama kategorileri sınırlıdır. İnsanlar bağlamı yazılımdan iyi okur ama hacme yetişmez. Bir API'nin ilk kontrolü yaptığı, insanların belirsiz vakalara baktığı bir düzen iyi bir başlangıçtır.
4. İnceleme kuyruğunu ve itiraz yolunu kurun. Kim bakacak, ne kadar sürede, karar nasıl kaydedilecek, kullanıcıya nasıl bildirilecek? Ardından içeriğinizden bir örnek seçip yanlış pozitifleri ve negatifleri sayın, çizgilerinizi buna göre ayarlayın.

On dildeki metinler için metin moderasyonu, pazar yerleri için ilan siteleri ve pazar yerleri sayfalarına bakabilirsiniz. Detectivision Türkçe: detectivision.ai/tr.

Ücretsiz deneyin

Detectivision neyi yapmaz?

• Moderatör sağlamaz. Kararları ekibiniz verir; Detectivision eylemleri kaydeder ve webhook ile sisteminize iletir. Platformunuzda hiçbir eylemi kendisi uygulamaz.
• Video, ses ve canlı yayını henüz kontrol etmez. Bu kontroller yakında. Bugün metin ve görseller kontrol edilir.
• İçeriğin parçasını işaretlemez. Bayraklar metnin ya da görselin bütününü değerlendirir; kelime konumu, kutu, maskelenmiş metin ya da bulanıklaştırılmış kopya dönmez.
• Her dilde aynı güvenilirlikte değildir. Metinde sonuçlar İngilizce, İspanyolca, Portekizce, Fransızca, Almanca, İtalyanca, Türkçe, Arapça, Rusça ve Hintçe için güvenilirdir; başka dillerde değildir.
• Eşiğin altını göstermez. 0,5'in altındaki bulgular dönmez; kendi çizginizi bunun üstünde çizersiniz.
• Başka işleri yapmaz. Yaş doğrulama, bilinen görsellerin parmak iziyle eşleştirilmesi (hash eşleştirme), sahte hesap ya da spam tespiti yapmaz.