Yeni · Sinir ağı modeli v2.2

Kötü Amaçlı Metinleri Ayıklama

KAMA AI, Türkçe metinlerde küfür, hakaret ve nefret söylemini BERTurk tabanlı bir sinir ağıyla; tehdit, siber zorbalık ve kendine zarar ifadelerini kural katmanıyla tespit eder. Ücretsiz, kayıtsız bir HTTP API olarak kullanılabilir.

0 / 4000

Sonuç burada görünecek

Bir metin yazıp “Denetle”ye basın.

Nasıl çalışır

Her istek iki katmandan geçer. Sonuçlar birleştirilir; belirsiz kural eşleşmeleri model tarafından doğrulanmadıkça sayılmaz.

1

Sinir ağı

BERTurk (dbmdz/bert-base-turkish-128k-uncased) üzerine ince ayarlı sınıflandırıcı. Metni Temiz, Küfür, Hakaret ve Nefret sınıflarına olasılıklarla ayırır. Bağlamı anlar: “okula götürdüm” küfür değildir, “film sıkıcıydı” hakaret değildir.

2

Kural katmanı

Tehdit, siber zorbalık, çocuk istismarı riski ve kendine zarar ifadeleri için Türkçe kök tabanlı kalıplar. Leetspeak, nokta/yıldızla gizleme ve benzer harf hileleri çözülür.

3

Karar

En yüksek riskli sınıf karar olur. Kendine zarar içeren metinlerde engelleme yerine destek bilgisi döner. KVKK uç noktası TCKN, IBAN, kart, telefon ve e-postayı maskeler.

Ölçümler

Model v2.2, eğitimde hiç görmediği yaklaşık 7.800 örneklik test kümesinde ölçülmüştür. Sayılar yuvarlanmamış, şişirilmemiştir.

Doğruluk
%94,5
Makro F1 (4 sınıf)
0,925
Zararlı / temiz F1
0,973
Yanlış alarm oranı
%1,8

Sınıf bazında F1

Temiz0,973
Küfür0,958
Nefret0,90
Hakaret0,86

Sınırlar

  • Farklı kaynaktan gelen dış test verisinde doğruluk %80; özellikle üstü kapalı saldırgan ifadeleri kaçırabilir.
  • Tehdit, siber zorbalık ve çocuk riski sınıfları sinir ağı değil, kural tabanlıdır.
  • Hakaret ile sert eleştiri arasındaki çizgi her zaman net değildir; kritik kararlarda insan denetimi önerilir.
  • Yalnızca Türkçe için eğitilmiştir.

Eğitim verisi: Overfit-GM/turkish-toxic-language (Apache-2.0), Toygar/turkish-offensive-language-detection (CC-BY) ve Origin Edge'in hazırladığı zor örnekler.

API

Kayıt veya anahtar gerekmez. JSON gönderin, JSON alın. Adil kullanım için IP başına istek sınırı uygulanır.

POST/kontrol

Metni sınıflandırır.

curl -X POST https://ai.oedge.xyz/kontrol \
  -H 'Content-Type: application/json' \
  -d '{"text": "Bu film çok sıkıcıydı"}'
{
  "temiz": true,
  "decision": "TEMIZ",
  "risk_level": "SAFE",
  "overall_safety_score": 100,
  "classes": { "TEMIZ": 0.9989, "KUFUR": 0.0001,
               "HAKARET": 0.0011, "NEFRET": 0.0001, ... },
  "destek": null,
  "model": { "kullanildi": true, "surum": "kama-v2.2" }
}

POST/kvkk

Kişisel verileri maskeler (TCKN, IBAN, kart, telefon, e-posta).

curl -X POST https://ai.oedge.xyz/kvkk \
  -H 'Content-Type: application/json' \
  -d '{"text": "IBAN: TR12 0006 1005 1978 6457 8413 26"}'

POST/phishing

Oltalama kalıplarını ve şüpheli bağlantıları kontrol eder.

curl -X POST https://ai.oedge.xyz/phishing \
  -H 'Content-Type: application/json' \
  -d '{"text": "Hesabınız askıya alındı", "url": "http://..."}'

Karar değerleri

TEMIZ, HAFIF_ARGO, HAKARET, KUFUR, NEFRET, TEHDIT, SIBER_ZORBALIK, KENDINE_ZARAR, COCUK_RISKI. temiz alanı yalnızca TEMIZ ve HAFIF_ARGO için true olur.

Oranlar

classes modelin metnin bütünü için verdiği olasılıktır (zararlı bir şey var mı?). Zararlı metinlerde ayrıca oranlar ve zararli_oran döner: metnin kelime olarak ne kadarının hangi sınıfa girdiği. overall_safety_score bu paya göre hesaplanır.