Kötü Amaçlı Metinleri Ayıklama
KAMA AI, Türkçe metinlerde küfür, hakaret ve nefret söylemini BERTurk tabanlı bir sinir ağıyla; tehdit, siber zorbalık ve kendine zarar ifadelerini kural katmanıyla tespit eder. Ücretsiz, kayıtsız bir HTTP API olarak kullanılabilir.
Sonuç burada görünecek
Bir metin yazıp “Denetle”ye basın.
Karar
—
Güvenlik skoru
—
Yanıt süresi
—
Metnin içeriği
Nasıl çalışır
Her istek iki katmandan geçer. Sonuçlar birleştirilir; belirsiz kural eşleşmeleri model tarafından doğrulanmadıkça sayılmaz.
Sinir ağı
BERTurk (dbmdz/bert-base-turkish-128k-uncased) üzerine ince ayarlı sınıflandırıcı. Metni Temiz, Küfür, Hakaret ve Nefret sınıflarına olasılıklarla ayırır. Bağlamı anlar: “okula götürdüm” küfür değildir, “film sıkıcıydı” hakaret değildir.
Kural katmanı
Tehdit, siber zorbalık, çocuk istismarı riski ve kendine zarar ifadeleri için Türkçe kök tabanlı kalıplar. Leetspeak, nokta/yıldızla gizleme ve benzer harf hileleri çözülür.
Karar
En yüksek riskli sınıf karar olur. Kendine zarar içeren metinlerde engelleme yerine destek bilgisi döner. KVKK uç noktası TCKN, IBAN, kart, telefon ve e-postayı maskeler.
Ölçümler
Model v2.2, eğitimde hiç görmediği yaklaşık 7.800 örneklik test kümesinde ölçülmüştür. Sayılar yuvarlanmamış, şişirilmemiştir.
- Doğruluk
- %94,5
- Makro F1 (4 sınıf)
- 0,925
- Zararlı / temiz F1
- 0,973
- Yanlış alarm oranı
- %1,8
Sınıf bazında F1
Sınırlar
- Farklı kaynaktan gelen dış test verisinde doğruluk %80; özellikle üstü kapalı saldırgan ifadeleri kaçırabilir.
- Tehdit, siber zorbalık ve çocuk riski sınıfları sinir ağı değil, kural tabanlıdır.
- Hakaret ile sert eleştiri arasındaki çizgi her zaman net değildir; kritik kararlarda insan denetimi önerilir.
- Yalnızca Türkçe için eğitilmiştir.
Eğitim verisi: Overfit-GM/turkish-toxic-language (Apache-2.0), Toygar/turkish-offensive-language-detection (CC-BY) ve Origin Edge'in hazırladığı zor örnekler.
API
Kayıt veya anahtar gerekmez. JSON gönderin, JSON alın. Adil kullanım için IP başına istek sınırı uygulanır.
POST/kontrol
Metni sınıflandırır.
curl -X POST https://ai.oedge.xyz/kontrol \
-H 'Content-Type: application/json' \
-d '{"text": "Bu film çok sıkıcıydı"}'
{
"temiz": true,
"decision": "TEMIZ",
"risk_level": "SAFE",
"overall_safety_score": 100,
"classes": { "TEMIZ": 0.9989, "KUFUR": 0.0001,
"HAKARET": 0.0011, "NEFRET": 0.0001, ... },
"destek": null,
"model": { "kullanildi": true, "surum": "kama-v2.2" }
}
POST/kvkk
Kişisel verileri maskeler (TCKN, IBAN, kart, telefon, e-posta).
curl -X POST https://ai.oedge.xyz/kvkk \
-H 'Content-Type: application/json' \
-d '{"text": "IBAN: TR12 0006 1005 1978 6457 8413 26"}'
POST/phishing
Oltalama kalıplarını ve şüpheli bağlantıları kontrol eder.
curl -X POST https://ai.oedge.xyz/phishing \
-H 'Content-Type: application/json' \
-d '{"text": "Hesabınız askıya alındı", "url": "http://..."}'
Karar değerleri
TEMIZ, HAFIF_ARGO, HAKARET, KUFUR, NEFRET, TEHDIT, SIBER_ZORBALIK, KENDINE_ZARAR, COCUK_RISKI. temiz alanı yalnızca TEMIZ ve HAFIF_ARGO için true olur.
Oranlar
classes modelin metnin bütünü için verdiği olasılıktır (zararlı bir şey var mı?). Zararlı metinlerde ayrıca oranlar ve zararli_oran döner: metnin kelime olarak ne kadarının hangi sınıfa girdiği. overall_safety_score bu paya göre hesaplanır.