Announcing Free Research Tools: Turn Amazon, Trustpilot, Tripadvisor, Google Play and App Store reviews into market research!

Makine Öğrenimi ile Nefret Söylemi Nasıl Tespit Edilir?

Jun 11, 2020 - 7 min read
Makine Öğrenimi ile Nefret Söylemi Nasıl Tespit Edilir?

Hayat─▒n her alan─▒nda kar┼č─▒m─▒za ç─▒kan nefret söyleminin y─▒k─▒c─▒ etkileriyle mücadele edebilmek, dijitalde daha da zor. Mesajlar─▒n anonim olarak üretilip k─▒sa sürede çok ciddi görünürlük rakamlar─▒na ula┼čabilmesi ve daha birçok faktör yüzünden insanlar sosyal medyada daha agresif davran─▒yorlar. Bunlara bir de bilinçli olarak bir araya getirilmi┼č sahte hesap ordular─▒n─▒n ürettikleri içerikler de eklenince, nefret söylemi, manuel olarak tespit edilip moderasyonu yap─▒lamayacak kadar yayg─▒n bir hale geliyor.

Dünyan─▒n en büyük medya kurulu┼člar─▒ dahi zaman zaman YouTube’da yay─▒nlad─▒klar─▒ hassas içerikli videolarda yorum yapma seçene─čini devre d─▒┼č─▒ b─▒rak─▒rken, daha k─▒s─▒tl─▒ kaynaklara sahip kurum ve kurulu┼člar için nefret söylemiyle manuel olarak mücadele etmek imkâns─▒za yak─▒n. Bu yüzden nefret söylemini otomatik olarak tespit eden metotlara ba┼čvurmak art─▒k kaç─▒n─▒lmaz.

Bilgisayar i┼člemcilerinin yüksek kapasitesinden ve ak─▒ll─▒ algoritmalar üzerine kurulu yapay zekan─▒n gücünden yararlanan makine ö─črenimi teknolojisi tam bu noktada devreye giriyor ve nefret söylemiyle mücadele etmek isteyenlere çözümler sunuyor.

Makine ö─čreniminin nefret söylemini tespit etmede nas─▒l kullan─▒ld─▒─č─▒na de─činmeden önce, nefret söyleminin neleri içerdi─čini ve mücadelenin neden gerekli oldu─čunu hat─▒rlayal─▒m.

Nefret söylemi nedir?

Cambridge’in sözlü─čü nefret söylemini, “Irk, din, cinsiyet ya da cinsel yönelim gibi özelliklerine dayanarak bir ki┼čiye ya da gruba kar┼č─▒ nefret ifade eden veya ┼čiddeti te┼čvik eden kamuya aç─▒k söylem” olarak tan─▒ml─▒yor. Avrupa Konseyi ise bu tan─▒ma ek olarak, nefret söyleminin medya arac─▒l─▒─č─▒yla yay─▒ld─▒─č─▒nda etkilerinin daha y─▒k─▒c─▒ oldu─čunu hat─▒rlat─▒yor ve nefret söyleminin demokrasiye, farkl─▒ kültürlerin bir arada ya┼čayabilmesi prati─čine ve ço─čulculu─ča ciddi bir tehdit oldu─čunun alt─▒n─▒ çiziyor.

Nefret söylemini tespit etmek, ara┼čt─▒rmac─▒lar ve markalar için neden önemli?

Nefret söylemiyle mücadele etmenin genel anlamda insanl─▒k için neden önemli oldu─čunu anlamak için Avrupa Konseyi’nin demokrasi, ço─čulculuk ve bir arada ya┼čama dair tespitini hat─▒rlamak yeterli. Bu sebeple markalar, özellikle de medya kurulu┼člar─▒, nefret söyleminin yayg─▒nla┼čmas─▒na -istemeyerek dahi olsa- arac─▒l─▒k etmediklerinden emin olmak durumunda.

Facebook, Twitter ve Instagram gibi mecralar -söylemlerin kayna─č─▒ bizzat kendileri olmasa dahi- nefret söyleminin dola┼č─▒m─▒n─▒ kolayla┼čt─▒rmamak, aksine nefret söylemini derhal tespit edip ilgili içeri─či kald─▒rmak için gerekli çözümlere bu yüzden büyük yat─▒r─▒mlar yap─▒yorlar. Örne─čin 1,7 milyar aktif kullan─▒c─▒ya sahip Facebook, 2020 y─▒l─▒n─▒n ilk çeyre─činde 9,6 milyon içeri─či nefret söylemi gerekçesiyle kald─▒rd─▒─č─▒n─▒ aç─▒klad─▒. Aç─▒klamaya göre bu içeriklerin %88,8’i ba┼čka bir kullan─▒c─▒ henüz ┼čikâyet etmeden, tamamen Facebook’un kulland─▒─č─▒ yaz─▒l─▒m taraf─▒ndan otomatik olarak tespit edilerek kald─▒r─▒ld─▒.

Ayn─▒ ┼čekilde bir marka bir kampanya yürütürken istemeden de olsa nefret söylemi kullanmad─▒─č─▒ndan ya da kulland─▒─č─▒ dilin nefret söylemine yol açmad─▒─č─▒ndan emin olmak için çaba sarf etmek durumunda.

Nefret söyleminin tespiti, bu konuda ara┼čt─▒rmalar yapan kurulu┼člar aç─▒s─▒ndan, ara┼čt─▒rman─▒n zaten konusu oldu─ču için de önemli. Bir sivil toplum kurulu┼čunun roman vatanda┼člar─▒n Türkiye’de nas─▒l alg─▒land─▒─č─▒na dair bir ara┼čt─▒rma yapt─▒─č─▒n─▒ farz edelim. Do─čal olarak bu STK için nefret söyleminin tespiti, ara┼čt─▒rman─▒n en temel konusu olacakt─▒r. Siyasi partiler de özellikle seçimlerin yakla┼čt─▒─č─▒ ve tansiyonun artt─▒─č─▒ dönemlerde, söylemlerinin toplumda nefrete neden olup olmad─▒─č─▒n─▒ anlayabilmek için benzer ara┼čt─▒rmalar yap─▒yorlar.

Nefret söyleminin tespitine dair zorluklar nelerdir?

Nefret söyleminin tespiti çok önemli bir konu olsa da günümüz ko┼čullar─▒nda bunu verimli ve etkili bir biçimde yapmak kolay de─čil.

Birincisi, bir ara┼čt─▒rmadan sa─čl─▒kl─▒ sonuçlar elde edilebilmesi için toplanmas─▒ gereken verinin büyüklü─čü, bu verinin manuel olarak i┼členmesini imkâns─▒za yak─▒n bir hale getiriyor. Zira bir ara┼čt─▒rma sonunda elde edilen on binlerce sat─▒r verinin tek tek incelenip “nefret söylemidir”, “nefret söylemi de─čildir” ┼čeklinde s─▒n─▒fland─▒r─▒lmas─▒ için ciddi bir zaman ve i┼č gücü gerekiyor. Bu sorunu ya┼čamamak için daha az veriyle yetinmekse ara┼čt─▒rmadan ç─▒kan sonuçlar─▒n bilimselli─čine zarar veriyor.

─░kinci olarak, toplanan veriyi anahtar kelime bazl─▒ aramalarla anlamland─▒rmaya çal─▒┼čmak da dilin yap─▒s─▒ ve ironi gibi ifade biçimleri nedeniyle do─čru sonuçlar vermiyor. Örne─čin “çingene” kelimesiyle yap─▒lacak bir arama, ç─▒kan sonuçlar─▒n tamam─▒n─▒n nefret söylemi oldu─ču anlam─▒na gelmiyor. Bu kelimeyi nefret söylemi olarak kullananlar─▒ ele┼čtiren veya “Çingeneler Zaman─▒” gibi konuyla hiç ilgisi olmayan ifadelerin yer ald─▒─č─▒ veriler, bu yöntemle do─čru bir ┼čekilde s─▒n─▒fland─▒r─▒lam─▒yor.

Makine ö─črenimi nefret söyleminin tespitine dair sorunlar─▒ nas─▒l çözebilir?

Hem bilgisayar i┼člemcilerinin yüksek kapasitesinden hem de ak─▒ll─▒ algoritmalar üzerine kurulu yapay zekan─▒n gücünden yararlanan makine ö─črenimi, nefret söyleminin tespitine dair yukar─▒da bahsetti─čimiz problemleri ortadan kald─▒rmak için kullan─▒l─▒yor. Bu noktada, makine ö─čreniminin ne oldu─čuna ve kalitatif ara┼čt─▒rmalarda nas─▒l kullan─▒ld─▒─č─▒na dair yaz─▒lar─▒m─▒za göz atabilirsiniz.

Makine ö─čreniminin nefret söylemi tespitinde kullan─▒labilmesi için öncelikle sisteme bu tip söylemleri nas─▒l tespit edece─činin ö─čretilmesi gerekiyor. Bunun için de ilk olarak konuyla ilgili yap─▒lm─▒┼č bir ara┼čt─▒rmadan elde edilmi┼č ya da dijital mecralardan derlenmi┼č veriler sisteme yükleniyor. Daha sonra kullan─▒c─▒, verileri sat─▒r sat─▒r inceleyerek her bir içeri─čin nefret söylemi olup olmad─▒─č─▒n─▒ i┼čaretliyor. Bu a┼čamada ne kadar fazla i┼čaretleme yap─▒l─▒rsa, sistemin do─čruluk oran─▒ o kadar yükseliyor. Kimola’n─▒n Cognitive ürününde oldu─ču gibi baz─▒ sistemler önceden haz─▒rlanm─▒┼č modeller sunarak, kullan─▒c─▒n─▒n bu i┼čaretleme ad─▒m─▒n─▒ atlamas─▒na da imkân tan─▒yabiliyor.

Ö─čretme ad─▒m─▒n─▒n ard─▒ndan sistem, yeni verilerle kar┼č─▒la┼čt─▒─č─▒nda, önceki verilerin i┼čaretlenme sürecinde ö─črendiklerini kullanarak, yeni verilerin nefret söylemi olup olmad─▒─č─▒n─▒ tespit edebiliyor. Bu noktada sistemin i┼člemci gücü sayesinde tüm s─▒n─▒fland─▒rmay─▒ çok k─▒sa sürede yapabilmesinin yan─▒nda, ak─▒ll─▒ algoritmalar─▒n─▒n getirdi─či avantajlar da devreye giriyor.

Cognitive ürününde yer alan Nefret Söylemi Modeli’nde oldu─ču gibi, sistem bir veriyi s─▒n─▒fland─▒r─▒rken sadece anahtar kelimelere odaklanm─▒yor; bu kelimelerin hangi kelimelerle yan yana kullan─▒ld─▒─č─▒, cümlenin neresinde geçti─či, hangi noktalama i┼čaretleriyle birlikte kullan─▒ld─▒─č─▒ gibi birçok de─či┼čkeni göz önüne alarak bir sonuca var─▒yor. Yukar─▒da verdi─čimiz örnekten yola ç─▒kacak olursak, “Çingeneler” ve “Zaman─▒” kelimeleri bir arada kullan─▒lm─▒┼čsa, sistem art─▒k bunun bir film ad─▒ oldu─čunu ö─črendi─či için buna yönelik bir s─▒n─▒fland─▒rma yapabiliyor.

Cognitive’in Nefret Söylemi Modeli nas─▒l kullan─▒l─▒r?

Cognitive’in Nefret Söylemi modeli, Kimola taraf─▒ndan yüksek hacimli verinin önceden girildi─či ve gerekli s─▒n─▒fland─▒rman─▒n yap─▒ld─▒─č─▒ bir yöntem. Hem Türkçe hem ─░ngilizce metinlerde nefret söylemini tespit edebilen bu sistem Kimola taraf─▒ndan düzenli olarak geli┼čtirilmeye devam ediyor ve bu yüzden do─čruluk oran─▒ sürekli art─▒yor.

1. Ad─▒m: Veri Toplama

Nefret söylemi hakk─▒nda sa─čl─▒kl─▒ bir ara┼čt─▒rma yapabilmek için mümkün oldu─čunca geni┼č hacimli bilgiye ihtiyaç var. Bunun için, sisteme çe┼čitli yöntemlerle tan─▒mlayabilece─činiz hedef kitle do─črultusunda, binlerce gerçek ve aktif kullan─▒c─▒n─▒n sosyal medya payla┼č─▒mlar─▒n─▒ toplayan ve kitlenizle ilgili yüksek hacimli ve detayl─▒ veriler sunan Kimola’n─▒n Analytics ürününü deneyebilirsiniz.

2. Ad─▒m: Nefret Söylemi Modeli’ni Seçerek Verileri Sisteme Yükleme

S─▒rada, Kimola Analytics’in sa─člad─▒─č─▒ ya da ba┼čka yöntemlerle elde etti─činiz veri taban─▒n─▒ Cognitive’e yüklemeye geliyor. Tamamen web-tabanl─▒ olarak çal─▒┼čan ve hiçbir teknik bilgi gerektirmeyen Cognitive’e verilerinizi sürükle-b─▒rak gibi pratik bir yöntemle yükleyebilirsiniz.

Cognitive’e tan─▒mlanm─▒┼č olarak gelen Nefret Söylemi Modeli’ni seçerek veri taban─▒n─▒z─▒ sisteme yükledi─činizde, Cognitive Excel dosyas─▒nda “Nefret Söylemi” ┼čeklinde yeni bir sütun olu┼čturuyor ve her bir sat─▒r─▒n içeri─čini analiz ederek bu sütunun alt─▒ndaki hücreye “Pozitif” ya da “Negatif” ┼čeklinde bir de─čer at─▒yor.

3. Ad─▒m: Elde Edilen Sonuçlardan ─░çgörüler Ç─▒karmak

─░┼členmi┼č veriyi bilgisayar─▒n─▒za indirdikten sonra art─▒k insan faktörü yeniden devreye giriyor. Nefret söylemi olarak i┼čaretlenmi┼č veriyi inceleyerek en çok hangi kelime gruplar─▒nda ve kavramlarda nefret söylemiyle kar┼č─▒la┼č─▒l─▒yor, bu tip söylemler en çok hangi ki┼či ve gruplara yönelik olarak dile getiriliyor gibi içgörüler ç─▒karmak mümkün.

Ayr─▒ca veri taban─▒nda daha ba┼čka s─▒n─▒fland─▒rmalar yapm─▒┼čsan─▒z, bunlar─▒ nefret söylemi s─▒n─▒fland─▒r─▒lmas─▒ ile birlikte kullanarak; nefret söylemine hangi demografik yap─▒ya sahip kitleler taraf─▒ndan daha çok ba┼čvuruldu─ču, hangi mecralarda daha fazla görüldü─čü, ne tip bir motivasyonla ve neden ortaya ç─▒kt─▒─č─▒ gibi say─▒s─▒z içgörüye ula┼čabilir; bu içgörüler do─črultusunda atman─▒z gereken ad─▒mlara karar verebilirsiniz.

Örne─čin, mültecilerle ilgili bir ara┼čt─▒rma yapan bir STK, elindeki veriyi demografik yap─▒, ya┼č aral─▒─č─▒ gibi ba┼čka s─▒n─▒fland─▒rmalara tabi tutmu┼čsa, mültecilere yönelik nefret söyleminin son dönemde küçük ┼čehirlerde daha h─▒zl─▒ yay─▒ld─▒─č─▒, daha çok 18-24 ya┼č aras─▒ erkekler taraf─▒ndan dile getirildi─či, mesajlarda “i┼čsizlik” vurgusunun s─▒kça yap─▒ld─▒─č─▒, bu kitlenin haber kayna─č─▒ olarak en çok Facebook’u kulland─▒─č─▒ ve video içeriklerle daha çok etkile┼čime girdi─či gibi sonuçlara varabilir ve böylece ilgili ┼čehirlerin yöneticileriyle i┼č birli─čine gidip nefreti yat─▒┼čt─▒rmaya yönelik bir video içerik haz─▒rlay─▒p bunu Facebook üzerinden dola┼č─▒ma sokabilir.

Cognitive’in Nefret Söylemi Modeli’ni Ücretsiz Deneyin

Makine ö─črenimi teknolojisi üzerine kurulu Kimola Cognitive, yüksek hacimli verilerinizi k─▒sa sürede ve yüksek do─čruluk oran─▒yla s─▒n─▒fland─▒rman─▒z─▒ sa─čl─▒yor. Cognitive’in Nefret Söylemi Modeli de bu konuda yapt─▒─č─▒n─▒z ara┼čt─▒rmalarda elde etti─činiz verilerin nefret söylemi içerip içermedi─čini k─▒sa sürede tespit etmenize imkân tan─▒yor.

Kimola Cognitive’i ve Nefret Söylemi Modeli’ni ücretsiz denemek için buradan üye olabilirsiniz. Ayr─▒ca Cognitive’e dair daha fazla bilgi almak isterseniz, sormak istediklerinizi buradan bize iletebilir ya da Calendly üzerinden bir görü┼čme randevusu talep edebilirsiniz.

Subscribe to Our Newsletter!

We gather global consumer research news and share them with 3000+ marketing and research professionals worldwide.

Latest