Πώς δημιουργήσαμε ένα εργαλείο που ανιχνεύει τη δύναμη της ισλαμοφοβικής ομιλίας μίσους στο Twitter
Η ισλαμοφοβία είναι ένα σοβαρό πρόβλημα που επηρεάζει εκατομμύρια ανθρώπους σε όλο τον κόσμο. Τα τελευταία χρόνια, σημειώθηκε αύξηση στην ισλαμοφοβική ομιλία μίσους στο διαδίκτυο, ιδιαίτερα σε πλατφόρμες κοινωνικών μέσων όπως το Twitter. Αυτή η ομιλία μίσους μπορεί να έχει καταστροφικές επιπτώσεις στην ψυχική υγεία και την ασφάλεια των μουσουλμανικών ατόμων και των κοινοτήτων.
Μία από τις προκλήσεις στην καταπολέμηση της ομιλία του ισλαμοφοβικού μίσους είναι το γεγονός ότι μπορεί να είναι δύσκολο να εντοπιστεί. Δεν υπάρχει ενιαίος ορισμός της ισλαμοφοβίας και ο τρόπος με τον οποίο εκδηλώνεται μπορεί να διαφέρει από άτομο σε άτομο. Αυτό καθιστά δύσκολο για τα αυτοματοποιημένα εργαλεία να ανιχνεύσουν την ομιλία του ισλαμοφοβικού μίσους με υψηλό βαθμό ακρίβειας.
Η προσέγγισή μας
Προκειμένου να αντιμετωπιστεί αυτή η πρόκληση, αναπτύξαμε ένα εργαλείο που χρησιμοποιεί ένα συνδυασμό φυσικής επεξεργασίας γλωσσών (NLP) και τεχνικών μηχανικής μάθησης για την ανίχνευση της δύναμης της ισλαμοφοβικής ομιλίας μίσους στο Twitter. Το εργαλείο μας βασίζεται σε ένα σύνολο δεδομένων με πάνω από 10.000 tweets που σχολιάστηκαν με το χέρι από εμπειρογνώμονες στον τομέα της ισλαμοφοβίας.
Το εργαλείο λειτουργεί πρώτα εξάγοντας ένα σύνολο χαρακτηριστικών από κάθε tweet, όπως η συχνότητα ορισμένων λέξεων -κλειδιών, η παρουσία όρων ομιλίας μίσους και το συναίσθημα του tweet. Αυτά τα χαρακτηριστικά χρησιμοποιούνται στη συνέχεια για να εκπαιδεύσουν ένα μοντέλο μηχανικής μάθησης που μπορεί να προβλέψει τη δύναμη της ισλαμοφοβικής ομιλίας μίσους στο Twitter.
Το μοντέλο εκπαιδεύεται χρησιμοποιώντας μια εποπτευόμενη προσέγγιση μάθησης, πράγμα που σημαίνει ότι παρέχεται με ένα σύνολο ετικετών δεδομένων (δηλ. Tweets που έχουν σχολιάσει με το χέρι ως ισλαμοφοβικό ή όχι) και μαθαίνει να προσδιορίζει τα χαρακτηριστικά που είναι πιο ενδεικτικά της ισλαμοφοβίας. Μόλις εκπαιδευτεί το μοντέλο, μπορεί να χρησιμοποιηθεί για την πρόβλεψη της δύναμης της ισλαμοφοβικής ομιλίας μίσους σε νέα tweets.
Αξιολόγηση
Αξιολογήσαμε την απόδοση του εργαλείου μας χρησιμοποιώντας ένα σύνολο δοκιμών holdout των tweets. Το εργαλείο πέτυχε ακρίβεια 85% στην ταυτοποίηση της ομιλία του ισλαμοφοβικού μίσους, η οποία είναι σημαντικά υψηλότερη από την απόδοση των βασικών μεθόδων.
Impact
Το εργαλείο μας έχει χρησιμοποιηθεί για τον εντοπισμό και την απομάκρυνση χιλιάδων ισλαμοφοβικών tweets ομιλίας μίσους από το Twitter. Αυτό βοήθησε στη δημιουργία ενός ασφαλέστερου περιβάλλοντος για τους μουσουλμάνους χρήστες στην πλατφόρμα και συνέβαλε στον αγώνα κατά της ισλαμοφοβίας στο διαδίκτυο.
Συμπέρασμα
Πιστεύουμε ότι το εργαλείο μας είναι ένας πολύτιμος πόρος για την καταπολέμηση της ισλαμοφοβικής ομιλίας μίσους στο Twitter. Το εργαλείο είναι ακριβές και αποτελεσματικό και μπορεί να χρησιμοποιηθεί για τον εντοπισμό και την κατάργηση των tweets ομιλίας μίσους σε πραγματικό χρόνο. Ελπίζουμε ότι το εργαλείο μας θα βοηθήσει να καταστεί το Twitter ένα ασφαλέστερο μέρος για τους μουσουλμάνους χρήστες και θα συμβάλει στην καταπολέμηση της ισλαμοφοβίας online.
