Επόπτευση και επιβολή

Εντοπισμός περιεχομένου

Πώς χρησιμοποιούμε την τεχνολογία για τον εντοπισμό επιβλαβούς περιεχομένου

Χρησιμοποιούμε μια πολυεπίπεδη προσέγγιση, για την προστασία των χρηστών μας από επιβλαβές περιεχόμενο και συμπεριφορά.

Για να εντοπίσουμε και να σταματήσουμε την εξάπλωση ορισμένων κατηγοριών γνωστού παράνομου και επιβλαβούς περιεχομένου εικόνας, αναπτύσσουμε τις τεχνολογίες αντιστοίχισης κατακερματισμού PhotoDNA και MD5 σε εικόνες και περιεχόμενο βίντεο που κοινοποιούνται μέσω υπηρεσιών καταναλωτών που φιλοξενούνται από τη Microsoft, καθώς και σε περιεχόμενο που ανεβαίνει για οπτική αναζήτηση εικόνων στο internet. Η τεχνική κατακερματισμού μετατρέπει εικόνες σε μια σειρά αριθμών, που μπορούν εύκολα να συγκριθούν, να αποθηκευτούν και να υποβληθούν σε επεξεργασία. Ο κατακερματισμός δεν είναι αναστρέψιμος, πράγμα που σημαίνει ότι δεν μπορεί να χρησιμοποιηθεί για τη ανασύνθεση των αρχικών εικόνων. Βασιζόμαστε στην εξαίρεση που επιτρέπει ο Κανονισμός της Ευρωπαϊκής Ένωσης (ΕΕ) 2021/1232, όπως απαιτείται, για τη χρήση τεχνολογιών αντιστοίχισης κατακερματισμού για την ανίχνευση πιθανών υλικών παιδικής σεξουαλικής εκμετάλλευσης σε υπηρεσίες που διέπονται από την Οδηγία 2002/58/ΕΚ της ΕΕ.

Μπορεί επίσης να χρησιμοποιούμε τεχνολογίες εκμάθησης μηχανής, όπως αλγόριθμους ταξινόμησης που βασίζονται σε κείμενο και σε εικόνες, και τεχνικές εντοπισμού διαδικτυακής αποπλάνησης ανηλίκων, για τον εντοπισμό περιεχομένου ή συμπεριφοράς που κοινοποιούνται μέσω υπηρεσιών καταναλωτών που φιλοξενούνται από τη Microsoft, και ενδέχεται να είναι παράνομες ή να παραβιάζουν τις πολιτικές μας. Τέλος, αξιοποιούμε αναφορές από χρήστες, κυβερνήσεις και αξιόπιστες πηγές καταγγελιών, για να επισημάνουμε πιθανές παραβιάσεις πολιτικής. Αυτές οι διάφορες τεχνικές προσαρμόζονται στις δυνατότητες και τις υπηρεσίες στις οποίες αναπτύσσονται, πράγμα που σημαίνει ότι μπορεί να μην χρησιμοποιούμε όλες τις τεχνολογίες σε όλες τις υπηρεσίες, ούτε με τον ίδιο τρόπο σε κάθε υπηρεσία.

Σε ορισμένες από τις υπηρεσίες μας, χρησιμοποιούμε επίσης εργαλεία για την ανίχνευση και διακοπή της κατάχρησης των δυνατοτήτων βιντεοκλήσεων με σκοπό την παραγωγή και κοινοποίηση υλικού σεξουαλικής εκμετάλλευσης και κακοποίησης παιδιών (CSEAI) από χρήστες υψηλού κινδύνου. Η Microsoft χρησιμοποιεί διάφορα στοιχεία για να αναγνωρίσει χρήστες υψηλού κινδύνου, συμπεριλαμβανομένης της προηγούμενης άμεσης επικοινωνίας τους με χρήστες που τέθηκαν σε αναστολή ή αποκλείστηκαν για την κοινοποίηση υλικού σεξουαλικής εκμετάλλευσης και κακοποίησης παιδιών (CSEAI). Εάν ένας χρήστης αναγνωριστεί ως υψηλού κινδύνου και υπάρχουν άλλα σήματα, αναπτύσσεται ένα bot στην ζωντανή κλήση. Το bot χρησιμοποιεί τεχνητή νοημοσύνη για να προσδιορίσει εάν μια ζωντανή βιντεοκλήση περιέχει CSEAI, σχεδόν σε πραγματικό χρόνο. Εάν ανιχνευθεί CSEAI κατά τη διάρκεια της κλήσης, η δυνατότητα βίντεο σε αυτήν την κλήση απενεργοποιείται.

Το βρίσκουμε εμείς

Έχουμε επενδύσει στους αλγόριθμους ταξινόμησης που εφαρμόζουμε, και έχουμε αναπτύξει τις δυνατότητές τους, με σκοπό τον προληπτικό εντοπισμό παραβιάσεων των πολιτικών μας σε ορισμένα περιβάλλοντα. Ένας "αλγόριθμος ταξινόμησης" χρησιμοποιείται για να αναγνωρίσει και να επισημάνει επιβλαβές υλικό βάσει μιας προκαθορισμένης πολιτικής, όπως η βίαιη εξτρεμιστική συμπεριφορά και η τρομοκρατία. Επιπλέον, έχουμε αναπτύξει τρόπους εντοπισμού περιεχομένου που πιθανώς είναι κακόβουλο, όπως είναι οι απάτες και οι ιοί στις υπηρεσίες μας.

Το βρίσκουν άλλοι

Υπάρχουν αξιόπιστες πηγές καταγγελίας που μπορεί να αναφέρουν στη Microsoft περιεχόμενο που ενδεχομένως να είναι παράνομο ή επιβλαβές, καθώς και ανάλογη συμπεριφορά ή διευθύνσεις URL των υπηρεσιών μας, ώστε να μπορέσουμε να αποφασίσουμε αν πρέπει να αναλάβουμε δράση. Αυτές οι αξιόπιστες πηγές καταγγελίας είναι καθορισμένοι οργανισμοί που συνεργάζονται με τη Microsoft, είτε βάσει σύμβασης είτε βάσει απαιτήσεων της νομοθεσίας. Το υλικό που αναφέρεται από αξιόπιστες πηγές καταγγελίας ελέγχεται σύμφωνα με τους όρους και τις πολιτικές μας, όπως και όλες οι άλλες αναφορές και, στη συνέχεια, λαμβάνονται τα κατάλληλα μέτρα. Το ίδιο κάνουμε αν οποιαδήποτε κυβερνητική υπηρεσία ή υπηρεσία επιβολής του νόμου αναφέρει μια πιθανή παραβίαση ή ζητήσει την αφαίρεση περιεχομένου ή διευθύνσεων URL σύμφωνα με την τοπική νομοθεσία.

Αιτήσεις δημόσιων οργανισμών για αναφορά κατάργησης περιεχομένου

Το βρίσκετε εσείς

Αν έχετε δει ή αντιμετωπίσει κάτι σε μια υπηρεσία της Microsoft για το οποίο ανησυχείτε, μη διστάσετε να μας ενημερώσετε. Δίνοντας λεπτομερείς πληροφορίες για το περιεχόμενο, τη συμπεριφορά ή άλλα στοιχεία, μεταξύ των οποίων και πού βρίσκεται (όπως μια σύνδεση προς το περιεχόμενο ή ένα αντίγραφο ενός μηνύματος ηλεκτρονικού ταχυδρομείου), βοηθάτε τους επόπτες μας να αξιολογήσουν την κατάσταση και να αναλάβουν δράση σε περίπτωση που παραβιάζονται οι όροι και οι πολιτικές μας. Τα περισσότερα προϊόντα και υπηρεσίες έχουν, εντός της εμπειρίας προϊόντος, επιλογές για την αναφορά περιεχομένου ή τη συμπεριφορά άλλων χρηστών. Μπορείτε επίσης να αναφέρετε προβληματισμούς. Όταν κάνετε μια αναφορά, να προσέχετε ώστε να μην στέλνετε παράνομο υλικό. Χρησιμοποιήστε συνδέσμους προς το περιεχόμενο που αναφέρετε ώστε να μπορέσουμε να το βρούμε, και διαβάστε προσεκτικά τη φόρμα για να βεβαιωθείτε ότι παρέχετε όλες τις ζητούμενες πληροφορίες.

Αξιολόγηση περιεχομένου

Η εξέταση του περιεχομένου γίνεται από ανθρώπους οι οποίοι εξετάζουν εικόνες, βίντεο, μηνύματα και περιβάλλον.

Μάθετε σχετικά με την εξέταση του περιεχομένου

Πολιτικές

Το περιεχόμενο και οι πολιτικές συμπεριφοράς της Microsoft εξηγούν τι δεν επιτρέπεται στις υπηρεσίες μας.

Μάθετε για τις πολιτικές