Σε μια πλατφόρμα που εξελίχθηκε από app χορευτικών βίντεο σε έναν από τους πιο επιδραστικούς μηχανισμούς διαμόρφωσης συμπεριφοράς των εφήβων παγκοσμίως, το ερώτημα της ασφάλειας παραμένει κεντρικό.
Οι προκλήσεις που μεταδίδονται viral, το περιεχόμενο που αγγίζει τα όρια του αυτοτραυματισμού, αλλά και η λεπτή γραμμή ανάμεσα στην επιτήρηση και την ιδιωτικότητα ανηλίκων, συνθέτουν ένα πεδίο συνεχούς αντιπαράθεσης ανάμεσα σε ρυθμιστικές αρχές, γονείς και τις ίδιες τις πλατφόρμες.
Η εταιρεία TikTok δηλώνει ότι διαθέτει πλέον εργαλεία φιλτραρίσματος, αποτροπής και γονικού ελέγχου. Αλλά πώς εφαρμόζονται αυτά στην πράξη;
Η «Κ» συνάντησε την επικεφαλής πολιτικής δεδομένων της TikTok για την Ευρώπη, Τζέιντ Νέστερ, στην οποία θέσαμε μία σειρά ερωτημάτων για τους αριθμούς, τους μηχανισμούς και τα όρια του συστήματος.
«Είναι κάτι που παίρνουμε πάρα πολύ σοβαρά, για την κοινότητά μας αλλά και για τους γονείς τους», τονίζει η Τεξανή ειδικός του Internet public policy, η οποία την τελευταία δεκαετία ζει στην Ευρώπη – στην Αθήνα ήρθε για μία συνέντευξη Τύπου όπου τέθηκε επί τάπητος η προστασία των ανηλίκων.
Τα επίπεδα της μέριμνας
Το πρώτο επίπεδο προστασίας αφορά τις ίδιες τις κοινοτικές οδηγίες του TikTok. Οπως εξηγεί, το περιεχόμενο που δεν επιτρέπεται καθόλου στην πλατφόρμα αφαιρείται είτε με αυτόματα εργαλεία είτε με χειροκίνητη παρέμβαση συντονιστών.
Ομως το πιο λεπτό θέμα είναι το περιεχόμενο που δεν είναι επικίνδυνο γενικά, αλλά μπορεί να μην είναι κατάλληλο για εφήβους. Εκεί εφαρμόζεται το σύστημα «content levels», ένα είδος ηλικιακής κατάταξης, όπως λέει. «Υπάρχει περιεχόμενο που προορίζεται για 18+ και αυτό δεν εμφανίζεται καθόλου στη ροή “For You” των χρηστών κάτω των 18».
Εκτός από το μπλοκάρισμα περιεχομένου, εφαρμόζεται και μια λογική διασποράς για ορισμένες κατηγορίες, ώστε να αποφεύγεται η επαναλαμβανόμενη έκθεση. «Μπορεί να δεις ένα βίντεο με έναν αθλητή να προπονείται, αλλά αν δεις πάρα πολλά τέτοια, αυτό γίνεται υπερβολή. Οπότε φροντίζουμε να το περιορίζουμε αυτό», λέει.
Το κρίσιμο ερώτημα είναι πώς ελέγχεται η ηλικία για την εγγραφή στην πλατφόρμα. Εξηγεί πως, πέρα από τα φίλτρα στα λειτουργικά συστήματα Android και Apple, η ίδια η TikTok δεν ρωτάει ευθέως αν ο χρήστης είναι άνω των 13. «Απλώς ρωτάμε “πόσων χρονών είσαι;” και αν μας δοθεί ηλικία κάτω των 13, μπλοκάρουμε τη δημιουργία λογαριασμού».
Αν κάποιος δηλώσει ψευδή ηλικία, η πλατφόρμα εφαρμόζει ελέγχους σε δευτερογενές επίπεδο.
Πώς γίνεται η επαλήθευση της ηλικίας
ΕΡ: Πώς επαληθεύετε την ηλικία κάποιου που θέλει να εγγραφεί στο TikTok; Πώς ξέρετε αν είναι 13 ή 16 ή οτιδήποτε άλλο;
ΑΠ: Εχουμε ελέγχους στο επίπεδο του λειτουργικού συστήματος, τόσο με Android όσο και με Apple. Στο TikTok, η εφαρμογή φέρει την ένδειξη parental guidance στο Google Play και 13+ στο App Store. Αν οι γονείς ορίσουν τον έλεγχο αυτό, τότε κάποιος κάτω από την απαιτούμενη ηλικία δεν μπορεί να κατεβάσει την εφαρμογή. Επιπλέον, έχουμε μια ουδέτερη ερώτηση ηλικίας. Δεν λέμε «πρέπει να είσαι 13 για να μπεις». Απλώς ρωτάμε: «Πόσων χρονών είσαι; Πότε είναι τα γενέθλιά σου;». Αν δηλώσουν ηλικία κάτω των 13, τότε μπλοκάρουμε την προσπάθεια να δημιουργηθεί λογαριασμός με άλλη ηλικία. Αν πουν ψέματα –κάτι που συμβαίνει μερικές φορές– έχουμε εργαλεία για να εντοπίσουμε τέτοιους λογαριασμούς.
ΕΡ: Πώς το κάνετε αυτό;
ΑΠ: Εχουμε τεχνολογία που μας βοηθάει σε αυτό. Ενα μοντέλο μπορεί να εντοπίσει αν υπάρχει κάποιο δημόσιο σήμα. Για παράδειγμα, αν κάποιος γράφει στο βιογραφικό του ότι είναι 12. Μπορούμε να το εντοπίσουμε και τότε ένας άνθρωπος αναλαμβάνει να εξετάσει και, αν χρειαστεί, να αναστείλει τον λογαριασμό.
ΕΡ: Δηλαδή κάνετε μια δευτερογενή έρευνα;
ΑΠ: Ακριβώς. Εχουμε μια διαδικασία που το εντοπίζει με βάση τέτοιες πληροφορίες. Επίσης, οι χρήστες μπορούν να αναφέρουν άλλους χρήστες για ενδεχόμενη παραβίαση ηλικίας. Αν π.χ. η θεία σου είναι στο TikTok και ξέρει ότι είσαι κάτω από την ηλικία, μπορεί να σε αναφέρει ανώνυμα και να αφαιρεθεί ο λογαριασμός. Υπάρχει και μια φόρμα στον ιστότοπό μας. Δεν χρειάζεται καν να έχεις λογαριασμό TikTok για να κάνεις την αναφορά.
ΕΡ: Πώς ακριβώς γίνεται αυτό;
ΑΠ: Υπάρχει ένας σύνδεσμος στον ιστότοπό μας για αναφορά ανήλικων χρηστών. Οπότε ναι, ένας γονιός μπορεί να αναφέρει το παιδί του. Το κάνουν και εκπαιδευτικοί ή κοινωνικοί λειτουργοί.
Η επαφή ανηλίκων με ενήλικες
Οσον αφορά τη διαχείριση επαφών ανηλίκων με ενήλικες, η εταιρεία –σημειώνει- εφαρμόζει αυστηρούς περιορισμούς.
«Οι κάτω των 16 δεν μπορούν να χρησιμοποιήσουν καθόλου την υπηρεσία ανταλλαγής μηνυμάτων – ούτε με φίλους τους», υπογραμμίζει. Ακόμη και στα 17, η δυνατότητα messaging παραμένει περιορισμένη, μέσω εργαλείων γονικού ελέγχου (Family Pairing), όπου οι γονείς μπορούν να καθορίσουν ποιος επιτρέπεται να επικοινωνεί με το παιδί τους.
Το ίδιο ισχύει και για τα live. «Αν είσαι κάτω των 18, δεν μπορείς να κάνεις live», τονίζει. Επιπλέον, έχει απαγορευτεί και το gifting, καθώς και η δυνατότητα να επεξεργαστείς περιεχόμενο χρηστών κάτω των 16.
Τα εργαλεία ασφαλείας
ΕΡ: Τι εργαλεία ή μέτρα ασφαλείας παρέχει η TikTok για να αποτρέψει grooming, κακοποιητική συμπεριφορά ή ανεπιθύμητη επαφή ενηλίκων με ανηλίκους;
ΑΠ: Είναι πρόκληση για κάθε πλατφόρμα. Εχουμε λοιπόν τους βασικούς περιορισμούς που ανέφερα: Χρήστες κάτω των 16 δεν μπορούν να χρησιμοποιήσουν την ανταλλαγή μηνυμάτων. Δεν μπορούν να στείλουν μηνύματα. Το περιεχόμενό τους δεν προτείνεται στο For You feed.
ΕΡ: Ούτε σε φίλους;
ΑΠ: Αμεσα μηνύματα; Καθόλου. Αν είναι κάτω των 16, δεν μπορούν ούτε με φίλους να μιλήσουν. Αν είναι 17, τότε μπορούν, αλλά οι γονείς μπορούν να ρυθμίσουν μέσω του Family Pairing με ποιους επιτρέπεται να μιλήσουν. Ακόμη κι αν είναι κάτω των 18, υπάρχουν περιορισμοί, τόσο από εμάς όσο και από τους γονείς. Για παράδειγμα, δεν μπορούν να κάνουν live. Το περιορίζουμε αυτό.
ΕΡ: Από πότε; Γιατί υπήρχαν παράπονα για live από ανηλίκους.
ΑΠ: Ναι, σταματήσαμε να επιτρέπουμε σε ανήλικους να κάνουν live ή να συμμετέχουν στο gifting. Αν ένα live είναι κατάλληλο, μπορεί να το δουν αλλά δεν μπορούν να κάνουν οι ίδιοι live. Επίσης, δεν μπορούν να στέλνουν ή να δέχονται δώρα. Προσπαθούμε να περιορίσουμε όλους τους τρόπους αλληλεπίδρασης μεταξύ μεγαλύτερων και νεότερων χρηστών. Για παράδειγμα, δεν επιτρέπουμε να γίνει remixed περιεχόμενο από λογαριασμούς κάτω των 16. Και με το family pairing, οι γονείς μπορούν να ορίσουν ποιος ακολουθεί το παιδί και ποιον ακολουθεί εκείνο.
ΕΡ: Και πώς το κάνουν αυτό οι γονείς;
ΑΠ: Μέσω του εργαλείου Family Pairing. Αυτό ενσωματώθηκε πρόσφατα και στην ελληνική κυβερνητική πλατφόρμα. Περιλαμβάνει οδηγίες για γονείς.
ΕΡ: Μπορούν όμως να δουν τι βλέπει το παιδί; Χρειάζεται να πάρουν το κινητό;
ΑΠ: Μπορούν να ορίσουν περιορισμούς στο περιεχόμενο. Μπορούν να επιλέξουν τι είδους περιεχόμενο θα επιτρέπεται να βλέπει το παιδί. Αλλά φυσικά πρέπει να σεβαστούμε και την αυτονομία και τα δικαιώματα του εφήβου. Εχουμε προσθέσει νέα εργαλεία στο family pairing, ώστε να δίνουμε περισσότερους ελέγχους στους γονείς αλλά χωρίς να παραβιάζεται η ιδιωτικότητα του εφήβου.
Αφαιρούνται μηνιαίως 7 εκατ. λογαριασμοί ανήλικων
Σχετικά με την αφαίρεση λογαριασμών χρηστών κάτω των 13 ετών, το TikTok δίνει συγκεκριμένα στοιχεία. «Αφαιρούμε περίπου 20 εκατομμύρια λογαριασμούς ανά τρίμηνο – δηλαδή γύρω στα 7 εκατομμύρια τον μήνα».
Σε ό,τι αφορά τις ανησυχίες για επικίνδυνες «προκλήσεις» ή αυτοτραυματισμούς που κυκλοφορούν ως trends, η Νέστερ αναγνωρίζει τη δυσκολία εντοπισμού τέτοιου περιεχομένου.
«Πολλές φορές δεν εντοπίζουμε το ίδιο το περιεχόμενο στην πλατφόρμα. Είναι ιστορίες που διαδίδονται αλλού και συνδέονται με το TikTok χωρίς να βασίζονται σε πραγματικά δεδομένα».
Σε κάθε περίπτωση, η εταιρεία εφαρμόζει ένα πλαίσιο που λέγεται «Stop, Think, Decide, Act», ένα εργαλείο καθοδήγησης για τους εφήβους που καλούνται να αξιολογούν αν κάτι που βλέπουν είναι ασφαλές να το δοκιμάσουν.
Οι «προκλήσεις» και οι αυτοτραυματισμοί
ΕΡ: Πώς ανταποκρίνεται το TikTok σε αναφορές από σχολεία ή γονείς για επικίνδυνες τάσεις, viral «προκλήσεις» ή περιεχόμενο αυτοτραυματισμού μεταξύ παιδιών; Υπάρχουν μηχανισμοί λογοδοσίας;
ΑΠ: Είναι κάτι που μας απασχολεί σοβαρά. Γι’ αυτό κάναμε και μια έρευνα με 10.000 μαθητές, γονείς και εκπαιδευτικούς πάνω σε αυτό το θέμα. Εχουμε πολιτικές που απαγορεύουν επικίνδυνες προκλήσεις. Ταυτόχρονα, αναγνωρίζουμε ότι μερικές φορές αυτές οι ιστορίες διαδίδονται χωρίς να υπάρχει σχετικό περιεχόμενο στην πλατφόρμα. Είναι δύσκολο ακόμη και για εμάς να το εντοπίσουμε.
Συχνά πρόκειται για ευρύτερες τάσεις που συνδέονται με το TikTok, χωρίς να υπάρχει ξεκάθαρη σχέση. Προσπαθούμε να ενθαρρύνουμε τους νέους, είτε δουν κάτι στο TikTok είτε όχι, να σκεφτούν πριν πράξουν. Γι’ αυτό δημιουργήσαμε το πλαίσιο «Stop, Think, Decide, Act» – ένα οδηγό σκέψης για να αξιολογούν οι ίδιοι αν κάτι είναι ασφαλές ή όχι. Αν για παράδειγμα ανεβάζει περιεχόμενο ένας επαγγελματίας BMX rider, βάζουμε προειδοποίηση: «Μην το δοκιμάσετε μόνοι σας». Αυτή είναι μια από τις πολλές πρωτοβουλίες που έχουμε αναλάβει, σε συνεργασία με το συμβούλιο νέων μας και άλλους εξωτερικούς ειδικούς.
