Η πρακτική της επιστήμης περιλαμβάνει την προσπάθεια εύρεσης πραγμάτων για τον κόσμο χρησιμοποιώντας άκαμπτη λογική και δοκιμή κάθε υπόθεσης.

Στη συνέχεια, οι ερευνητές γράφουν τυχόν σημαντικά ευρήματα σε έγγραφα και τα υποβάλλουν για πιθανή δημοσίευση.

Μετά από μια διαδικασία αξιολόγησης από ομοτίμους, στην οποία άλλοι επιστήμονες ελέγχουν ότι η έρευνα είναι ορθή, τα περιοδικά δημοσιεύουν άρθρα για δημόσια κατανάλωση.

Επομένως, μπορεί λογικά να πιστεύετε ότι τα δημοσιευμένα άρθρα είναι αρκετά αξιόπιστα και πληρούν πρότυπα υψηλής ποιότητας.

Μπορεί να περιμένετε μικρά λάθη που παραβλέφθηκαν κατά την αξιολόγηση από ομοτίμους, αλλά δεν υπήρχαν μεγάλες δυσλειτουργίες.

Είναι επιστήμη, τελικά!

Θα ήθελα να είναι w r Ong το περίμενα αυτό, όμως.

Υπάρχει πραγματική και καλή επιστήμη, αλλά υπάρχει και μια ανησυχητική ποσότητα ψευδών ερευνών εκεί έξω.

Και τα τελευταία χρόνια, έχει αυξηθεί ο όγκος με ταχύτητα αστραπής, όπως αποδεικνύεται από τον αριθμό των συρρικνώσεων χαρτιού .

Ψεύτικη επιστήμη

Ορισμένες πρακτικές απειλούν επί του παρόντος να υπονομεύσουν τη νομιμότητα της επιστημονικής έρευνας. 

Περιλαμβάνουν δημιουργούς συγγραφείς, την προσθήκη επιστημόνων που δεν είχαν καμία σχέση με ένα έγγραφο ως συν-συγγραφέας και ακόμη πιο επικίνδυνες πρακτικές, όπως τα περιοδικά με την υποβολή από χαμηλής ποιότητας, τεχνητά σκουπίδια.

Αυτή η διαδικασία μοιάζει με ανάκληση στο μανάβικο.

Εάν ένα προϊόν που πωλήθηκε προηγουμένως είναι κακό ή επικίνδυνο για κάποιο λόγο, το κατάστημα ενδέχεται να αποφασίσει να το ανακαλέσει και να ζητήσει από όλους τους πελάτες να μην το χρησιμοποιήσουν.

Ομοίως, ένα περιοδικό μπορεί να θυμηθεί μια δημοσιευμένη εφημερίδα που, εκ των υστέρων, αποδείχθηκε ψευδής.

Φυσικά, μερικές φορές τα έγγραφα αποσύρονται επειδή οι συγγραφείς έκαναν ένα ειλικρινές λάθος στην έρευνά τους.

Ωστόσο, σε περισσότερες από τις μισές περιπτώσεις, οφείλεται σε ακαδημαϊκό παράπτωμα ή απάτη.

Μέχρι πριν από μια δεκαετία, αυτό το είδος συμπεριφοράς περιορίστηκε λίγο πολύ στους ερευνητές που παραποίησαν πειραματικά δεδομένα ή παρακάμπτοντας αποτελέσματα για να ευνοήσουν τη θεωρία τους.

Η πιο εξελιγμένη τεχνολογία έχει γίνει, ωστόσο, τα περισσότερα πράγματα έχουν γίνει πολύ πιο περίπλοκα.

Μια απλή λύση θα ήταν να αγνοήσουμε απλώς τα ψεύτικα χαρτιά.

Το πρόβλημα, ωστόσο, είναι ότι είναι συχνά δύσκολο να εντοπιστούν.

Επίσης, μόλις αποσυρθεί ένα έγγραφο από μια δημοσίευση, που αμαυρώνει λίγο ολόκληρο το περιοδικό.

Αφήστε αυτό να συμβεί αρκετά συχνά και η εμπιστοσύνη του κοινού στην επιστήμη στο σύνολό της μειώνεται.

Επομένως, η επιστημονική κοινότητα στο σύνολό της πρέπει να λάβει σοβαρά υπόψη αυτό το πρόβλημα.

Camille Noûs

Μερικά από τα προβλήματα είναι αναλογικά. Το Camille Noûs δεν έχει να κάνει πολύ με το AI, αλλά αξίζει ωστόσο να το αναφέρουμε.

 Γεννήθηκε τον Μάρτιο του 2020, ο Noûs έχει ήδη συν-συγγραφεί περισσότερες από 180 εργασίες σε τομείς τόσο διαφορετικούς όσο η αστροφυσική, η πληροφορική και η βιολογία

Το λέω “γιατί” ο No as δεν είναι πραγματικός άνθρωπος. Αντίθετα, είναι ένα αντικείμενο που εφευρέθηκε από τη γαλλική ερευνητική ομάδα RogueESR .

Φέρει το ουδέτερο ως προς το φύλο γαλλικό όνομα Camille και έναν συνδυασμό της αρχαίας ελληνικής λέξης «νοῦς», που σημαίνει λογική ή γνώση, και τη γαλλική λέξη «nous», που σημαίνει «εμείς».

Το Noûs δημιουργήθηκε ως απάντηση σε έναν έντονα επικριμένο νέο νόμο (πηγή στα γαλλικά) για την αναδιοργάνωση της ακαδημαϊκής έρευνας στη Γαλλία.

Αν και στόχος του νόμου ήταν να βελτιώσει την έρευνα, οι επικριτές του πιστεύουν ότι οι θέσεις εργασίας των επιστημόνων θα είναι άδικα επισφαλείς και θα εξαρτώνται από την εξωτερική χρηματοδότηση σύμφωνα με τις απαιτήσεις του.

 Συγκεκριμένα, η χρηματοδότηση που λαμβάνει ένας επιστήμονας πρέπει να εξαρτάται από τα προηγούμενα επιτεύγματά τους, αν και η έρευνα είναι συχνά μια κοινοτική προσπάθεια.

Για να γίνει ορατή αυτή η ανησυχία, πολλοί ερευνητές επέλεξαν να προσθέσουν το Noûs ως συν-συγγραφέας.

Τα περιοδικά και οι κριτικοί που ήταν υπεύθυνοι για τον έλεγχο αυτών των εφημερίδων δεν ενημερώνονταν πάντοτε, ωστόσο, ότι ο Noûs δεν είναι πραγματικός άνθρωπος.

Αν και το ερευνητικό τμήμα όλων αυτών των άρθρων φαίνεται μέχρι τώρα νόμιμο, είναι ανησυχητικό το ότι μπορεί κανείς να προσθέσει τόσο εύκολα έναν συν-συγγραφέα που δεν έχει καν ταυτότητα.

Αν και η ανάδειξη των κοινοτικών προσπαθειών με συγγραφείς όπως ο Noûs είναι ένας έντιμος στόχος, η ιδέα ότι οι επιστήμονες μπορούν να εφευρεθούν από τον αέρα σε αυτήν την ημέρα και την ηλικία είναι αρκετά ανησυχητική.

Πίστωση: Παρέχεται συντάκτηςΟι κοινοτικές προσπάθειες πρέπει να αναγνωριστούν, αλλά προς το παρόν δεν έχουμε σύστημα για να το κάνουμε.

Προσθήκη συγγραφέων όπου δεν ανήκουν

Ωστόσο, η επισήμανση των ελαττωμάτων του συστήματος αξιολόγησης από ομοτίμους και της ακαδημαϊκής κοινότητας δεν είναι το μόνο μέρος που εκδηλώνεται αυτό το πρόβλημα.

 Ειδικά σε έγγραφα σχετικά με την τεχνητή νοημοσύνη , οι περιπτώσεις πλαστών συν-συγγραφέων έχουν αυξηθεί.

Αυτή η εξαπάτηση περιλαμβάνει την πρακτική της προσθήκης ενός υψηλού προφίλ επιστήμονα ως συν-συγγραφέα χωρίς τη γνώση ή τη συγκατάθεσή τους.

Ένας άλλος τρόπος για να γίνει αυτό είναι με την προσθήκη ενός φανταστικού συν-συγγραφέα, όπως ο Camille Noûs, αλλά με στόχο την προσποίηση της διεθνούς συνεργασίας ή του ευρύτερου επιστημονικού λόγου.

Εκτός από την παροχή της ψευδαίσθησης της διεθνούς συνεργασίας, η προσθήκη ψεύτικων συγγραφέων με αξιοσέβαστα διαπιστευτήρια μπορεί να συμβάλει στην αξιοπιστία ενός χαρτιού.

Πολλοί επιστήμονες θα κοινοποιήσουν στο Google όλα τα ονόματα των συγγραφέων προτού διαβάσουν ένα έγγραφο ή το αναφέρουν στο έργο τους.

Όμως, βλέποντας έναν συν-συγγραφέα από ένα διάσημο ίδρυμα μπορεί να τους επηρεάσει για να ρίξουν μια πιο προσεκτική ματιά σε ένα έγγραφο, ειδικά αν δεν έχει ακόμη κριθεί από ομοτίμους.

Το κύρος ενός ιδρύματος μπορεί στη συνέχεια να λειτουργήσει σαν πληρεξούσιο για αξιοπιστία έως ότου ολοκληρωθεί η αξιολόγηση από ομοτίμους, η οποία μπορεί να διαρκέσει πολλούς μήνες.

Δεν είναι σαφές πόσους ψεύτικους συγγραφείς έχουν προστεθεί μέχρι σήμερα.

 Πρώτον, ορισμένοι επιστήμονες μπορεί να επιλέξουν να αγνοήσουν το γεγονός ότι το όνομά τους είναι σε χαρτί που δεν έγραψαν, ειδικά επειδή το περιεχόμενο των εν λόγω εφημερίδων συχνά δεν είναι τρομερό (αν και όχι μεγάλο) και η νομική δράση μπορεί επίσης να γίνει ακριβό και χρονοβόρο.

Επιπλέον, επί του παρόντος δεν υπάρχει τυπική μέθοδος για την επαλήθευση της ταυτότητας ενός επιστήμονα πριν από τη δημοσίευση μιας εργασίας.

Αυτό δίνει στους ψεύτικους συγγραφείς ένα δωρεάν πάσο.

Όλα αυτά τα ζητήματα δείχνουν την αναγκαιότητα κάποιου τύπου διαδικασίας επαλήθευσης ταυτότητας.

 Τίποτα επίσημο δεν υπάρχει επί του παρόντος, και αυτό είναι κρίμα.

 Σε μια μέρα και ηλικία όπου κάθε τράπεζα μπορεί να επαληθεύσει την ταυτότητά σας στο Διαδίκτυο και να την ταιριάξει με το πρόσωπο στην κάμερα web, η επιστήμη δεν μπορεί καν να προστατεύσει τους πιο πολύτιμους συνεισφέροντες της από απατεώνες.

Πίστωση: Παρέχεται συντάκτηςΤο μονοπάτι ενός καλού ανθρώπινου νου είναι ακόμα καλύτερο σήμερα από το καλύτερο AI όταν πρόκειται για συγγραφή επιστημονικών εργασιών.

Οι αλγόριθμοι παράγουν κακά άρθρα

Το 1994, ο φυσικός Άλαν Σοκάλ έκανε την φαγούρα να γράψει ένα ψεύτικο έγγραφο σχετικά με κάποιο θέμα που σχετίζεται με τις ανθρωπιστικές επιστήμες και να το υποβάλει σε ένα περιοδικό.

Έγινε αποδεκτό , αν και κανείς, συμπεριλαμβανομένου του ίδιου του συγγραφέα, δεν κατάλαβε τι έλεγε.

Όχι μόνο αυτό είναι γελοίο, αλλά δείχνει επίσης πώς μπορούν να πάρουν οι τεμπέληδες κριτικοί από ομοτίμους.

Σε αυτήν την περίπτωση, αποδέχτηκαν κυριολεκτικά αυτό που ήταν ουσιαστικά ένα άρθρο ασυναρτησίας.

Με παρόμοιο τρόπο, το 2005, ένα τρίο φοιτητών πληροφορικής αποφάσισε να αναπτύξει το SCIgen ως φάρσα στον κόσμο της έρευνας.

Αυτό το πρόγραμμα δημιουργεί εντελώς ανόητες εργασίες με γραφήματα, σχήματα και παραπομπές, γεμάτες πολλές λέξεις από την επιστήμη των υπολογιστών.

Ένα από τα εχθρικά χαρτιά τους έγινε δεκτό για ένα συνέδριο εκείνη την εποχή.

Επιπλέον, το 2013, 120 δημοσιεύσεις αποσύρθηκαν από διάφορους εκδότες αφού ανακάλυψαν ότι η SCIgen τα είχε γράψει. Το 2015, ο ιστότοπος είχε ακόμη 600.000 επισκέψεις σελίδων ετησίως.

Δυστυχώς, όμως, τα πλαστά χαρτιά δεν δημιουργούνται μόνο ως φάρσες.

 Ολόκληρες εταιρείες κερδίζουν χρήματα γράφοντας ασυνήθιστα χαρτιά και τα υποβάλλουν σε αρπακτικά περιοδικά που δεν απορρίπτουν τίποτα επειδή χρεώνουν ένα τέλος για τη δημοσίευση.

Τέτοιες εταιρείες, που ονομάζονται επίσης μύλοι χαρτιού , γίνονται όλο και πιο εξελιγμένες στις μεθόδους τους.

Παρόλο που η ανίχνευση απάτης βελτιώνεται επίσης, οι ειδικοί έχουν νόμιμους φόβους ότι αυτοί οι αδίστακτοι ηθοποιοί, αφού έχουν βελτιώσει την τέχνη τους στοχεύοντας σε περιοδικά χαμηλής ποιότητας, μπορεί να προσπαθήσουν να πλημμυρίσουν πραγματικά.

Αυτό θα μπορούσε να οδηγήσει σε έναν αγώνα όπλων μεταξύ χαρτοποιίας και περιοδικών που δεν θέλουν να δημοσιεύσουν ψευδείς εργασίες.

Φυσικά, υπάρχει μια άλλη ερώτηση στον ορίζοντα: Πόσο περισσότερο θα είναι οι άνθρωποι που θα γράφουν ερευνητικές εργασίες;

 Μήπως σε 10 ή 20 χρόνια, οι αλγόριθμοι που λειτουργούν με τεχνητή νοημοσύνη μπορούν να κοσκινίσουν αυτόματα τις γραμματοσειρές και να βάλουν τα συμπεράσματά τους σε ένα νέο έγγραφο που φτάνει στα υψηλότερα πρότυπα έρευνας;

Πώς θα δώσουμε πίστωση σε αυτούς τους αλγόριθμους ή τους δημιουργούς τους;

Σήμερα, όμως, έχουμε να κάνουμε με μια πολύ πιο ανόητη ερώτηση: Πώς μπορούμε να εντοπίσουμε έγγραφα που έχουν γραφτεί από σχετικά μη εξελιγμένους αλγόριθμους και δεν παράγουν κανένα λογικό περιεχόμενο; Και πώς τα αντιμετωπίζουμε;

Εκτός από τις εθελοντικές προσπάθειες και αναγκάζοντας τους δόλιους συγγραφείς να ανακαλέσουν τα έγγραφα τους, η επιστημονική κοινότητα έχει εκπληκτικά λίγες απαντήσεις σε αυτό το ερώτημα.

Πίστωση: Παρέχεται συντάκτηςΤα περισσότερα περιοδικά χρειάζονται απεγνωσμένα να ενημερώσουν τα συστήματα ασφαλείας μας για τον εντοπισμό πλαστών χαρτιών.

Δράστε κατά της ψεύτικης επιστήμης

Τα περισσότερα περιοδικά με καλή φήμη να χάσουν έχουν τουλάχιστον μια βασική διαδικασία επαλήθευσης email για ερευνητές που θέλουν να υποβάλουν ένα έγγραφο.

Εδώ , για παράδειγμα, είναι το σύστημα επαλήθευσης για το περιοδικό Science .

 Παρόλα αυτά, η δημιουργία μιας ψεύτικης διεύθυνσης email και η διαδικασία με αυτήν είναι αρκετά εύκολη.

Αυτός ο τύπος απάτης εξακολουθεί να συμβαίνει πολύ, όπως φαίνεται από την τεράστια ποσότητα εγγράφων που ανακτώνται ακόμη και από έγκυρα περιοδικά κάθε χρόνο.

Χρειαζόμαστε λοιπόν ισχυρότερα συστήματα.

Μια καλή προσέγγιση για την επαλήθευση της ταυτότητας ενός επιστήμονα είναι το ORCID .

Βασικά, μέσω αυτού του συστήματος, κάθε ερευνητής μπορεί να πάρει ένα μοναδικό αναγνωριστικό, το οποίο στη συνέχεια συνδέεται αυτόματα με το ιστορικό του.

 Η χρήση του ORCID σε όλη τη διαδικασία αξιολόγησης από ομοτίμους και δημοσίευσης ενός περιοδικού θα καθιστούσε πολύ πιο δύσκολη τη δημιουργία πλαστής ταυτότητας ή τη χρήση διαπιστευτηρίων άλλων ερευνητών χωρίς τη γνώση ή τη συγκατάθεσή τους.

 Αν και αυτή είναι μια πολύ καλή πρωτοβουλία, κανένα σημαντικό περιοδικό δεν έχει καταστήσει ακόμη αναγνωριστικά από το ORCID ή αλλού υποχρεωτικό για όλους τους συγγραφείς.

Αυτό είναι κρίμα, κατά τη γνώμη μου, και κάτι που θα μπορούσε να διορθωθεί αρκετά εύκολα.

Τέλος, το AI μπορεί να είναι το ίδιο χρήσιμο σε αυτόν τον αγώνα.

Ορισμένα περιοδικά αναπτύσσουν μοντέλα AI για τον εντοπισμό ψεύτικων συνεισφορών.

 Από τώρα, ωστόσο, τα περιοδικά δεν μπόρεσαν να συμφωνήσουν σε ένα κοινό πρότυπο.

Κατά συνέπεια, περιοδικά που δεν διαθέτουν τους πόρους ή την εξειδίκευση δεν μπορούν να εφαρμόσουν τα ίδια ποιοτικά μέτρα με τις υψηλότερης βαθμολογίας δημοσιεύσεις.

Αυτό διευρύνει το αντιληπτό χάσμα μεταξύ περιοδικών υψηλού και χαμηλού επιπέδου και είναι, για μένα, σαφής απόδειξη ότι τα περιοδικά πρέπει να συγκεντρωθούν και να βρουν έναν τρόπο να μοιραστούν πόρους για τον εντοπισμό απάτης.

Φυσικά, τα περιοδικά υψηλού επιπέδου μπορεί να επωφεληθούν από την έλλειψη ανταγωνισμού βραχυπρόθεσμα.

Μακροπρόθεσμα, ωστόσο, η ύπαρξη περισσότερων περιοδικών με χαμηλά πρότυπα ενδέχεται να μειώσει την εμπιστοσύνη στις επιστημονικές εκδόσεις στο σύνολό της.

Δεν είναι όμως ότι ερευνητές και επιστημονικά περιοδικά κάθονται στους τεμπέληδες τους γαϊδουράκια αντί να εντοπίζουν δόλιους συγγραφείς.

 Οι μεμονωμένες δημοσιεύσεις, στην πραγματικότητα, κάνουν πολλά για να εντοπίσουν πλαστά χαρτιά.

Αλλά αν κάποια περιοδικά έχουν τα μέσα και άλλα όχι, οι δημοσιεύσεις δεν λειτουργούν σε ίσους όρους.

Επιπλέον, οι απατεώνες θα είναι πάντα σε θέση να στοχεύουν ορισμένα περιοδικά που δεν χρηματοδοτούνται με τα πλαστά χαρτιά τους.

 Τα περιοδικά πρέπει να ενεργούν συλλογικά για να βρουν έναν τρόπο εντοπισμού μύλων χαρτιού και να επαληθεύσουν την ταυτότητα όλων των συγγραφέων τους.

Πέρα από την επιστήμη: τα ψεύτικα νέα γίνονται πιο ψεύτικα

Εάν πιστεύετε ότι το ψεύτικο περιεχόμενο είναι ένα πρόβλημα που περιορίζεται στην επιστήμη, κάνετε λάθος.

 Μόλις λίγα χρόνια πίσω, κατά τη διάρκεια της εποχής του Trump, τα «ψεύτικα νέα» ήταν το επίκεντρο της σεζόν.

Από τότε, οι μέθοδοι δημιουργίας περιεχομένου για να επηρεάσουν την κοινή γνώμη έχουν γίνει πιο εξελιγμένες και μοιάζουν πολύ με αυτές των ψευδών επιστημονικών εφημερίδων.

Για παράδειγμα, ψεύτικοι δημοσιογράφοι ήταν οι φαινομενικοί συντάκτες των επιχειρήσεων σε διάφορα συντηρητικά καταστήματα. Τα headshots τους δημιουργήθηκαν με αλγόριθμους AI.

Οι λογαριασμοί τους στο LinkedIn και στο Twitter είναι εντελώς ψεύτικοι και εξακολουθεί να είναι ασαφές ποιος είναι πραγματικά πίσω από αυτά τα άρθρα.

Υπάρχουν επίσης αρκετές γεννήτριες άρθρων ψεύτικων ειδήσεων που διευκολύνουν τη δημιουργία ψευδών τίτλων.

Παρόλο που ενδέχεται να μην μπορείτε να πείσετε έναν έμπειρο ελεγκτή γεγονότων με τέτοιο περιεχόμενο, ίσως να είστε σε θέση να εντυπωσιάσετε τον μέσο χρήστη του Facebook αρκετά ώστε να τους πείσετε να μοιραστούν το άρθρο.

Γι ‘αυτό και εγώ ο ίδιος τείνω να εμπιστεύομαι μόνο ειδήσεις και επιστήμη από καθιερωμένες πηγές ή περιεχόμενο που μπορώ να ελέγξω αρκετά για να διαπιστώσω ότι είναι αλήθεια.

 Παραβλέπω εντελώς άλλες πηγές επειδή γνωρίζω ότι οι περισσότερες από αυτές κυμαίνονται από «λίγο λάθος» έως «εντελώς κατασκευασμένες».

Δεν είχα αυτή τη στάση λίγα χρόνια πίσω. Ούτε οι άνθρωποι γύρω μου.

Η εμπιστοσύνη στις ειδήσεις έχει διαβρωθεί δραματικά και δεν έχω ιδέα πώς θα μπορέσουμε να τις επαναφέρουμε.

 Τώρα, αυτό που συμβαίνει ήδη με τις ειδήσεις συμβαίνει με την επιστήμη.

Είναι αρκετά κακό που είναι δύσκολο να ανακαλύψεις την αλήθεια για το τι συμβαίνει στον κόσμο.

Αλλά αν διαβρωθούν τα ίδια τα θεμέλια της ανθρώπινης γνώσης, αυτό θα ήταν ακόμη μεγαλύτερη καταστροφή.

Αν και η συζήτηση για τα ψεύτικα νέα έχει πεθάνει από τις εκλογές του 2020, δεν έχει τελειώσει.

Δεδομένου ότι τα εργαλεία για την πλαστογράφηση του περιεχομένου γίνονται όλο και πιο περίπλοκα, πιστεύω ότι η συνομιλία θα πάρει περισσότερα καύσιμα τα επόμενα χρόνια.

Ας ελπίσουμε ότι, μέχρι τότε, θα έχουμε καταλήξει σε συναίνεση για το πώς να καταπολεμήσουμε το ψεύτικο περιεχόμενο – και την ψεύτικη έρευνα.

Αυτό το άρθρο γράφτηκε από τη Ρέα Μουτάφη  και δημοσιεύτηκε αρχικά στο Towards Data Science Μπορείτε να το διαβάσετε εδώ .