breaking newsNEA TAΞΗ ΠΡΑΓΜΑΤΩΝ

Καλώς ήλθατε στο «Minority Report» – Σφοδρές επιστημονικές αντιδράσεις για software που ισχυρίζεται ότι… προβλέπει το έγκλημα

φοτοstarbiz

Στα τέλη του 19ου αιώνα, ένας Ιταλός «εγκληματολόγος», ο Τσέζαρε Λομπρόζο, εισήγαγε μια άκρως ενδιαφέρουσα θεωρία περί εγκληματικότητας: επηρεασμένος από διάφορα ρεύματα σκέψης της εποχής του, ο Λομπρόζο υποστήριξε ότι η ροπή στο έγκλημα δεν είναι αποτέλεσμα μιας σύνθετης κοινωνικοοικονομικής διαδικασίας, αλλά είναι γενετικά καθορισμένη. 

 

Συγκεκριμένα, σύμφωνα με τη θεωρία του, οι εγκληματίες ήταν άτομα που βιολογικά έχουν παλινδρομήσει σε πιο πρωτόγονες εξελικτικές βαθμίδες. 

Μάλιστα, για να το αποδείξει, χρησιμοποίησε φυσιογνωμικά «βιομετρικά» (ας πούμε) στοιχεία, όπως η κατατομή του προσώπου, το μέγεθος του μετώπου κ.λπ., για να δείξει ότι άνθρωποι που εγκληματούσαν ήταν λιγότερο εξελιγμένοι από τους λοιπούς Homo Sapiens και ότι είχαν χαρακτηριστικά που ταίριαζαν περισσότερο σε προγόνους του ανθρωπίνου είδους.

Αν και αρχικά γνώρισε ευρεία διάδοση, η θεωρία του Λομπρόζο σήμερα αντιμετωπίζεται ως κομπογιαννιτισμός ή, στην καλύτερη περίπτωση, ως μια προβληματική και δραματικά ανεπαρκής προσέγγιση στο ζήτημα της εγκληματικότητας, κάτι που, άλλωστε, έχει αποδειχθεί από δεκάδες περιπτώσεις, π.χ., καθ’ έξιν δολοφόνων, οι οποίοι κάθε άλλο παρά ανταποκρίνονταν στα φυσιογνωμικά χαρακτηριστικά που ο Ιταλός απέδιδε στους εγκληματίες. 

Ωστόσο φαίνεται ότι η θεωρία του, ιδίως δε η ιδέα του ότι η εγκληματική προδιάθεση ενός ατόμου μπορεί να προβλεφθεί μέσα από την ανάλυση συγκεκριμένων χαρακτηριστικών, φαίνεται ότι συνεχίζει να έχει οπαδούς.

Μέσω τεχνητής νοημοσύνης

Για παράδειγμα, αν και δεν είναι ευρέως γνωστό, εταιρείες υψηλής τεχνολογίας, οι οποίες ασχολούνται με την τεχνητή νοημοσύνη, επιχειρούν να δημιουργήσουν λογισμικό το οποίο, όπως ισχυρίζονται, θα μπορεί να… προβλέψει τις εγκληματικές τάσεις ατόμων, διευκολύνοντας τις διωκτικές αρχές ώστε να… μην ταλαιπωρούνται με πραγματική ερευνητική διαδικασία εξιχνίασης των εγκλημάτων, αλλά να προσφεύγουν σε βάσεις δεδομένων και «ουδέτερες» αξιολογήσεις από μηχανές για να εντοπίζουν πιθανούς εγκληματίες.

Κι αν αυτό σας φέρνει στο μυαλό χολιγουντιανές ταινίες όπως το «Minority Report», μια πρόσφατη μελέτη προκάλεσε τεράστια αναστάτωση στην επιστημονική κοινότητα και όχι μόνο, καθώς υποστηρίζει ότι ειδικό software αναγνώρισης προσώπου, συνδυασμένο με νευρωνικά δίκτυα και τεχνολογία τεχνητής νοημοσύνης, θα μπορεί να προβλέπει το ενδεχόμενο ένα άτομο να πραγματοποιήσει εγκληματικές πράξεις. 

Σύμφωνα με τους συγγραφείς της μελέτης στο Πανεπιστήμιο του Χάρισμπεργκ στις ΗΠΑ, το συγκεκριμένο σύστημα έχει 80% επιτυχία, ενώ τονίζουν ότι «η ανάπτυξη μηχανών που είναι ικανές να πραγματοποιούν γνωστικά καθήκοντα, όπως το να αναγνωρίζουν την εγκληματική προδιάθεση ενός ατόμου από τα χαρακτηριστικά το προσώπου του, θα δώσει σημαντικό πλεονέκτημα σε διωκτικές αρχές και άλλες υπηρεσίες ασφαλείας να αποτρέπουν το έγκλημα πριν καν αυτό συμβεί».

Μεγάλες αντιδράσεις

Μάλιστα ο καθηγητής Ναθάνιελ Άσμπι σημείωσε ότι «με την αυτοματοποίηση της ταυτοποίησης πιθανών απειλών χωρίς προκατάληψη, ο στόχος μας είναι να παραγάγουμε εργαλεία για την αποτροπή του εγκλήματος, εφαρμογές για την αστυνομία και τον στρατό που θα επηρεάζονται λιγότερο από προϋπάρχουσες προκαταλήψεις και συναισθηματικές αντιδράσεις».
Τόνισε δε πως μεταξύ των χαρακτηριστικών του συστήματος περιλαμβάνεται και η απουσία φυλετικής προκατάληψης.

Μπορεί όλα αυτά να ακούγονται ενδιαφέροντα, ωστόσο προκάλεσαν σφοδρές αντιδράσεις στην κοινότητα των επιστημόνων που ασχολούνται με την τεχνητή νοημοσύνη. 
Σχεδόν 2.500 καθηγητές πανεπιστημίου, ερευνητές και ειδικοί στον τομέα της τεχνητής νοημοσύνης κάλεσαν με ανοιχτή επιστολή τους μεγάλο εκδοτικό οίκο «να μην προχωρήσει στη δημοσιοποίηση της μελέτης».

Το επιχείρημά τους είναι ότι η μελέτη «είναι εμβληματικό κομμάτι ενός μεγαλύτερου σώματος υπολογιστικής έρευνας, που ισχυρίζεται ότι ταυτοποιεί ή προβλέπει την “εγκληματικότητα” χρησιμοποιώντας βιομετρικά και/ή ποινικά δεδομένα. Τέτοιοι ισχυρισμοί βασίζονται σε σαθρές επιστημονικές θεωρίες, έρευνα και μεθοδολογία, τις οποίες οι αναρίθμητες μελέτες μας στους τομείς ειδίκευσής μας έχουν αποκαλύψει μέσα στον χρόνο. Παρά ταύτα, αυτοί οι ισχυρισμοί επανεμφανίζονται, συχνά υπό τον μανδύα νέων και δήθεν ουδέτερων στατιστικών μεθόδων, όπως η εκπαίδευση των μηχανών, που είναι και η βασική μέθοδος της συγκεκριμένης μελέτης».

Άκρως επικίνδυνες αδυναμίες

Οι αντιδρώντες επιστήμονες στη μακροσκελή επιστολή τους, η οποία θυμίζει περισσότερο επιστημονικό σύγγραμμα, επισημαίνουν τρεις βασικές – και άκρως επικίνδυνες – αδυναμίες του συστήματος «πρόβλεψης της εγκληματικότητας».

1. Ποτέ και υπό οιεσδήποτε συνθήκες δεν χρησιμοποιούνται δεδομένα του ποινικού δικαίου (δικογραφίες, αποφάσεις δικαστηρίων κ.λπ.) για την «ταυτοποίηση εγκληματιών» ή την «πρόβλεψη εγκλημάτων», καθώς τα δεδομένα αυτά είναι εκ φύσεως φυλετικά προκατειλημμένα.
2. Καμιά τεχνικού χαρακτήρα μέτρηση «δικαιοσύνης» ενός αλγόριθμου δεν μπορεί να παραβλέψει βασικά ζητήματα της αξίας του ίδιου του αλγόριθμου.
3. Η τεχνολογία «πρόβλεψης του εγκλήματος» αναπαράγει κοινωνικές αδικίες και προκαλεί πραγματικό κακό.

Υπογραμμίζουν δε ότι «τα προγράμματα εκπαίδευσης των μηχανών δεν είναι ουδέτερα. Οι ερευνητικές ατζέντες και τα σύνολα των δεδομένων (με τα οποία μια μηχανή εκπαιδεύεται) συχνά εμπεριέχουν κυρίαρχες πολιτισμικές αντιλήψεις για τον κόσμο και αντανακλούν τα κίνητρα και τις απόψεις αυτών που βρίσκονται στην προνομιούχο θέση να αναπτύσσουν μοντέλα για την εκπαίδευση των μηχανών και τα δεδομένα στα οποία στηρίζονται».

Επιπλέον «η χωρίς κριτική διάθεση αποδοχή προκαθορισμένων υποθέσεων οδηγεί σε σχεδιασμό αλγοριθμικών συστημάτων που εμπεριέχουν διακρίσεις και αναπαράγουν ιδέες που κανονικοποιούν τις κοινωνικές ιεραρχίες και νομιμοποιούν τη βία εναντίον περιθωριοποιημένων ομάδων».

Tags

Related Articles