Το πρόγραμμα «πρόβλεψης εγκλημάτων» που αναπτύσσει η κυβέρνηση του Ηνωμένου Βασιλείου φέρνει στην επιφάνεια σοβαρά ζητήματα σχετικά με την προστασία των ατομικών ελευθεριών, τη χρήση προσωπικών δεδομένων και τις πιθανές υπερβολές στον τομέα της ασφάλειας.
Η ιδέα της πρόβλεψης εγκλημάτων και της προληπτικής σύλληψης των πολιτών βάσει αλγοριθμικών προβλέψεων, με μόνο δεδομένα που ενδέχεται να περιλαμβάνουν την ψηφιακή τους συμπεριφορά (όπως τα μέσα κοινωνικής δικτύωσης), προκαλεί έντονη ανησυχία για τον κίνδυνο αυθαίρετης ή αβάσιμης στοχοποίησης ατόμων.
Το πιο ανησυχητικό είναι η δυνατότητα της κυβέρνησης να «προβλέψει» εγκλήματα προτού διαπραχθούν, βασιζόμενη σε προγνωστικά μοντέλα που αναλύουν δεδομένα μεγάλου όγκου από διάφορες πηγές, όπως η προηγούμενη δραστηριότητα εγκληματιών ή και η δραστηριότητα θυμάτων. Όμως, η βασική ανησυχία είναι ότι τέτοιου είδους αλγόριθμοι δεν είναι απαραίτητα αλάνθαστοι, και μπορεί να ενισχύσουν τα στερεότυπα ή να επιδράσουν σε κοινωνικές ομάδες με τρόπο που να παραβιάζει τα δικαιώματα των πολιτών, χωρίς πραγματικά αποδεικτικά στοιχεία για την πρόθεση τέλεσης ενός εγκλήματος.
Η πρακτική αυτή θυμίζει δυστοπικές καταστάσεις όπου η διάκριση μεταξύ σκέψης και εγκλήματος είναι θολή, και καταστάσεις όπου η έννοια της ελευθερίας εξασθενεί από την επιβολή ενός υπερβολικού ελέγχου.
Αν και η κυβέρνηση ισχυρίζεται ότι το πρόγραμμα προορίζεται για την ενίσχυση της δημόσιας ασφάλειας, οι αντιδράσεις από πλήθος πολιτών, ειδικών και οργανώσεων για τα ανθρώπινα δικαιώματα είναι κατηγορηματικά αρνητικές. Επικρίνονται τα ηθικά και νομικά ζητήματα γύρω από την παρακολούθηση των ατόμων χωρίς τη δυνατότητα υπεράσπισης ή διασφάλισης των δικαιωμάτων τους, αλλά και η πιθανότητα να αποτύχουν οι αλγόριθμοι στην ακριβή πρόβλεψη και διάκριση επικίνδυνων ατόμων από μη επικίνδυνα.
Το πιο σοβαρό πρόβλημα είναι ότι το πρόγραμμα αυτό μπορεί να δημιουργήσει μια επικίνδυνη προληπτική αστυνομική πολιτική, στην οποία η απλή υποψία ή η χρήση προσωπικών δεδομένων για τη δημιουργία προγνωστικών μοντέλων μπορεί να οδηγήσει σε αυθαίρετους περιορισμούς της ελευθερίας του ατόμου.
Το πρόβλημα συνίσταται στην έλλειψη διαφάνειας, δικλείδων ασφαλείας και ελέγχου που να προστατεύουν τα δικαιώματα των πολιτών. Η ερώτηση είναι αν τέτοια προγράμματα μπορούν να εφαρμοστούν χωρίς να θυσιάζονται θεμελιώδη δικαιώματα και ελευθερίες των ατόμων.