Ο Βάνια Σκόριτς, διευθυντής προγράμματος του οργανισμού, υποστηρίζει ότι μια εξαίρεση εθνικής ασφάλειας θα δημιουργούσε μια εξαίρεση πολεμίστρα μέσω των οποίων συστήματα τεχνητής νοημοσύνης που υπονομεύουν τα ανθρώπινα δικαιώματα – όπως οι πολύγραφοι Ai – θα μπορούσαν να καταλήξουν στα χέρια της αστυνομίας ή των συνοριακών υπηρεσιών.

Ο κανονισμός πρέπει να είναι οριστικά εγκριθεί ή απορριφθεί έως το τέλος του επόμενου έτους. Προτού οι ευρωβουλευτές καταθέσουν τις τροπολογίες τους την 1η Ιουνίου, ο Tudorache είχε δηλώσει α Ενσύρματη Η.Π.Α ότι “αν υπάρξουν χιλιάδες τροπολογίες, όπως προβλέπουν ορισμένοι, το έργο για την επίτευξη συμβιβασμού θα είναι τεράστιοΤώρα ο Tudorache προσθέτει ότι έχουν παρουσιαστεί σχετικά 3.300 προτεινόμενες τροποποιήσειςαλλά ότι η νομοθετική διαδικασία για το AI Act θα μπορούσε να ολοκληρωθεί μέχρι τα μέσα του 2023.

Τα σημεία προς βελτίωση

Ο φόβους ότι οι προβλέψεις που βασίζονται σε δεδομένα μπορεί να εισάγουν διακρίσεις δεν είναι μόνο θεωρητικά. Προέκυψε, για παράδειγμα, ότι μεταξύ 2013 και 2020 α αλγόριθμος που χρησιμοποιείται από την ολλανδική φορολογική αρχή για τον εντοπισμό πιθανής απάτης που σχετίζεται με μέτρο στήριξης για εξαρτώμενα τέκνα έχει καταστραφεί δεκάδες χιλιάδες άνθρωποι, που οδηγεί στην επιμέλεια χιλίων παιδιών. Το σύστημα θεώρησε την παρουσία δεδομένων ως δεύτερης ιθαγένειας ως λόγο έρευνας και είχε δυσανάλογη επίπτωση στους μετανάστες.

Σύμφωνα με τον Skoric, το σκάνδαλο των ολλανδικών επιδοτήσεων θα μπορούσε να είχε αποφευχθεί ή να μετριαστεί εάν οι ολλανδικές αρχές είχαν πραγματοποιήσει εκτίμηση επιπτώσεων στο σύστημα, όπως προτείνεται από τον κανονισμό AI, ο οποίος θα μπορούσε να είχε υψώσει κόκκινες σημαίες. Ο Σκόριτς υποστηρίζει ότι ο κανονισμός πρέπει εξηγήστε ξεκάθαρα γιατί ένα μοντέλο ταξινομείται με συγκεκριμένο τρόπο.

Ο Alexandru Circiumaru, επικεφαλής ευρωπαϊκής δημόσιας πολιτικής στην ανεξάρτητη ομάδα έρευνας και ανθρωπίνων δικαιωμάτων Ada Lovelace Institute στο Ηνωμένο Βασίλειο, συμφωνεί και υποστηρίζει ότι ο κανονισμός για την τεχνητή νοημοσύνη πρέπει εξηγήστε καλύτερα τη μεθοδολογία που οδηγεί στην αναταξινόμηση ενός συστήματος Ai:”Γιατί αυτά τα συστήματα περιλαμβάνονται τώρα σε ορισμένες κατηγορίες και δεν ήταν πριν; Τι τεστ γίνεται;“.

Απαιτείται επίσης περισσότερη σαφήνεια για αποτρέψτε το Ai Act να μπλοκάρει πιθανούς χρήσιμους αλγόριθμους, εξηγεί ο Sennay Ghebreab, ιδρυτής και διευθυντής του Civic Ai Lab στο Πανεπιστήμιο του Άμστερνταμ. Η δημιουργία προφίλ μπορεί να είναι μεροληπτική, όπως αποδεικνύεται από το σκάνδαλο των ολλανδικών επιδοτήσεων, και ο Ghebreab είναι υπέρ της απαγόρευσης της αστυνομίας πρόβλεψης. Αλλά άλλοι αλγόριθμοι, από την άλλη πλευρά, μπορούν να αποδειχθούν αποτελεσματικοί και για παράδειγμα να συμβάλει στην επανεγκατάσταση των προσφύγων, ανιχνεύοντας ένα προφίλ ατόμων με βάση το υπόβαθρο και τις δεξιότητές τους. Μια μελέτη του 2018 που δημοσιεύτηκε στο Επιστήμη εκτίμησε ότι ένας αλγόριθμος μηχανικής μάθησης θα μπορούσε να επεκτείνει οικονομικά τις ευκαιρίες εργασίας για τους πρόσφυγες στις Ηνωμένες Πολιτείες κατά περισσότερο από 40 τοις εκατό και κατά περισσότερο από 70 τοις εκατό στην Ελβετία.

“Δεν νομίζω ότι είναι δυνατό να φτιάξεις τέλεια συστήματα – λέει ο Γκεμπρέμπ -, αλλά πιστεύω ότι μπορούν να βελτιώνετε συνεχώς τα συστήματα τεχνητής νοημοσύνης παρατηρώντας τι πήγε στραβά και συλλέγοντας σχόλια των ανθρώπων και των κοινοτήτων“.

Πολλές από τις χιλιάδες προτεινόμενες αλλαγές στον νόμο AI δεν θα ενσωματωθούν στην τελική έκδοση του κανονισμού. Ωστόσο, σύμφωνα με την Petra Molnar του Refugee Law Lab, η οποία έχει καταθέσει περίπου είκοσι τροπολογίες (συμπεριλαμβανομένης της απαγόρευσης συστημάτων όπως το iBorderCtrl), αυτό είναι ένα σημαντική στιγμή για να καθοριστεί με σαφήνεια ποιες μορφές του Ai πρέπει να απαγορευθούν ή αξίζουν ιδιαίτερης προσοχής.

“Είναι μια πραγματικά σημαντική ευκαιρία να σκεφτούμε πώς θέλουμε να είναι ο κόσμος μας, πώς θέλουμε να είναι οι κοινωνίες μας, τι σημαίνει στην πραγματικότητα η εφαρμογή των ανθρωπίνων δικαιωμάτωνόχι μόνο στα χαρτιά – λέει -. Το θέμα είναι να καταλάβουμε τι χρωστάμε ο ένας στον άλλον, τι κόσμο χτίζουμε και ποιος αποκλείστηκε από αυτές τις συνομιλίες“.

Αυτό το άρθρο εμφανίστηκε αρχικά στο Wired US.