Μ.Κάτσης: «Τεχνητή νοημοσύνη: Για πρώτη φορά κυβέρνηση υιοθέτησε το σύνολο των προτάσεων της αντιπολίτευσης»

Μ.Κάτσης: «Τεχνητή νοημοσύνη: Για πρώτη φορά κυβέρνηση υιοθέτησε το σύνολο των προτάσεων της αντιπολίτευσης»

Κύρια σημεία των τοποθετήσεων του Τομεάρχη Ψηφιακής Διακυβέρνησης του ΣΥΡΙΖΑ-Π.Σ., ως εισηγητή του νομοσχέδιου για τις αναδυόμενες τεχνολογίες

Στην Ολομέλεια της Βουλής τοποθετήθηκε ως εισηγητής ο Μάριος Κάτσης, Τομεάρχης Ψηφιακής Διακυβέρνησης του ΣΥΡΙΖΑ-Π.Σ., κατά τη συζήτηση του νομοσχεδίου σχετικά με τη χρήση των αναδυόμενων τεχνολογιών (τεχνητή νοημοσύνη, διαδίκτυο των πραγμάτων, τρισδιάστατη εκτύπωση κ.ά.), το οποίο η αξιωματική αντιπολίτευση υπερψήφισε επί της αρχής έπειτα από την υιοθέτηση των προτάσεων – κόκκινων γραμμών της από τον αρμόδιο Υπουργό, πάνω σε μια σειρά από πυρηνικά, κρίσιμα και ακανθώδη ζητήματα, σχετικά με την ύπαρξη πλαισίου για τη θωράκιση των δικαιωμάτων των πολιτών και ιδίως των εργαζομένων, που βρίσκονται πολλές φορές εκτεθειμένοι σε συστήματα αυτοματοποιημένης λήψης αποφάσεων. Είναι πρωτοφανές χρονικά και μια κοινοβουλευτική νίκη για τον ΣΥΡΙΖΑ-Π.Σ., καθώς και δικαίωση των θέσεών του, το γεγονός ότι τροποποιήθηκαν από την κυβέρνηση όλα τα σχετικά και καίρια σημεία του νομοσχεδίου. Αποδείχτηκε ότι η κυβέρνηση ακόμα και σε αυτά τα ζητήματα που είναι τα μόνα για τα οποία έχει θετικό αφήγημα, δεν έχει επαρκή σχεδιασμό. Αντιθέτως, ο ΣΥΡΙΖΑ-Π.Σ. έχει επεξεργαστεί ολοκληρωμένες προτάσεις και θέσεις και, γι’ αυτό έχει πρωτοστατήσει στις επιτροπές του Ευρωκοινοβουλίου στην διαμόρφωση της ευρωπαϊκής στρατηγικής για την ασφαλή χρήση της τεχνητής νοημοσύνης προς όφελος της κοινωνίας, όπου οι γνωμοδοτήσεις των ευρωβουλευτών του για τον ορθολογικό έλεγχο της Τεχνητής Νοημοσύνης και την εργασιακή δικαιοσύνη στην ψηφιακή εργασία υπερψηφίζονται με πολύ μεγάλες πλειοψηφίες. Εξ άλλου, έπειτα από αυτή την εξέλιξη, εκτεθειμένο έμεινε το ΠΑΣΟΚ-ΚΙΝΑΛ, καθώς είχε σπεύσει να υπερψηφίσει το νομοσχέδιο από την αρχή, χωρίς να διεκδικήσει τις κομβικές αλλαγές που ο ΣΥΡΙΖΑ-Π.Σ. πρότεινε και έγιναν δεκτές, αλλαγές με τις οποίες κατόπιν εορτής συντάχθηκε.

Κατά την έναρξη της ομιλίας του, ο Μάριος Κάτσης έθεσε το ζητούμενο για τον ΣΥΡΙΖΑ-Π.Σ. σε μια νομοθετική ρύθμιση για τις αναδυόμενες τεχνολογίες που συνοψίζεται στην αναφορά του: «Από τη μία να καρπωθούμε τα ευρείας κλίμακας οφέλη της τεχνολογικής προόδου σε όλο το φάσμα των κοινωνικών δραστηριοτήτων, και από την άλλη η χρήση τους να γίνει με τρόπο ελεγχόμενο και ασφαλή, ώστε να ελαχιστοποιήσουμε τους κινδύνους και τις αρνητικές συνέπειες για τα άτομα και την κοινωνία».

Τόνισε τη σοβαρότητα των ζητημάτων της ραγδαίως αυξανόμενης χρήσης των τεχνολογιών αυτών της 4ης βιομηχανικής επανάστασης σε κάθε πτυχή της κοινωνικής και οικονομικής ζωής, κατηγορώντας παράλληλα την κυβέρνηση ότι, αντίθετα, νομοθέτησε βιαστικά και επιπόλαια, χωρίς προηγουμένως να συστήσει ως όφειλε διεπιστημονική νομοπαρασκευαστική επιτροπή για να εξετάσει σε βάθος τα πρωτόγνωρα και δύσκολα αυτά νομικά και τεχνολογικά θέματα, να διαβουλευτεί το πόρισμά της με τους φορείς και τα κόμματα και να βρεθεί ο ορθός και κοινός τόπος για ένα τέτοιο οικουμενικό ζήτημα.

Το αποτέλεσμα ήταν να συντάξει αρχικά ένα προχειρογραμμένο και διάτρητο νομοσχέδιο, με πλήθος ασαφειών και σοβαρών ελλείψεων, με κορυφαία μάλιστα την απουσία οποιασδήποτε ρητής αναφοράς στην ταυτόχρονη ισχύ του GDPR, προκαλώντας έτσι ανασφάλεια στους πολίτες για το κατά πόσο θα διαφυλάσσονται ή θα καταπατώνται τα δικαιώματά τους από ένα νομικό πλαίσιο που δεν έθετε τις απαιτούμενες στέρεες βάσεις για τη ρύθμιση των ζητημάτων. Και ακόμα περισσότερο, προτού η Ε.Ε. ψηφίσει σχετικό κανονισμό που αναμένεται και θα είναι υποχρεωτικός για όλα τα κράτη-μέλη της.

Στη συνέχεια, ο Μάριος Κάτσης συνόψισε τα κύρια σημεία κριτικής επί των αρχικών διατάξεων που έρχονταν σε σύγκρουση με το πνεύμα του προσχεδίου του ευρωπαϊκού κανονισμού και των αρχών και των αξιών της Ε.Ε., καθώς και των προτάσεων – κόκκινων γραμμών της αξιωματικής αντιπολίτευσης, προκειμένου να υπερψηφίσει το νομοσχέδιο, ώστε το τελικό κείμενο του νόμου να μην έχει εταιριοκεντρικό χαρακτήρα, αλλά ανθρωποκεντρικό:

Δεν οριζόταν ο φορέας που κάνει τον έλεγχο αν τηρούνται οι υποχρεώσεις των φορέων του Δημοσίου που χρησιμοποιούν συστήματα τεχνητής νοημοσύνης, ούτε προβλέπονταν διοικητικές κυρώσεις σε περίπτωση μη συμμόρφωσης.

Το, αρχικά, εξόχως προβληματικό και ελλιπές άρθρο 9 για τη χρήση τεχνητής νοημοσύνης από εργοδότες, που άνοιγε κερκόπορτα εναντίον των εργαζομένων με την σκόπιμη ασάφειά του. Καθώς, δεν ήταν σαφές αν η ενημέρωση των εργαζομένων γίνεται σε όλες τις περιπτώσεις πριν την πρώτη χρήση του συστήματος τεχνητής νοημοσύνης και λήψης απόφασης από αυτό, ενώ δεν απαγόρευε ρητά τους αλγόριθμους δημιουργίας προφίλ εργαζομένων ή υποψήφιων εργαζομένων (Profiling), όπου μέσω της σκιαγράφησης του χαρακτήρα τους με τη μέθοδο της εξόρυξης δεδομένων, θα μπορούσαν να λαμβάνονται αποφάσεις για προσλήψεις ή απολύσεις, γεγονός που θα ήταν σκανδαλώδες.

Την αρχική απουσία οποιασδήποτε ρητής απαγόρευσης της χρήσης ενός «προκατειλημμένου» αλγορίθμου που θα κάνει διακρίσεις στην εργασία λόγω φύλου, φυλής, χρώματος, εθνικής ή εθνοτικής καταγωγής, γενεαλογικών καταβολών, θρησκευτικών ή άλλων πεποιθήσεων, αναπηρίας ή χρόνιας πάθησης, ηλικίας, οικογενειακής ή κοινωνικής κατάστασης, σεξουαλικού προσανατολισμού, ταυτότητας ή χαρακτηριστικών φύλου, δίνοντας έτσι τη δυνατότητα σε εταιρίες να καταπατούν την ανθρώπινη αξιοπρέπεια και τα θεμελιώδη δικαιώματα της ισότητας και της ιδιωτικότητας. «Ό,τι είναι παράνομο στον φυσικό κόσμο πρέπει να είναι και στον ψηφιακό», σημείωσε χαρακτηριστικά.

Την ακατανόητη οριζόντια εξαίρεση της ΕΥΠ και των Υπουργείων Προστασίας του Πολίτη και Εθνικής Άμυνας από τις υποχρεώσεις τήρησης της διαφάνειας στην χρήση συστημάτων, ενώ οι φορείς αυτοί διεξάγουν και μη απόρρητες διαδικασίες. Όπως τόνισε: «στο Ευρωκοινοβούλιο και τον ΟΗΕ έχουν βγει ψηφίσματα ώστε να τεθούν περιορισμοί απαγόρευσης της προληπτικής αστυνόμευσης με βάσει συμπεριφορικά δεδομένα και η απαγόρευση αυτοματοποιημένης αναγνώρισης σε δημόσιους χώρους ή σύνορα. Η μαζική παρακολούθηση πολιτών πρέπει να απαγορευτεί, καθώς δεν ταιριάζει στο κράτος δικαίου. Πρέπει να θεσμοθετηθεί τουλάχιστον ότι η ΕΥΠ και τα 2 υπουργεία σε περίπτωση που προμηθευτούν συστήματα τεχνητής νοημοσύνης πρέπει να περάσουν οι συμβάσεις από τη Βουλή. Ήδη είστε υπόλογοι ως κυβέρνηση για την παρακολούθηση δημοσιογράφων με το λογισμικό Predator».

Κατά τη διάρκεια της δευτερολογίας του, ο Μάριος Κάτσης ανέλυσε τις αλλαγές που ο Υπουργός αναγκάστηκε να φέρει στο νομοσχέδιο, οι οποίες συνοψίζονται στον ορισμό συγκεκριμένης Αρχής και εν προκειμένω της Εθνικής Αρχής Διαφάνειας, ως μηχανισμού εποπτείας και ελέγχου των διαδικασιών κατά τη χρήση συστημάτων τεχνητής νοημοσύνης, στη ρητή απαγόρευση διακρίσεων και τις εγγυήσεις του GDPR ενάντια σε πρακτικές Profiling, στην έγκαιρη, εκ των προτέρων ενημέρωση των εργαζομένων για τη χρήση συστημάτων τεχνητής νοημοσύνης για τη λήψη αποφάσεων στους εργασιακούς χώρους και για τις παραμέτρους τους, καθώς και στην πρόβλεψη έκδοσης Π.Δ. με την εγγύηση του ελέγχου του ΣτΕ, που θα διασφαλίζει ότι δεν καταπατώνται τα ανθρώπινα δικαιώματα.

Όσον αφορά τις υπόλοιπες διατάξεις του νομοσχεδίου, μνημονεύτηκε η πρωτοπόρα νομοθεσία του ΣΥΡΙΖΑ-Π.Σ. στο παγκοσμίως μείζον θέμα της κυβερνοασφάλειας απέναντι σε κακόβουλες ενέργειες που απειλούν πληροφοριακά συστήματα και προσωπικά δεδομένα, νομοθεσία πάνω στην οποία στηρίχθηκε η κυβέρνηση, αυξάνοντας όμως την πολυπλοκότητα του θεσμικού πλαισίου και αποτυγχάνοντας σε μια σειρά υποθέσεις, όπως η κυβερνοεπίθεση στα Ελληνικά Ταχυδρομεία που παρέλυσε για πολύ καιρό τον ιστορικό αυτό Οργανισμό. Τονίστηκε, ακόμα, η ανάγκη ασφάλειας των δεδομένων πολιτών και επιχειρήσεων κατά τη χρήση εφαρμογών διαδικτύου των πραγμάτων, τεχνολογιών blockchain και smart contracts και χρήσης drones για ταχυδρομικές υπηρεσίες. Αναφορικά με το, επίσης, μείζον ζήτημα για τη μετάβαση της κοινωνίας και της οικονομίας στη νέα ψηφιακή εποχή, αυτό των ψηφιακών δεξιοτήτων, ο Μάριος Κάτσης έκρινε ως θετικό ότι δίνεται η εποπτεία των σχετικών δράσεων στο Υπουργείο Ψηφιακής Διακυβέρνησης, θυμίζοντας όμως ότι στην κατανομή των κονδυλίων του Ταμείου Ανάκαμψης, αυτές δοθήκαν στο, επί ΝΔ, αμαρτωλό Υπουργείο Εργασίας των προγραμμάτων κατάρτισης τύπου «σκοιλ ελικικου». Όπως σημείωσε: «Ήδη τα ΚΕΚ έχουν ξεκινήσει να διαφημίζουν προγράμματα κατάρτισης. Για εμάς το ζήτημα είναι αν το Υπουργείο μαζί με πανεπιστήμια και άλλους φορείς θα αναλάβει να δημιουργήσει δημοσιές δωρεάν δομές για ψηφιακές δεξιότητες, ανάλογες των Citizen Spots της Πορτογαλίας.»

Τέλος, κατά το κλείσιμο των τοποθετήσεών του, ο Μάριος Κάτσης έθεσε το στίγμα της πολιτικής στάσης του ΣΥΡΙΖΑ-Π.Σ., λέγοντας: «Για εμάς η ψηφιακή μετάβαση πρέπει να είναι συμπεριληπτική και δίκαιη. Αυτό σημαίνει «ναι» στην τεχνολογική πρόοδο, με προοδευτικό, όμως, περιεχόμενο. Μεσεβασμό στα δικαιώματα των εργαζομένων και τις ελευθερίες των ανθρώπων, με αύξηση της παραγωγικότητας της οικονομίας από τα οφέλη των νέων τεχνολογιών, με το όφελος, όμως, να το καρπώνονται και η εργαζόμενοι. Στη νέα εποχή να μη μείνει κανείς πίσω. Η ψηφιακή μετάβαση πρέπει να οδηγήσει στην άμβλυνση των ανισοτήτων και όχι στη δημιουργία νέων. Η τεχνολογική πρόοδος πρέπει και μπορεί να είναι ανθρωποκεντρική.»