Τεχνητή νοημοσύνη: Ευκαιρίες και απειλές

Η ΤΝ επηρεάζει όλο και περισσότερο τις ζωές μας. Ανακαλύψτε τις ευκαιρίες που προσφέρει και τις απειλές που ενέχει για την ασφάλεια, τη δημοκρατία, τις επιχειρήσεις και τις θέσεις εργασίας.

• Η ανάπτυξη και ευημερία της Ευρώπης συνδέεται στενά με την αξιοποίηση των ψηφιακών τεχνολογιών συνδεσιμότητας και διαχείρισης δεδομένων.

Η ΤΝ μπορεί να να επιφέρει σημαντικές αλλαγές στις ζωές μας – τόσο θετικές όσο αρνητικές, και το Ευρωπαϊκό Κοινοβούλιο έχει συγκροτήσει επιτροπή για την παρακολούθηση και εξέταση των εξελίξεων στην επιστημονική έρευνα και την τεχνολογία. Στη συνέχεια παρατίθενται ορισμένες βασικές ευκαιρίες και απειλές που απορέεουν από τις μελλοντικές εφαρμογές της ΤΝ.

142 zettabytes Ο όγκος δεδομένων που παράγεται στον κόσμο αναμένεται να αυξηθεί από 33 zettabytes το 2018 σε 175 το 2025 (1 zettabyte είναι ένα τρισεκατομμύριο gigabytes).

Οφέλη της ΤΝ

Η ψηφιακή βιομηχανία και οι εφαρμογές Β2Β κατέχουν ήδη σημαντική θέση στην οικονομία των χωρών της ΕΕ. Με ψηφιακές υποδομές υψηλής ποιότητας και ένα ρυθμιστικό πλαίσιο που προστατεύει την ιδιωτική ζωή και την ελευθερία του λόγου, η ΕΕ έχει τη δυνατότητα να καταστεί παγκόσμιος ηγέτης στον χώρο της οικονομίας δεδομένων και των εφαρμογών της.

Οφέλη της ΤΝ για τους πολίτες

Η τεχνητή νοημοσύνη (ΤΝ) μπορεί να αποφέρει πολλά οφέλη στους πολίτες, όπως καλύτερη υγειονομική περίθαλψη, ασφαλέστερες και καθαρότερες μεταφορές, εξατομικευμένές, φθηνότερες υπηρεσίες και προϊόντα μεγαλύτερης διάρκειας. Μπορεί, επίσης, να διευκολύνει την πρόσβαση στην ενημέρωση, στην εκπαίδευση και στην κατάρτιση – όπως μας έδειξε η πανδημία του κορονοϊού. Η ΤΝ έχει ακόμα συμβάλει στο να γίνει ασφαλέστερος ο χώρος εργασίας, μέσω της χρήσης ρομπότ για την εκτέλεση επικίνδυνων εργασιακών δραστηριοτήτων, αλλά και στη δημιουργία νέων θέσεων εργασίας.

Οφέλη της ΤΝ για τις επιχειρήσεις

Η ΤΝ επιτρέπει την ανάπτυξη μιας νέας γενιάς προϊόντων και υπηρεσιών, μεταξύ άλλων σε τομείς όπου οι ευρωπαϊκές επιχειρήσεις κατέχουν ήδη ισχυρή θέση: πράσινη και κυκλική οικονομία, κατασκευή μηχανημάτων, γεωργία, υγειονομική περίθαλψη, μόδα, τουρισμός. Μπορεί να συμβάλει στην αύξηση των πωλήσεων, στη συντήρηση μηχανών, στην εξοικονόμηση ενέργειας, στη βελτίωση της παραγωγής και της ποιότητας προϊόντων αλλά και της εξυπηρέτησης πελατών.

11%-37% Εκτιμώμενη αύξηση της παραγωγικότητας που θα επιφέρει η χρήση της τεχνητής νοημοσύνης έως το 2035 (EP Think Tank 2020).

Οφέλη της ΤΝ για τις δημόσιες υπηρεσίες

Η χρήση της τεχνητής νοημοσύνης στις δημόσιες υπηρεσίες μπορεί να εξασφαλίσει μείωση κόστους και να προσφέρει νέες δυνατότητες για τις δημόσιες μεταφορές, την εκπαίδευση, την καλύτερη διαχείριση ενέργειας και αποβλήτων και τη βελτίωση της βιωσιμότητας ορισμένων προϊόντων. Κατά συνέπεια, η ΤΝ μπορεί να συνεισφέρει στην επίτευξη των στόχων της Ευρωπαϊκής Πράσινης Συμφωνίας.

1,5%-4% Εκτιμώμενο ποσοστό μείωσης των εκπομπών αερίων του θερμοκηπίου ως αποτέλεσμα της χρήσης της ΤΝ έως το 2030 (EP Think Tank 2020)

Ενισχύοντας τη δημοκρατία

Η πρόληψη της παραπληροφόρησης και των κυβερνοεπιθέσεων και η διασφάλιση της πρόσβασης σε ποιοτική ενημέρωση μπορούν να ενισχύσουν τη δημοκρατία. Μπορούν, επίσης, να εξασφαλίσουν διαφάνεια και το σεβασμό της διαφορετικότητας μέσω του περιορισμού των προκαταλήψεων κατά τις διαδικασίες προσλήψεων και της χρήσης της ανάλυσης δεδομένων.

ΤΝ και ασφάλεια

Η επεξεργασία μεγάλων βάσεων δεδομένων, η εκτίμηση κινδύνων κατά τη μαζική μεταφορά κρατουμένων, η πρόβλεψη τρομοκρατικών επιθέσεων συνιστούν παραδείγματα της ολοένα και μεγαλύτερης χρήσης της ΤΝ στο πεδίο απονομής ποινικής δικαιοσύνης και πρόληψης εγκλημάτων. Χρησιμοποιείται ήδη για την ανίχνευση και καταπολέμηση παράνομων και ανάρμοστων συμπεριφορών στο διαδίκτυο.

Η ΤΝ μπορεί επίσης να αξιοποιηθεί στα πλαίσια στρατιωτικών στρατηγικών άμυνας και επιθέσεων, ως μέσο ηλεκτρονικού ψαρέματος και πειρατείας ή ως μέσο στόχευσης πληροφοριακών συστημάτων εν καιρώ κυβερνοπολέμου, ενώ το βασικό πλεονέκτημα των αυτόνομων οπλικών συστημάτων αποτελεί η δυνατότητα ένοπλης σύγκρουσης με περιορισμένο κίνδυνο σωματικής βλάβης

Απειλές και προκλήσεις της ΤΝ

Η ολοένα και αυξανόμενη εξάρτησή μας από συστήματα ΤΝ ενέχει, από την άλλη, δυνητικούς κινδύνος.

Υποχρησιµοποίηση ή κατάχρηση της ΤΝ

Η ανεπαρκής αξιοποίηση της ΤΝ μπορεί να αποτελέσει σοβαρή απειλή για την ΕΕ: οι χαμένες ευκαιρίες θα μπορούσαν να οδηγήσουν στην αναποτελεσματική εφαρμογή σημαντικών προγραμμάτων της ΕΕ, όπως είναι η Ευρωπαϊκή Πράσινη Συμφωνία, την απώλεια ανταγωνιστικού πλεονεκτήματος έναντι άλλων περιοχών, την οικονομική στασιμότητα, αλλά και περιορισμένες δυνατότητες για τους πολίτες. Η υποχρησιμοποίηση μπορεί να προκύψει από την έλλειψη εμπιστοσύνης του ιδιωτικού και δημόσιου τομέα στην ΤΝ, τις φτωχές υποδομές, την έλλειψη πρωτοβουλιών, τις χαμηλές επενδύσεις ή τις κατακερματισμένες ψηφιακές αγορές, δεδομένης της εξάρτησης της μηχανικής μάθησης της ΤΝ από τα δεδομένα.

Η κατάχρηση μπορεί επίσης να αποδειχθεί προβληματική σε περίπτωση λανθασμένης ή άσκοπης εφαρμογής της ΤΝ, για παράδειγμα για την επεξήγηση πολύπλοκων κοινωνικών ζητημάτων.

Απόδοση ευθύνης σε περίπτωση δυσλειτουργίας των συστημάτων ΤΝ

Η απόδοση ευθυνών σε περίπτωση δυσλειτουργίας των συστημάτων ΤΝ αποτελεί σημαντική πρόκληση: ποιος φέρει την ευθύνη σε περίπτωση ατυχήματος με αυτοκίνητο χωρίς οδηγό; Ο ιδιοκτήτης του αυτοκινήτου, ο κατασκευαστής ή ο προγραμματιστής του;

Εάν ο παραγωγός ήταν απαλλαγμένος από κάθε ευθύνη, δεν θα υπήρχε κίνητρο παροχής καλού προϊόντος ή υπηρεσίας, κάτι που θα μπορούσε να βλάψει την επιστοσύνη του κόσμου στην τεχνολογία. Από την άλλη, η ύπαρξη αυστηρών κανονισμών θα μπορούσε να καταστείλει την καινοτομία.

Η ΤΝ ως απειλή για τη δημοκρατία και τα θεμελιώδη δικαιώματα

Τα αποτελέσματα που παράγουν οι τεχνολογίες ΤΝ εξαρτώνται από τον τρόπο σχεδιασμού τους και τα δεδομένα που χρησιμοποιούν. Τόσο ο σχεδιασμός όσο και οι βάσεις δεδομένων μπορούν να περιέχουν προγραμματισμένες ή μη προκαταλήψεις. Για παράδειγμα, σημαντικές πτυχές νεός ζητήματος ενδέχεται να μην έχουν ενσωματωθεί στον αλγόριθμο ή μπορεί να έχουν προγραμματιστεί με τρόπο που να αντανακλούν και αναπαράγουν συγκεκριμένες προκαταλήψεις. Επιπλέον, η χρήση αριθμών για την επεξήγηση πολύπλοκων κοινωνικών πραγματικοτήτων μπορεί να δίνει την λάθος εντύπωση ότι οι τεχνολογίες ΤΝ παρέχουν τεκμηριωμένες και ακριβείς πληροφορίες (“mathwashing”).

Η κακή χρήση της ΤΝ μπορεί να οδηγήσει στη λήψη μεροληπτικών αποφάσεων (με βάση το φύλο και την εθνότητα, την ηλικία) κατά τη πρόσληψη ή απόλυση εργαζομένων, τη χορήγηση δανείων ή τη άσκηση ποινικών διώξεων.

Η ΤΝ μπορεί να έχει σοβαρό αντίκτυπο στο δικαίωμα της ιδιωτικής ζωής και της προστασίας των δεδομένων. Μπορεί, για παράδειγμα, να χρησιμοποιηθεί από τεχνολογίες αναγνώρισης προσώπου ή για τον εντοπισμό και την ανάλυση προφίλ ατόμων στο διαδίκτυο. Ακόμη, η ΤΝ επιτρέπει τη συγκέντρωση μεμονωμένων πληροφοριών που έχει παράσχει ένας χρήστης και το συνδυασμό τους με νέους τροπους για την παραγωγή ενός άγνωστου για τον χρήστη αποτελέσματος.

Μπορεί να αποτελέσει, επίσης, απειλή για τη δημοκρατία: η ΤΝ έχει ήδη κατηγορηθεί για τη δημιουργία διαδικτυακών “θαλάμων αντήχησης” (echo chambers) βάσει προγενέστερης διαδικτυακής συμπεριφοράς, την εμφάνιση περιεχομένου που αντιστοιχεί μόνο στις προτιμήσεις του χρήστη αντί για τη δημιουργία ενός περιβάλλοντος που να ενθαρρύνει τον πλουραλιστικό και ανοικτό δημόσιο διάλογο. Μπορεί ακόμα να χρησιμοποιηθεί για τη δημιουργία ρεαλιστικών αλλά παραποιημένων βίντεο, ήχων και εικόνων, γνωστών ως “deepfakes”, που μπορούν να θέσουν σε κίνδυνο την οικονομία, να βλάψουν τη φήμη ορισμένων ανθρώπων και να θέσουν εμπόδια στη διαδικασία λήψης αποφάσεων, ενώ μπορούν να προκαλέσουν πόλωση στη δημόσια σφαίρα και χειραγώγηση εκλογών.

Η ΤΝ μπορεί επίσης να περιορίσει ελευθερία του συνέρχεσθαι και της ειρηνικής διαμαρτυρίας, καθώς έχει τη δυνατότητα εντοπισμού και ανάλυσης προφίλ ατόμων που ταυτίζονται με μια συγκεκριμένη ιδεολογία ή πράξεις.

Το αντίκτυπο της ΤΝ στις θέσεις εργασίας

Η χρήση της ΤΝ στο χώρο εργασίας αναμένεται να επιφέρει την εξαφάνιση ενός μεγάλο αριθμού επαγγελμάτων. Παρότι η ΤΝ αναμένεται επίσης να δημιουργήσει και να βελτιώσει υπάρχουσες θέσεις εργασίας, η διασφάλιση σωστής εκπαίδευσης και κατάρτισης θα παίξει κρίσιμο ρόλο στην πρόληψη της μακράς ανεργίας και την ανάπτυξη ειδικευμένου εργατικού δυναμικού.

14 % των θέσεων εργασίας στις χώρες του ΟΟΣΑ είναι αυτοματοποιήσημες και το 32% ενδέχεται να υποστούν σημαντικές αλλαγές (εκτίμηση, EP Think Tank 2020).

Ανταγωνισμός

Η μαζική συγκέντρωση πληροφοριών μπορεί επίσης να οδηγήσει σε στρέβλωση του ανταγωνισμού καθώς οι κάτοχοι περισσότερων πληροφοριών θα μπορούν να αποκτήσουν πλεονέκτημα και να εξαλείψουν τους ανταγωνιστές τους από την αγορά.

Κίνδυνοι ασφαλείας

Οι εφαρμογές ΤΝ που έρχονται σε φυσική επαφή με τους ανθρώπους ή έχουν ενσωματωθεί στο ανθρώπινο σώμα μπορούν να παρουσιάσουν κινδύνους αν δεν έχουν σχεδιαστεί σωστά ή έχουν γίνει αντικείμενο κατάχρησης.

Η ανεπαρκώς ρυθμισμένη χρήση όπλων εξοπλισμένων με συστήματα ΤΝ μπορεί να προκαλέσει απώλεια ελέγχου, με σοβαρές επιπτώσεις για την ανθρώπινη ασφάλεια.

Προκλήσεις διαφάνειας

Η άνιση πρόσβαση στην πληροφορία μπορεί να αποτελέσει αντικείμενο εκμετάλλευσης. Για παράδειγμα, ένας διαδικτυακός πωλητής θα μπορούσε, βάσει της διαδικτυακής συμπεριφοράς ενός ατόμου ή άλλων δεδομένων (και εν αγνοία του), να κάνει χρήση ΤΝ για να προβλέψει πόσα χρήματα σκοπεύει να ξοδέψει. Παρομοίως, μια πολιτική εκστρατείο μπορεί να προσαρμόσει το μήνυμά της για να ταιριάξει στο προφίλ του συγκεκριμένου ατόμου.

Επιπλέον, μερικές φορές μας είναι δύσκολο να γνωρίζουμε αν συνομιλούμε με πραγματικό άνθρωπο ή τεχνολογία ΤΝ.