Οι παγκόσμιες δυνάμεις φέρνουν ρομπότ-δολοφόνους αλλά μπορεί να στραφούν εναντίον μας

Η τεχνητή νοημοσύνη κάνει θαύματα αλλά όταν μπλέκει ο στρατός τότε είναι σαν το κακό τζίνι που βγήκε από το λυχνάρι.

Ένα νέο είδος ψυχρού πολέμου είναι εδώ. Οι στρατιωτικές δυνάμεις σε όλο τον κόσμο βρίσκονται σε μια κρυφή κούρσα για την ανάπτυξη τρομακτικών νέων όπλων τεχνητής νοημοσύνης, σύμφωνα με τα όσα αποκαλύπτει ένα νέο ντοκιμαντέρ που εξερευνά το μέλλον της τεχνητής νοημοσύνης στον πόλεμο.

«Οι παγκόσμιοι ηγέτες σε Ρωσία, Κίνα και ΗΠΑ, προσπαθούν να αποκτήσουν πλεονέκτημα στην τεχνητή νοημοσύνη αναφορικά με τον πόλεμο», δήλωσε ο σκηνοθέτης του «UNKNOWN: Killer Robots», Jesse Sweet, που έκανε πρεμιέρα τη Δευτέρα στο Netflix. «Αυτή η επανάσταση συμβαίνει τώρα, αλλά νομίζω ότι υστερεί η συνειδητοποίησή μας προς αυτήν» προειδοποίησε ο βραβευμένος με Emmy σκηνοθέτης και παραγωγός. «Ας ελπίσουμε ότι ένα σύννεφο μανιταριών δε θα μας κάνει να το συνειδητοποιήσουμε έχοντας μία τραγική κατάληξη». Τα ρομπότ και τα μη επανδρωμένα αεροσκάφη που χρησιμοποιούνται σε μάχες δεν είναι κάτι νέο. Αλλά το λογισμικό τεχνητής νοημοσύνης είναι και ενισχύει το υπάρχον υλικό, κάτι που εκσυγχρονίζει τον πόλεμο.

Σήμερα, οι εξελίξεις στην τεχνητή νοημοσύνη μάς έχουν ωθήσει σε ένα σημείο όπου οι παγκόσμιες δυνάμεις δεν έχουν πλέον άλλη επιλογή από το να επανεξετάσουν τη στρατιωτική στρατηγική τους από την αρχή. «Είναι ρεαλιστικό να περιμένουμε ότι η τεχνητή νοημοσύνη θα πιλοτάρει ένα F-16 στο άμεσο μέλλον», λέει ο Nathan Michael στο εν λόγω επεισόδιο, Chief Technology Officer της Shield AI, μιας εταιρείας της οποίας η αποστολή είναι «να δημιουργήσει τον καλύτερο πιλότο τεχνητής νοημοσύνης στον κόσμο».

Ωστόσο, οι κινηματογραφιστές εκφράζουν ανησυχία – όπως πολλοί που εργάζονται στον τομέα της τεχνητής νοημοσύνης – για την ταχεία ρομποτική στρατιωτικοποίηση, προειδοποιώντας ουσιαστικά ότι δεν καταλαβαίνουμε πραγματικά τι δημιουργούμε. «Το πρόβλημα με τον τρόπο με τον οποίο αυτοί οι αλγόριθμοι επεξεργάζονται τις πληροφορίες είναι ότι οι άνθρωποι που τους προγραμμάτισαν δεν μπορούν καν να κατανοήσουν πλήρως τις αποφάσεις που παίρνουν», τονίζει ο Sweet. «Κινείται τόσο γρήγορα που ακόμη και ο εντοπισμός πραγμάτων όπως η δολοφονία ενός ανθρώπου παραμένει ένα τεράστιο αίνιγμα».

Μια σημαντική ανησυχία περιστρέφεται γύρω από το λογισμικό αναγνώρισης προσώπου τεχνητής νοημοσύνης που χρησιμοποιείται για τη βελτίωση ενός αυτόνομου ρομπότ ή ενός drone κατά τη διάρκεια μίας μάχης. Αυτή τη στιγμή, ένας άνθρωπος πίσω από τους ελέγχους πρέπει να τραβήξει την παροιμιώδη σκανδάλη. Αν αυτό αφαιρεθεί, οι μαχητές θα μπορούσαν να παρερμηνευτούν ως πολίτες ή συμμάχους στα χέρια μιας μηχανής, προειδοποιεί ο σκηνοθέτης. «Η τεχνητή νοημοσύνη μπορεί να αναγνωρίζει τους λευκούς από τους μη λευκούς. Έτσι μπορεί εύκολα να μπερδέψει τους ανθρώπους με καφέ δέρμα, κάτι που περιέχει κάθε είδους τρομακτικές συνέπειες όταν βρίσκεσαι σε μια ζώνη μάχης και προσδιορίζεις φίλο ή εχθρό».

Θυμάστε όταν ο φόβος ότι τα πιο ισχυρά όπλα θα στραφούν εναντίον μας ήταν απλώς σενάριο επιστημονικής φαντασίας και σε ταινίες δράσης; Ε με την τεχνητή νοημοσύνη μπορεί να γίνει πιθανό, αναφέρει ο Sweet. Μόνο η απλή σκέψη προς αυτό προκαλεί ήδη «ένταση στον στρατό». «Υπάρχει ανησυχία για την κυβερνοασφάλεια στην τεχνητή νοημοσύνη και την ικανότητα είτε ξένων κυβερνήσεων είτε ανεξάρτητων παραγόντων να αναλάβουν κρίσιμα στοιχεία του στρατού», είπε. «Δεν νομίζω ότι υπάρχει ακόμη ξεκάθαρη απάντηση. Αλλά νομίζω ότι όλοι γνωρίζουν ότι όσο περισσότερο η αυτοματοποίηση πηγαίνει στον στρατό, τόσο περισσότερος χώρος υπάρχει για τους κακούς να επωφεληθούν».

Η έλλειψη πολυπλοκότητας που χρειάζεται τώρα για να γίνει μια παραβίαση τέτοιου μεγέθους θα πρέπει να μας ανησυχήσει όλους, λένε οι γνωρίζοντες.

«Παλιά, όπως στις ταινίες της δεκαετίας του ’80, έπρεπε να είσαι ιδιοφυΐα σε υπολογιστές για να το κάνεις αυτό. Αλλά τώρα μπορείς απλώς να είσαι ένας μαθητής Γυμνασίου, ο οποίος γνωρίζει πως να καταβάζει βίντεο από το Youtube».

Και ενώ η τεχνητή νοημοσύνη κάνει βήματα προόδου στις ιατρικές και φαρμακευτικές τεχνολογίες για τη θεραπεία ασθενειών, οι επιστήμονες προειδοποιούν ότι κάτι τόσο απλό όπως η αλλαγή ενός αριθμού σε έναν υπολογιστή μπορεί να δημιουργήσει χημικά όπλα, μέσω της εκτέλεσης χιλιάδων προσομοιώσεων που καταλήγουν να αποδώσουν μια τοξική σύνθεση.

Η ατομική βόμβα που έσκασε πριν 85 χρόνια θα είναι παιχνιδάκι μπροστά σε όλα αυτά που φέρνει η τεχνητή νοημοσύνη στον στρατό. Σαν το κακό τζίνι που βγήκε από το λυχνάρι και πλέον κανείς δεν μπορεί να το βάλει πάλι μέσα.