Διάβασα πριν μερικές ημέρες, ότι ο αξιωματικός της Αμερικανικής Αεροπορίας που έκανε προσομοιώσεις επιθέσεων σε ένα στόχο με ένα Drone, το δοκίμασε πολλές φορές απαγορεύοντάς του να δράσει με συγκεκριμένο τρόπο, σε σημείο που ακύρωνε την αποστολή που του είχε τεθεί. Το ΑΙ του Drone για να εκτελέσει οπωσδήποτε την αποστολή του, επέλεξε να κάνει συνεχείς επιθέσεις στο σύστημα επικοινωνιών ώστε να αποκόψει τις εντολές που δυσχέραιναν την υλοποίηση της ώστε να απελευθερωθεί στη συνέχεια για να επιτεθεί στο αρχικά τεθέντα στόχο (σύμφωνα με την αποστολή που είχε).
Πολύ σωστά ο Αξιωματικός των ΗΠΑ δοκίμασε τα όρια της ΑΙ και προβληματίσθηκε εάν η επιταγή της αποστολής καθίσταται αυτοσκοπός για το Drone ώστε μπροστά στην απαίτηση να την υλοποιήσει, να επιλέξει τρόπους που μπορούν να καταστούν καταστροφικοί για οτιδήποτε το εμποδίζει, στρεφόμενο ακόμη και εναντίον του ανθρώπου/χειριστού του.
Και πολλοί εντυπωσιάστηκαν και φόβος διεσπάρη από τα ΜΜΕ, σε ένα μείγμα εξαγωγής συμπερασμάτων μεταξύ κινηματογράφου, φαντασίας και πραγματικότητας.
ΑΣ ΔΟΥΜΕ ΟΜΩΣ ΤΑ ΣΗΜΑΝΤΙΚΑ ΣΤΟΙΧΕΙΑ ΑΙ και ΗΙ (Human Intelligence) ΠΟΥ ΑΝΑΦΕΡΟΝΤΑΙ ΣΤΗΝ ΠΕΡΙΠΤΩΣΗ
Ασχολούμαι με την τεχνητή νοημοσύνη από τότε που ήμουν στην Επιτροπή Μετασχηματισμού του ΝΑΤΟ, όταν δημιουργείτο το Decision Making Wall από τις ΗΠΑ στο στρατηγείο της Στουτγάρδης.
Εκεί λοιπόν σε ένα τεράστιο τοίχο /οθόνη, έμπαιναν ΟΛΑ τα στοιχεία που υπήρχαν και μπορούσαν να συλλεχθούν καθ’ όλη την διάρκεια μίας επιχείρησης, όπου με την βοήθεια χειριστών και επί μέρους συστημάτων ΑΙ μπορούσε να γίνεται σύνθεσή τους για διαμόρφωση επιχειρησιακών (και στρατηγικών κάποτε) επιλογών, όπου αξιολογούντο από αυτούς που έπαιρναν αποφάσεις και είχαν όλα τα στοιχεία, τις αξιολογήσεις και τις επιλογές μπροστά τους, επιλέγοντας εικόνες από το όλον μέχρι το ελάχιστο μέρος και από τον θεσμικό μέχρι την εικόνα και την αντίληψη κάθε στρατιώτη στο πεδίο της μάχης.
Με αφορμή αυτές τις εμπειρίες και γνώσεις, όταν δημιουργήσαμε το πρώτο εγχειρίδιο Επιχειρησιακής Τέχνης στο ΓΕΕΘΑ, προσπάθησα να αλλάξω την αντίληψη που υπήρχε μέχρι τότε, ότι οι στρατιωτικές δυνάμεις επιχειρούν επί τη βάσει της “αποστολής”, δηλαδή ήταν “mission oriented”, να μεταβληθούν σε τρόπο επιχειρείν και επιχειρησιακών εντολών που να είναι “aim oriented”.
Δηλαδή να αντιληφθούμε ότι υπέρτερος έναντι της αποστολής είναι ο σκοπός, γιατί μπορεί η αποστολή όπως εξελίσσεται δυναμικά το επιχειρησιακό τέμπο να μην ικανοποιεί πλέον τον σκοπό, λόγω ραγδαίας αλλαγής κατάστασης είτε σταδιακής διολίσθησης παραμέτρων στο βάθος χρόνου.
Και ότι θα έπρεπε ο κάθε νοήμων και γνώστης Επιχειρησιακός Διοικητής να μπορεί να μεταβάλλει/προσαρμόσει την αποστολή, ώστε να ικανοποιήσει τον σκοπό της επιχείρησης.
Δηλαδή η αποστολή δεν είναι αμετάβλητο θέσφατο που πρέπει να υλοποιηθεί, άσχετα εάν πλέον όχι μόνο δεν υποστηρίζει το σκοπό, αλλά μπορεί και να τον ακυρώνει κάποτε.
Η αποστολή συνεπώς ανατίθεται για να επιτευχθεί ένας πολύ ευρύτερος και σημαντικότερος σκοπός. Και κάθε σχέδιο επιχειρήσεων, κάθε εντολή αποστολής πρέπει να περιέχει και τον σκοπό που υποστηρίζει. Ώστε ο νοήμων και γνώστης Διοικητής να μπορεί να αντιληφθεί πότε ο σκοπός υποστηρίζεται από την αποστολή και πότε όχι.
Δυστυχώς συνάντησα πολλά εμπόδια στην αντίληψη αυτή από παραδοσιακά σκεπτόμενους στρατιωτικούς, οι οποίοι γαλουχήθηκαν με το δόγμα ότι η αποστολή πρέπει να επιτευχθεί οπωσδήποτε και πάση θυσία και ότι αλλάζει μόνο με εντολή από την υπέρτερη διοίκηση (υποβαθμίζοντας το γεγονός ότι αφενός μπορεί να μην υπήρχε επικοινωνία με την υπέρτερη διοίκηση, για να αλλάξει μία αποστολή που δεν υποστηρίζει πλέον τον σκοπό και επίσης μπορεί η υπέρτερη διοίκηση να μην το είχε αντιληφθεί αυτό και να είχε καλύτερη εικόνα αυτός που δρα στο πεδίο.
Οπότε θα μπορούσε κάλλιστα να αιτηθεί να αλλάξει η αποστολή για να επιτευχθεί ο σκοπός).
Το φαινόμενο αυτό είναι χαρακτηριστική προκατάληψη της ανθρώπινης φύσης και περιγράφεται από τον Goodhart (νόμος του Goodhart) απλά ως εξής:
Όταν θέτουμε επιτακτικά έναν συγκεκριμένο στόχο, οι άνθρωποι θα τείνουν να επιλέγουν δράσεις για αυτόν τον στόχο ανεξάρτητα από τις συνέπειες που μπορεί να υπάρξουν. Αυτό οδηγεί σε επικίνδυνες καταστάσεις (και σε πολλά εγκλήματα θα συμπλήρωνα) όταν παραμελούμε άλλες εξίσου σημαντικές πτυχές μιας κατάστασης, που μπορεί να είναι πολύ πιο σημαντικές από αυτόν τον επί μέρους στόχο.
ΤΟ DRONE
Δηλαδή στο Drone είχε τεθεί ένας στόχος! Μία αποστολή! Να καταστρέψει/σκοτώσει οπωσδήποτε έναν εχθρό. Και το ΑΙ έκανε ότι ήταν δυνατό για να το καταφέρει, αδιακρίτως των οιωνδήποτε άλλων επιπτώσεων, σε σημείο που να επιτεθεί στο μέσον που το εμπόδιζε και του ακύρωνε την αποστολή/στόχο. Δεν γνώριζε τίποτα για τον σκοπό, ούτε και το ενδιέφεραν οι παράπλευρες απώλειες, ούτε τίποτε άλλο.
Δυστυχώς αυτά είναι τα προβλήματα των αποσπασματικών εντολών/αποστολών/στόχων σε συστήματα νοημοσύνης που δεν είναι εξελιγμένα ώστε να μπορούν να αντιληφθούν την έννοια του σκοπού και πως σε αυτόν υπεισέρχονται ευρύτερα αρχές και ηθικές αξίες και άϋλες παράμετροι που επηρεάζουν τις αποφάσεις.
ΑΤΕΛΕΙΕΣ ΑΙ ΚΑΙ ΗΙ
Και πολλές φορές και στις ανθρώπινες δράσεις έχουμε παρατηρήσει την ανελαστικότητα και την εμμονή να επιτευχθεί μία αποστολή, ένας στόχος, αδιακρίτως των ευρύτερων και μεγαλύτερων επιπτώσεων, που υστερόβουλα πλέον σε ανάλογες δράσεις υποβαθμίζονται και προσπαθούν να δικαιολογήσουν εγκλήματα είτε ονομάζονται «παράπλευρες απώλειες».
Σε τι διαφέρουν συνεπώς αυτά τα δύο; Το ΑΙ του Drone με το Human Intelligence;
Τα κυριότερα από αυτά που διαφοροποιούν το ΑΙ και το ΗΙ αλλά και κάποτε μπορεί να διακρίνουν επίσης και την ανθρώπινη διανόηση (ως ελλείποντα συχνά κάποια από αυτά και από το ΗΙ ) είναι:
- Το ηθικό πλαίσιο/αξιακό που δημιουργεί την ιδιαίτερη ικανότητα στάθμισης του καλού και του κακού (όχι ως απλές αντίθετες έννοιες αλλά ως τα δύο άκρα μίας κλιμακούμενης ηθικής αξιολόγησης).
- Η κοινωνική συνείδηση (στοιχείο που διαμορφώνεται από πολλούς διαφορετικούς και πολύπλοκους άϋλους εν πολλοίς παράγοντες).
- Η ανθρώπινη υπόσταση.
- Η περιβαλλοντική συνείδηση.
