Τι πρέπει να παραμείνει ανθρώπινο όταν ενσωματώνετε AI στις λειτουργίες σας;

Άμεση Απάντηση

Ανθρώπινη παραμένει κάθε απόφαση που φέρει νομική ευθύνη, απαιτεί αδειοδοτημένη κρίση, ή αγγίζει έναν πελάτη σε μια στιγμή που δεν αναιρείται. Όλα τα υπόλοιπα είναι υποψήφια για AI, ανεξάρτητα από το πόσο σύνθετη φαίνεται η εργασία στα χαρτιά. Οι περισσότερες λειτουργίες χαράζουν αυτή τη γραμμή με βάση τη δυσκολία της εργασίας αντί για το ποιος κατέχει τη συνέπεια όταν το σύστημα κάνει λάθος, και αυτό ακριβώς το σφάλμα αφορά το κείμενο.

Βασικά Συμπεράσματα

• Η ευθύνη, όχι η δυσκολία, καθορίζει τι μένει ανθρώπινο. Μια υπογραφή πέντε δευτερολέπτων μπορεί να μετράει περισσότερο από μια ανάλυση δύο ωρών.
• Οι αδειοδοτημένες πράξεις (η έγκριση ενός λογιστή, μια νομική γνωμοδότηση, μια διάγνωση, μια πιστοποίηση συμμόρφωσης) μένουν ανθρώπινες επειδή η άδεια είναι αυτό που το AI δεν μπορεί να κατέχει, όχι η δεξιότητα πίσω από αυτήν.
• Οι μη αναστρέψιμες στιγμές του πελάτη, όπως το κλείσιμο ενός λογαριασμού ή η απόρριψη μιας απαίτησης, χρειάζονται κάποιον με τον οποίο μπορεί να διαφωνήσει κανείς πριν η απόφαση γίνει οριστική.
• Οι πρωτοφανείς καταστάσεις χωρίς προηγούμενο είναι εκεί όπου τα μοντέλα αναγνωρίζουν μοτίβα με σιγουριά και λάθος. Δρομολογήστε τις σε άνθρωπο πριν το λάθος μοτίβο γίνει πολιτική.
• Το άρθρο 14 της Πράξης της ΕΕ για την Τεχνητή Νοημοσύνη ήδη κωδικοποιεί μια εκδοχή αυτού για τα συστήματα υψηλού κινδύνου: η εποπτεία πρέπει να είναι ανάλογη με τον κίνδυνο, όχι να εφαρμόζεται οριζόντια σε κάθε βήμα.

Τι πρέπει πραγματικά να παραμείνει ανθρώπινο;

Χαρτογραφώ ροές εργασίας επαγγελματικά, και η ερώτηση που δέχομαι πιο συχνά είναι κάποια παραλλαγή του «πόσο από αυτό μπορούμε να αυτοματοποιήσουμε». Είναι η λάθος ερώτηση. Η σωστή είναι: σε ποιο βήμα προσκολλάται ένα όνομα, μια άδεια ή μια σχέση στο αποτέλεσμα; Όλα πριν από αυτό το βήμα είναι συντονισμός, μετακίνηση πληροφορίας ανάμεσα σε συστήματα και ανθρώπους, και ο συντονισμός είναι ακριβώς αυτό που το AI αφαιρεί καλά. Όλα σε αυτό το βήμα και μετά είναι σημείο όπου ένας άνθρωπος πρέπει να μπορεί να πει «εγώ το αποφάσισα», και να το εννοεί.

Πέντε κατηγορίες εμφανίζονται ξανά και ξανά στις ροές που έχω χαρτογραφήσει:

Καμία από αυτές δεν αφορά το ότι το AI τα πάει άσχημα στην εργασία. Ένα μοντέλο μπορεί να συντάξει τη δήλωση ΦΠΑ, να συνοψίσει τον φάκελο της απαίτησης ή να επισημάνει το παράπονο ως ασυνήθιστο γρηγορότερα από άνθρωπο. Αυτό που δεν μπορεί είναι να κατέχει την άδεια, να απορροφήσει την ευθύνη ή να αποκαταστήσει μια σχέση με την παρουσία του. Η Moody’s κάνει την ίδια παρατήρηση ειδικά για τις λειτουργίες κινδύνου και συμμόρφωσης: η εποπτεία εξακολουθεί να μετράει ακριβώς επειδή η λογοδοσία δεν μεταβιβάζεται στο μοντέλο. Αυτό είναι δομικό όριο, όχι κενό ικανότητας που κλείνουν τα καλύτερα μοντέλα.

Τι δεν είναι αυτό

Δεν είναι το ίδιο επιχείρημα με τον σχεδιασμό ροών human-in-the-loop, για τον οποίο έχω γράψει ξεχωριστά, το πού ανήκει πραγματικά ο άνθρωπος στον βρόχο μιας ροής εργασίας AI αφορά το σε ποιο σημείο ενός αγωγού τοποθετείτε μια πύλη έγκρισης. Αυτό το κείμενο βρίσκεται πιο πάνω από εκείνο. Αφορά ποιες κατηγορίες απόφασης δεν πρέπει ποτέ να ανατεθούν πλήρως, ανεξάρτητα από τη θέση των πυλών, την ακρίβεια του μοντέλου, ή το πόσο εμπιστεύεται η ομάδα το σύστημα μετά από έξι μήνες καθαρής λειτουργίας. Ακόμη και καθώς οι επιχειρήσεις μετακινούν τη μηχανική της εποπτείας από ένα ανασταλτικό βήμα human-in-the-loop σε ένα εποπτικό μοντέλο human-on-the-loop, οι κατηγορίες που απαιτούν άνθρωπο δεν μετακινούνται, μόνο το πόσο στενά παρακολουθεί αυτός ο άνθρωπος.

Ούτε είναι επιχείρημα υπέρ της διατήρησης ανθρώπων παντού από προφύλαξη. Το μεγαλύτερο μέρος της δουλειάς μέσα σε μια σπασμένη ροή (το κυνήγι ενός εγγράφου, η επαναπληκτρολόγηση ενός πεδίου, ο έλεγχος μιας κατάστασης που τρεις άνθρωποι έχουν ήδη ελέγξει) δεν φέρει καμία ευθύνη και αναιρείται εύκολα αν είναι λάθος. Αυτή η δουλειά πρέπει να μετακινηθεί. Το να κρατάτε άνθρωπο σε εκείνον τον βρόχο «για σιγουριά» είναι το ίδιο σφάλμα από την άλλη κατεύθυνση: δεν είναι όριο, είναι συνήθεια, και οι συνήθειες είναι ακριβώς αυτό που οι περισσότερες προσπάθειες υιοθέτησης AI κάνουν λάθος ξεκινώντας από το επίπεδο συντονισμού αντί για το επίπεδο απόφασης.

Πώς βρίσκετε αυτή τη γραμμή μέσα σε μια πραγματική ροή εργασίας;

Χαρτογραφήστε τη ροή από την αρχή ως το τέλος, όπως έκανα για ένα σύστημα διαχείρισης ασφαλιστικών απαιτήσεων native σε AI και για ένα σύστημα συμμόρφωσης σήμανσης CE. Σε κάθε βήμα, κάντε τρεις ερωτήσεις: προσκολλάται εδώ κάποια άδεια, αναιρείται αυτό αν είναι λάθος, και έχει ξανασυμβεί ακριβώς αυτή η κατάσταση; Ένα «όχι» στην αναστρεψιμότητα ή ένα «όχι» στο προηγούμενο είναι εκεί που βρίσκεται το όριο, ακόμη κι αν το βήμα φαίνεται ρουτίνα από έξω. Και στα δύο εκείνα συστήματα, η συναρμολόγηση εγγράφων, η διασταύρωση και η παρακολούθηση κατάστασης μετακινήθηκαν στο σύστημα. Η υπογραφή που λέει ότι ο φάκελος είναι πλήρης, όχι.

Αυτό παράγει μια συντομότερη λίστα από όση περιμένουν οι περισσότερες ομάδες. Σε μια ροή απαιτήσεων, το ανθρώπινο όριο είναι συνήθως ένα ή δύο βήματα: η απόφαση του πραγματογνώμονα για οριακές απαιτήσεις και η έγκριση αποζημίωσης πάνω από ένα κατώφλι. Όλα τα προηγούμενα (παραλαβή, αντιστοίχιση εγγράφων, αναζήτηση συμβολαίου, επισήμανση απάτης προς έλεγχο) είναι συντονισμός. Απλώς δεν το νιώθεις έτσι όσο γίνεται στο χέρι, που είναι και ο λόγος που η προσθήκη ενός AI agent πάνω σε αυτή τη ροή χωρίς να ξαναχαραχτεί πρώτα το όριο συνήθως αποτυγχάνει.

Σύνοψη

Το όριο ανάμεσα στην ανθρώπινη δουλειά και την AI δεν αφορά τη δυσκολία της εργασίας, και δεν μετακινείται καθώς βελτιώνονται τα μοντέλα. Βρίσκεται στο σημείο όπου μια άδεια, μια νομική υπογραφή ή μια μη αναστρέψιμη συνέπεια για τον πελάτη προσκολλάται στο αποτέλεσμα. Χαρτογραφήστε μια ροή ψάχνοντας αυτό το σημείο αντί να ψάχνετε τι φαίνεται δύσκολο, και η γραμμή αντέχει ακόμη κι αφού το AI γίνει καλύτερη σε όλα τα γύρω.

Συχνές Ερωτήσεις

Αλλάζει ένα πιο ικανό μοντέλο AI το τι πρέπει να παραμείνει ανθρώπινο;

Όχι. Ένα καλύτερο μοντέλο αλλάζει πόση σύνταξη, σύνοψη και συντονισμό μπορεί να αναλάβει με ασφάλεια πριν από το ανθρώπινο βήμα. Δεν αλλάζει ποιος κατέχει την άδεια ή απορροφά την ευθύνη, επειδή αυτό είναι νομικό και οργανωτικό γεγονός, όχι όριο ικανότητας.

Δεν είναι αυτό το ίδιο με τον σχεδιασμό human-in-the-loop;

Όχι. Το human-in-the-loop αφορά το πού τοποθετείτε μια πύλη έγκρισης μέσα σε μια ροή εργασίας. Αυτό εδώ αφορά ποιες κατηγορίες απόφασης δεν πρέπει ποτέ να αυτοματοποιηθούν πλήρως, ανεξάρτητα από το πού βρίσκονται οι πύλες.

Κι αν η διατήρηση ανθρώπου σε ένα βήμα χαμηλού κινδύνου είναι απλώς φθηνότερη προς το παρόν;

Αυτό είναι απόφαση κατανομής πόρων, όχι όριο. Είναι μια χαρά να κρατήσετε κάποιον κάπου προσωρινά. Η διάκριση σε αυτό το κείμενο αφορά βήματα που πρέπει να μείνουν ανθρώπινα κατ’ αρχήν, όχι βήματα που απλώς παραμένουν χειροκίνητα.

Πώς ορίζουν οι ρυθμιστικές αρχές αυτό το όριο;

Το άρθρο 14 της Πράξης της ΕΕ για την Τεχνητή Νοημοσύνη απαιτεί η ανθρώπινη εποπτεία για συστήματα υψηλού κινδύνου να είναι ανάλογη με τον κίνδυνο, τον βαθμό αυτονομίας και το πλαίσιο χρήσης, αντί για ομοιόμορφη σε κάθε λειτουργία, κάτι που πλησιάζει τη γραμμή ευθύνης που περιγράφεται εδώ.

Ισχύει αυτό για μικρές ομάδες χωρίς τμήμα συμμόρφωσης;

Ναι. Οι κατηγορίες (ευθύνη, αδειοδοτημένες πράξεις, μη αναστρέψιμη βλάβη, πρωτοφανής κρίση, αποκατάσταση εμπιστοσύνης) υπάρχουν είτε μια εταιρεία έχει ορισμένο υπεύθυνο συμμόρφωσης είτε όχι. Οι μικρότερες ομάδες απλώς τείνουν να αντιλαμβάνονται το όριο αργότερα, συνήθως μετά από μια κακή οριακή περίπτωση.