AI News, Έρευνα

Μέλη - Λυκοθανάσης Σπύρος - Δημοσιεύσεις / Συγγραφικό Έργο

2019 ©

Τηλέφωνα: +30 2610 996985

FAX: +30 2610 969001

Καλώς ήρθατε

The Summit aims to bring together students, researchers and professionals in the field of Computer Science to (a) to present and share their achievements and experience in the computing field, (b) discuss and understand the reasons why there is gender disparity in individuals opting for Computer Science and Engineering, and (c) come up with incentives and measures to reduce the disproportionsbetween women and men in the field.

The programme will feature 1) four keynote talks (see below), 2) a poster track (Poster Track: Research and Profession in Computing)including a flash talks session, 3) industry talks, 4) a career development track, 5) a panel, and 6) a career fair (tentative).

Το Δίκαιο στην εποχή της Τεχνητής Νοημοσύνης

Τόσο οι δικαστές και η χρήση από αυτούς των εφαρμογών ΑΙ που αναπτύσσονται για να παρέχουν συστήματα αυτόματης δικαιοδοτικής λειτουργίας (automated judicial decision-making) όσο και οι δικηγόροι που θα κληθούν να ανταποκριθούν στην νομική ανάλυση σύνθετων και πρωτόγνωρων θεμάτων, όπως η αναζήτηση της πραγματικής ευθύνης για τις «ενέργειες» των μηχανών και ο βαθμός υπαιτιότητας των προγραμματιστών του αλγόριθμου της ΑΙ, αποτελούν σημαντικούς παράγοντες για το πώς θα εξελιχθεί η αλληλεπίδραση των μελλοντικών κοινωνιών με τις ρομποτικές μηχανές.

όρος «Τεχνητή Νοημοσύνη» (στο εξής θα την αναφέρουμε ως AI από τον διεθνή όρο Artificial Intelligence) προέρχεται από (και καταδεικνύει) τον βασικό στόχο να μπορέσει κάποτε η τεχνολογία να δημιουργήσει αυτοματοποιημένα συστήματα αποφάσεων που να επιτελούν σύνθετες ενέργειες χωρίς την διαρκή παρέμβαση του ανθρώπου, με την ακολουθία λογικών ενεργειών που αποτελούν αποτέλεσμα μίας μηχανικής εκμάθησης ή βαθιάς μάθησης (machine learning / deep learning1) όροι που συχνά συμπίπτουν με την έννοια της ΑΙ.

Η ισχυρή ΑΙ δεν είναι ακόμα εφικτή, επιτεύγματα, όμως, όπως η νίκη στο παραδοσιακό κινέζικο παιχνίδι σκέψης και στρατηγικής Go επί του παγκόσμιου πρωταθλητή Lee Sedol από τον υπερυπολογιστή της Google τον Μάρτιο του 2016 στο πλαίσιο του προγράμματος DeepMind και τα προγράμματα μηχανής AlphaZero και AlphaGo, αποτέλεσαν μία ιστορική στιγμή, καθώς ένα μηχάνημα έδειξε σημάδια για αυτό που αναφέρουν οι ερευνητές ως δημιουργικότητα6.

Η ισχυρή AI, στην ιδανική της μορφή, είναι ένα οιονεί ανθρώπινο σύστημα που διαθέτει τις γνωστικές ικανότητες και τη γενική βιωματική κατανόηση του περιβάλλοντος που έχουμε εμείς οι άνθρωποι φτιάξει, σε συνδυασμό με την ικανότητα επεξεργασίας αυτών των δεδομένων με πολύ μεγαλύτερες ταχύτητες από το ανθρώπινο νου, δηλαδή περιέχει όχι μόνο συνείδηση της ύπαρξης και των επιλογών του αλλά και ταχύτατη διαδικασία απόφασης.

Από τον γενικό περίγυρο μίας κοινωνίας έως και το μικροκλίμα μίας ιδιωτικής εταιρείας με την βοήθεια των συστημάτων ΑΙ είναι δυνατό να υφίσταται κάποιος παράνομες διακρίσεις χωρίς να το γνωρίζει κανείς, ή να το γνωρίζουν ελάχιστοι, αφού η λειτουργία της ισχυρής ΑΙ δεν στηρίζεται στο να δημιουργεί αρχεία δεδομένων ή να αποθηκεύει την μηχανική των αποφάσεων της αλλά στο να εξελίσσει τις επιλογές της ανεξάρτητα και μέσα από την εκμάθηση των κανόνων λειτουργίας και μάλιστα σε ταχύτατους ρυθμούς αφού οι αλγόριθμοι αναπτύσσουν τις ικανότητές τους να ρυθμίζουν τις ανθρώπινες καταστάσεις ταχύτερα από ό,τι ο άνθρωπος καταφέρνει να ρυθμίσει τους αλγορίθμους10.

Και αν μπορούσε κανείς να συνοψίσει τους λόγους ανησυχίας στον κυριότερο, αυτός θα ήταν, κατά την άποψη του γράφοντος, το γεγονός ότι αυτή η αποσύνδεση της μηχανικής συμπεριφοράς από τον προγραμματισμό που έχει εισαγάγει ένας άνθρωπος στην μηχανή κάνει δυσδιάκριτη την σύνδεση αιτίου και αιτιατού και δημιουργεί ένα νέο, ίσως δυστοπικό, περιβάλλον στο θέμα της απόδοσης ευθύνης από τις συνέπειες που δύναται να έχει μία τέτοια μορφή αλληλεπίδρασης μεταξύ μηχανών και ανθρώπων.

η Google και το Facebook, φαίνεται να είναι η δημιουργία συστημάτων ΑΙ που αναπαράγουν τον ανθρώπινο εγκέφαλο βασιζόμενα σε μία πλήρη παγκόσμια βάση δεδομένων και πληροφοριών και στη συνέχεια να καταστούν αυτόνομα μέσα από την συνδυασμένη εκπαίδευση των αλγόριθμων (ήτοι των μηχανών) να κατανοούν μοτίβα, να διακρίνουν πρόσωπα και εικόνες και να κατανοούν την γλώσσα13.

Υπό αυτή την οπτική οι δικαστές-μηχανές σαν μέσο επίλυσης διαφορών δεν φαίνονται τόσο μακριά, παρά το ότι επικρατεί η πεποίθηση ότι ο πραγματικός μακροπρόθεσμος στόχος της πληροφορικής υποστήριξης των δικαστικών αποφάσεων δεν μπορεί να είναι στην πράξη η ιδέα της αντικατάστασης των φυσικών δικαστών με λογισμικό, αλλά μια αναδιάταξη του τρόπου διαχείρισης του χρόνου και της πιθανότητας λάθους, δηλαδή η υποστήριξη των καθηκόντων των δικαστών, παίρνοντας και από τις δύο πηγές (μηχανές και άνθρωποι) το καλύτερο για την βέλτιστη απονομή της δικαιοσύνης15.

Φυσικά είναι εύλογο να οδηγούμαστε σε τέτοιες στερεοτυπικές και γενικευμένες αποφάσεις (που για να είμαστε ειλικρινείς δεν παύουν να επηρεάζουν τις αποφάσεις κάποιων ανθρώπων-δικαστών ακόμα και χωρίς την παρέμβαση ειδικού αλγόριθμου) αφού ο αλγόριθμος αξιολόγησης του επικίνδυνου της συμπεριφοράς ενός κατηγορούμενου (risk assessment) φτιάχνεται από προγραμματιστές και στηρίζεται σε κριτήρια που λαμβάνουν υπόψη προσωπικά χαρακτηριστικά όπως ηλικία, φύλο, γεωγραφία, οικογενειακό υπόβαθρο και καθεστώς απασχόλησης.

Ως αποτέλεσμα, δύο άτομα που κατηγορούνται για το ίδιο έγκλημα ενδέχεται να λαμβάνουν διαφορετικά αποτελέσματα σε ότι αφορά την πρόβλεψη τέλεσης ενός αδικήματος, της εγγύησης που θα πρέπει να καταβάλλουν για να μην φυλακιστούν ή ακόμα και της επιβαλλόμενης ποινής με βάση δεδομένα που αφενός είναι πέρα από τον έλεγχό τους και αφετέρου οι ίδιοι και οι συνήγοροι τους δεν έχουν τρόπο να εκτιμήσουν ή να αμφισβητήσουν αφού δεν αποκαλύπτεται ο μηχανισμός πίσω από τον αλγόριθμο που οδηγεί στις συγκεκριμένες επιλογές17.

Όμως το ερώτημα είναι αν θα υπάρχουν δικηγόροι με την επέλαση της ΑΙ ή θα είναι και αυτό το επάγγελμα ένα από αυτά που θα αντικατασταθούν, ολικώς ή μερικώς, με μηχανές που σε σύντομο χρόνο θα μπορούν να επιτελούν δύσκολες και περίπλοκες αναλύσεις της νομοθεσίας και της νομολογίας και θα ανακοινώνουν στον πελάτη αν έχει πιθανότητα να ευοδώσει η δικαστική του διαμάχη;

Η απάντηση δεν είναι απλή και προφανώς βρίσκεται σε συνάρτηση με την τύχη και άλλων επαγγελμάτων που συνήθως κινούνται γύρω από την λειτουργία της δικαιοσύνης και η πραγματικότητα είναι ότι πράγματι θα έρθει κάποτε μία ημέρα που τα συστήματα ΑΙ θα μπορούν να μας δίνουν εξαιρετικά αποτελέσματα στην έρευνα και ερμηνεία των νομικών καταστάσεων.

Και αν αυτό φαντάζει αβάσιμο διότι στην εργασία μας όλοι βάζουμε και το προσωπικό στοιχείο της επιλογής και της αξιολόγησης των κινήσεων που θα κάνουμε σε μία νομική υπόθεση, ας σκεφτούμε ότι τα πρώιμα υπολογιστικά συστήματα ΑΙ έχουν ήδη καταφέρει να προβλέψουν την τακτική και τις κινήσεις παγκόσμιων πρωταθλητών στο σκάκι επιφέροντας εντυπωσιακά γρήγορες νίκες εναντίον τους.

Φρονώ όμως ότι όπως και με τους δικαστές έτσι και στην περίπτωση των δικηγόρων, η απάντηση θα πρέπει να είναι η ενδιάθετη συνειδησιακή κατάσταση που ρυθμίζει τις ανθρώπινες σχέσεις με βάση έναν αξιακό κώδικα συνεχώς μεταβαλλόμενο από περιοχή σε περιοχή, από εποχή σε εποχή και από άνθρωπο σε άνθρωπο και λέγεται ηθική.

Ακόμα και αν δεν καταφύγουμε στις διακρίσεις της απονομής της Δικαιοσύνης που έθεσε ο Αριστοτέλης19 και ειδικά της διανεμητικής δικαιοσύνης, η παρέμβαση στην «στεγνή» ανάγνωση των νόμων και η στήριξη των επιχειρημάτων με την ηθική αξιολόγηση της συγκεκριμένης πράξης και των συγκεκριμένων ανθρώπων είναι μία λειτουργία στην οποία δύσκολα θα μπορέσουν οι μηχανές να αντικαταστήσουν τον άνθρωπο και αυτός θα πρέπει να είναι ο κύριος άξονας αυτορρύθμισης του δικηγορικού επαγγέλματος.

Φυσικά, τα ανωτέρω δεν μοιάζουν ικανά να ισχύσουν για τα επαγγέλματα των δικαστικών επιμελητών και βοηθών δικηγόρων (paralegals) τα οποία προβλέπεται ότι σύντομα θα αντιμετωπίσουν δυσκολίες με την διάδοση συστημάτων επίδοσης ηλεκτρονικών εγγράφων και την αυξανόμενη ικανότητα των μηχανών να ερευνούν και ερμηνεύουν τους κανόνες και τις αποφάσεις που είναι σχετικές με μία υπόθεση σε χρόνο εξαιρετικά ταχύ και αποτελεσματικό.

Κι αυτό θα συμβεί γιατί στον αρχικό προγραμματισμό που έκανε κάποτε ο άνθρωπος δεν υπήρξε πρόβλεψη για τη συγκεκριμένη επιλογή που οδηγεί για παράδειγμα, σε ένα τραυματισμό, οπότε τα παραδοσιακά νομικά εργαλεία περί καταλογισμού των αδικοπραξιών θα έδειχναν μία αποκομμένη σχέση, μία έλλειψη αιτιώδους συνάφειας, και άρα ότι ο ανθρώπινος παράγοντας δεν είναι υπεύθυνος.

Στην πράξη, αυτό που φαίνεται αρκετό για να προβλεφθεί σε ικανό βαθμό η ευθύνη για την ζημιά που μπορεί να προκαλέσει η ΑΙ είναι η ανάπτυξη συστημάτων και προτύπων που αφορούν είτε την πνευματική ιδιοκτησία για τους αλγόριθμους είτε/και τεχνικές σταθερές μέσω διεθνών συμφωνιών, που θα εφαρμόζονται και ενεργοποιούνται σε περιπτώσεις που κάποιος υφίσταται αυτή τη ζημία.

Επιτροπή) και την δημιουργία κινήσεων σε επίπεδο ενώσεων κρατών για την δημιουργία οδηγιών και την καθιέρωση κοινά αποδεκτών νομικών και τεχνικών κανόνων που περιλαμβάνουν ρητούς ορισμούς για αρχιτεκτονικές νευρωνικών δικτύων (όπως είδαμε ένα νευρωνικό δίκτυο περιέχει οδηγίες για την κατάρτιση ενός μοντέλου AI και την ερμηνεία ενός μοντέλου AI) και τα πρότυπα στα οποία πρέπει να συμμορφώνεται η AI.

Για να φτάσουμε, βέβαια, στη δημιουργία τέτοιων προτύπων, θα χρειαστεί πιθανότατα κάποια κυβερνητική παρέμβαση, η οποία δεν φαίνεται να είναι πολύ μακριά, λαμβάνοντας υπόψη ότι σε πολλά κοινοβούλια χωρών με αναπτυγμένη ψηφιακή υποδομή και βιομηχανία έχουν ξεκινήσει ήδη οι συζητήσεις σχετικά με τη μελλοντική ρύθμιση της έρευνας και των εφαρμογών της AI και της ρομποτικής δείχνοντας ότι, καταρχήν, υπάρχει επίγνωση της ανάγκης να δημιουργηθούν νόμοι και κανονισμοί πριν ωριμάσει η αγορά αυτή.

Βρετανία, για παράδειγμα, η Επιτροπή Επιστήμης και Τεχνολογίας της Βουλής των Κοινοτήτων23 δήλωσε ότι ενώ είναι πολύ νωρίς για να θεσπιστούν τομεακοί κανονισμοί για αυτόν τον εκκολαπτόμενο τομέα, είναι ζωτικής σημασίας να αρχίσει τώρα προσεκτικός έλεγχος των ηθικών, νομικών και κοινωνικών διαστάσεων των τεχνητά έξυπνων συστημάτων και τονίζει την ανάγκη για την ανάγκη ενός συστήματος «λογοδοσίας», όταν πρόκειται για την ανάπτυξη συστημάτων AI.

Έχοντας υπόψη ότι η ΑΙ αναμένεται να διαμορφώσει το μέλλον του κόσμου, καθώς τα πάντα, από τα αυτοκίνητα έως τα νομικά συστήματα, υιοθετούν έξυπνες τεχνολογίες και υπερυπολογιστικά μηχανήματα θα πρέπει να στρέψουμε το ενδιαφέρον μας στο πώς θα ενδυναμώσουμε τα ήδη κατεκτημένα δικαιώματα, νομικά και κοινωνικά, όπως το δικαίωμα στην προστασία της προσωπικότητας και των δεδομένων που παράγουμε.

Σύμφωνα με μελέτη του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης27, για παράδειγμα, παρά το ότι όλες οι σήμερα χρησιμοποιούμενες τεχνολογίες αναγνώρισης προσώπου βεβαιώνουν ότι τα κριτήρια της εφαρμογής δεν είναι αποκλειστικά φυλετικά, σχεδόν το 35 τοις εκατό των εικόνων με γυναίκες με σκουρότερο δέρμα είχαν λάθη στο λογισμικό αναγνώρισης προσώπου ενώ οι φωτογραφίες που απεικόνιζαν άνδρες με πιο ανοικτό δέρμα είχαν ποσοστό σφάλματος περίπου 1%.

Για το λόγο αυτό σωστά προτείνονται τέσσερις βασικοί άξονες αυτορρύθμισης από παγκόσμιους φορείς, όπως το World Economic Forum, που προτείνει να ελέγχεται η ανάπτυξη κάθε συστήματος και εφαρμογής ΑΙ με τα εξής κριτήρια: Την αναγνώριση ότι μπορεί να υπάρχει μεροληψία, την θέληση να ελεγχθούν οι βάσεις για τέτοια δεδομένα (διακυβέρνηση των δεδομένων), την διασφάλιση πηγών με δεδομένα που είναι αξιόπιστες και έγκυρες και, βεβαίως, την διαφάνεια στον τρόπο επιλογής των κριτηρίων και τη λειτουργία του συστήματος30.

Το μεγάλο πρόβλημα με τα συστήματα αξιολόγησης των κατηγορούμενων, που αναφέραμε ανωτέρω, είναι ότι οι εταιρείες που τα έχουν αναπτύξει δεν αποκαλύπτουν τον τρόπο που έχει αναπτυχθεί ο αλγόριθμος, δηλαδή τα δεδομένα που συλλέγει και την βαρύτητα που τους δίνει, ώστε να εξάγει ένα αποτέλεσμα για το πόσο αξιόποινο είναι ένα φυσικό πρόσωπο, διότι τα θεωρούν εμπορικό τους μυστικό.

Σκοπός κάθε μελέτης και σχεδιασμού γύρω από την ΑΙ θα πρέπει να είναι η αποκρυστάλλωση των τομέων στους οποίους οι εμπειρογνώμονες της βιομηχανίας και της έρευνας στον τομέα της πνευματικής ιδιοκτησίας έχουν προσδιορίσει ως βασικούς παράγοντες για την πιο αποτελεσματική ανάπτυξη συστημάτων ΑΙ και την υλοποίηση των ευκαιριών που παρουσιάζονται, μέσω αφενός της πρόσβασης σε δεδομένα περισσότερο αξιοποιήσιμα και την μεγιστοποίηση της έρευνας για την έρευνα και την υποστήριξη και την υποστήριξη της ανάπτυξης ΑΙ μέσω επενδυτικών σχημάτων και αφετέρου τον καλύτερο συντονισμό και κατανόηση των ΑΙ μεταξύ των δυνητικών χρηστών.

Οι νομικές και ηθικές συνέπειες της μεταφοράς των ανθρώπινων αποφάσεων σε αλγόριθμους δεν είναι ακόμα πλήρως κατανοητές και αυτό εξηγεί γιατί, για την ώρα, δεν προβληματιζόμαστε ιδιαίτερα με όλες αυτές τις εταιρείες που αντλούν τεράστιες ποσότητες δεδομένων (big data) και εφαρμόζουν αλγόριθμους που έχουν την δυνατότητα να μαθαίνουν από την εμπειρία τους και να ανατροφοδοτούν τα δεδομένα και τις αντιδράσεις τους σε πραγματικό χρόνο.

Για τους λόγους αυτούς το πρώτο και πολύ σημαντικό βήμα είναι οι οργανισμοί, δημόσιοι ή ιδιωτικοί, ακόμα και τα ερευνητικά κέντρα, να αναπτύξουν μια ηθική σχετικά με τον τρόπο χρήσης των δεδομένων των πελατών/υποκειμένων, καθώς ενδέχεται να μπουν στον πειρασμό να κάνουν πράγματα που προσφέρουν μεν πολύτιμη εμπορική ή επιστημονική αξία, αλλά θα μπορούσαν να έχουν τεράστιες συνέπειες για την προστασία της ιδιωτικής ζωής.

Όμως ένα συμπέρασμα που μοιάζει να βγαίνει άμεσα από την επιμέτρηση της σχέσης της ΑΙ με την κλίμακα των ηθικών αξιών όπως έχουν διαμορφωθεί μέχρι σήμερα, είναι ότι σε κάποια, σύντομη, ιστορική στιγμή θα πρέπει να αναλογιστούμε μήπως και αυτή η αξιακή κατηγοριοποίηση είναι τόσο επιβαρυμένη από αιώνες ανθρώπινης συμπεριφοράς που αξίζει να ιδωθεί πλέον μέσα από ένα νέο ξεκίνημα, μία επανεκκίνηση του ζητήματος του τί αποτελεί ηθική.

Εξαιτίας της μεγάλης σοβαρότητας και της παγκόσμιας φύσης των αναμενόμενων επιπτώσεων της ΑI στην ανθρωπότητα, υπάρχει η προσδοκία να ενταχθεί στην μακρά σειρά θεμάτων που απαιτούν διακρατική συνεργασία, πιθανόν μέσω της δημιουργίας ενός διεθνούς οργανισμού που θα ανταποκριθεί στον δύσκολο ρόλο της ρύθμισης της ΑΙ και που θα μπορούσε αρχικά να χρησιμεύσει ως εστιακό σημείο για τις πολιτικές σχετικά με θέματα που σχετίζονται με την AI και εφόσον υπάρξει η αναγκαία διεθνής υποστήριξη να αποκτήσει αυξανόμενο ρόλο στη ρύθμιση της ΑΙ με την πάροδο του χρόνου40.

Παρόλα αυτά αυτό που μένει ως σταθερά είναι η ανθρωποκεντρική προσέγγιση με βάση την ανάγκη της διατήρησης των βασικών αρχών που πρέπει να διέπουν κάθε μετάβαση σε μία νέα εποχή για τον άνθρωπο: πρωταρχικός στόχος να είναι η βελτίωση της ανθρώπινης ζωής, η ΑΙ να μην οδηγεί σε βλάβη του ανθρώπου, να διατηρηθεί η αυτονομία στις επιλογές του ανθρώπου, η ανάπτυξη, χρήση και ρύθμιση της ΑΙ να βασίζεται στις αρχές του δικαίου και η εφαρμογή της ΑΙ να διέπεται από διαφάνεια42.

Disruption - Day 2 - Part 2 (ENG)

12:15 – 13:00 PLENARY SESSION 4: DISRUPTING THE BOUNDARIES BETWEEN HUMAN, ANIMALS & MACHINES: CHIMERAS, ARTIFICIAL INTELLIGENCE ...

Week 10, continued