- Ερευνητές εξετάζουν λίστα από τεχνικές δημιουργίας συστημάτων λογισμικού που τα έξυπνα μηχανήματα δεν θα παρακάμπτουν.
Οι ερευνητές της μονάδας Alphabet Inc. της Google και οι συνεργάτες τους στο.. Πανεπιστήμιο Στάνφορντ, στο Πανεπιστήμιο της Καλιφόρνιας και στην εταιρεία ανάπτυξης τεχνητής νοημοσύνης OpenAI πιστεύουν ότι είναι σε θέση να σχεδιάσουν ρομποτικούς βοηθούς που δεν θα προκαλούν ανεπιθύμητα ατυχήματα, σύμφωνα με τεχνική αναφορά που δημοσίευσαν την Τρίτη. Η αναφορά αγγίζει μερικά από τα προβλήματα που μπορεί να αντιμετωπίσουν μελλοντικά οι σχεδιαστές ρομπότ και περιλαμβάνει λίστα από τεχνικές δημιουργίας συστημάτων λογισμικού που τα έξυπνα μηχανήματα δεν θα μπορούν να παρακάμψουν. Ως πρόκληση περιγράφονται η ανοικτή και ευέλικτη φύση της νοημοσύνης και ο τρόπος με τον οποίο θα χρησιμοποιηθεί αυτή από τους χρήστες της. «Αν και υπάρχουν πολλά πιθανά ρίσκα ασφαλείας στην αξιοποίηση της τεχνητής νοημοσύνης, οι περισσότερες συζητήσεις που έχουν γίνει στο παρελθόν είναι υποθετικές και θεωρητικές», σχολίασε ο ερευνητής της Google Κρις Ολα. «Πιστεύουμε ότι είναι ουσιώδες να συνδέσουμε τους προβληματισμούς μας με την πραγματική έρευνα για τα μηχανήματα και να ξεκινήσουμε να αναπτύσσουμε πρακτικές για την κατασκευή των συστημάτων τεχνητής νοημοσύνης που θα λειτουργούν με ασφάλεια και αξιοπιστία», προσέθεσε ο ίδιος.
Πώς, όμως, μπορούμε να ελέγξουμε τον τρόπο με τον οποίο η ανθρώπινη καθημερινότητα μπορεί να διαμορφώνει τη συμπεριφορά της τεχνητής νοημοσύνης; Για παράδειγμα, εάν κάποιος κατέχει ένα ρομπότ για καθάρισμα, πώς μπορεί να διασφαλισθεί ότι το μηχάνημα δεν θα αναπτύξει τάση να «κλέβει»; Εάν διδαχθεί ότι το να εξαφανίζει τη σκόνη οδηγεί σε ανταμοιβή, τότε μπορεί απλώς να την κρύβει κάτω από το χαλί και να λάβει την αμοιβή του.
Αν και αυτές οι μικρές ατασθαλίες στο καθάρισμα του σπιτιού δεν αποτελούν τεράστιο πρόβλημα, οι ερευνητές θεωρούν ότι μελλοντικά οι κίνδυνοι θα αυξηθούν. «Με τη ρεαλιστική πιθανότητα τα μηχανήματα με μαθησιακές ικανότητες να ενταχθούν στη βιομηχανική παραγωγή, στο σύστημα υγείας και στη διαχείριση καταστάσεων έκτακτης ανάγκης είναι ζωτικής σημασίας να εμποδίσουμε την προοπτική πρόκλησης ατυχημάτων, γιατί αυτό θα σήμαινε την απώλεια εμπιστοσύνης προς την τεχνητή νοημοσύνη», αναφέρουν οι μελετητές. Ανάμεσα στις προτεινόμενες λύσεις συγκαταλέγεται η εγκατάσταση συστημάτων προειδοποίησης για τους ιδιοκτήτες σε περίπτωση που το ρομπότ ετοιμάζεται να παρεκκλίνει από την καθορισμένη διαδικασία.
Η συγκεκριμένη μελέτη αποτελεί μέρος σειράς ερευνητικών προγραμμάτων 50 ετών. Η ανάμειξη της Google αντανακλά το αυξημένο εταιρικό ενδιαφέρον για την τεχνητή νοημοσύνη.
