AI. Δημιουργούμε τέρατα πιο ισχυρά από εμάς.

Ο Yoshua Bengio, ένας από τους πρωτοπόρους της τεχνητής νοημοσύνης και βασικό πρόσωπο πίσω από τη βαθιά μάθηση, εξέφρασε πρόσφατα ανησυχίες για την ταχεία ανάπτυξη συστημάτων AI. Συχνά αναφέρεται ως «νονός» της τεχνητής νοημοσύνης μαζί με άλλους όπως ο Geoffrey Hinton, ο Bengio έχει εκφράσει αυξανόμενη ανησυχία για τους πιθανούς κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη για την κοινωνία.

Στη δήλωσή του ότι «δημιουργούμε τέρατα πιο ισχυρά από εμάς», ο Bengio υπογραμμίζει τον κίνδυνο να χάσει τον έλεγχο των τεχνολογιών τεχνητής νοημοσύνης εάν γίνουν πολύ προηγμένες χωρίς κατάλληλες διασφαλίσεις.

Ο Bengio έχει υποστηρίξει εδώ και καιρό την ανάπτυξη ηθικής τεχνητής νοημοσύνης, εστιάζοντας σε θέματα όπως η ασφάλεια της τεχνητής νοημοσύνης, η ρύθμιση και η υπεύθυνη ανάπτυξη. Οι ανησυχίες του επικεντρώνονται ιδιαίτερα στην πιθανή κατάχρηση της τεχνητής νοημοσύνης σε τομείς όπως τα αυτόνομα όπλα, η παραπληροφόρηση και η μεροληπτική λήψη αποφάσεων, καθώς και οι ευρύτεροι υπαρξιστικοί κίνδυνοι εάν η τεχνητή νοημοσύνη ξεπεράσει τον ανθρώπινο έλεγχο και την κατανόηση.

Οι προειδοποιήσεις του αντικατοπτρίζουν εκείνες άλλων κορυφαίων ερευνητών τεχνητής νοημοσύνης που πιστεύουν ότι οι ανεξέλεγκτες εξελίξεις της τεχνητής νοημοσύνης θα μπορούσαν να έχουν βαθιές και πιθανώς επικίνδυνες συνέπειες για την ανθρωπότητα.

Στον πυρήνα του επιχειρήματός του βρίσκεται η ιδέα ότι, ενώ η τεχνητή νοημοσύνη έχει τεράστιες δυνατότητες για καλό, όπως στην υγειονομική περίθαλψη, την επιστήμη και την εκπαίδευση, ο αγώνας για την ανάπτυξη ισχυρότερων μοντέλων τεχνητής νοημοσύνης εγκυμονεί επίσης σοβαρούς κινδύνους εάν οι δεοντολογικές οδηγίες, οι κανονισμοί και τα μέτρα ασφαλείας δεν έχει προτεραιότητα.