Η εταιρεία Anthropic προειδοποίησε για υπαρξιακή απειλή από την τεχνητή νοημοσύνη
Οι δημιουργοί του Claude δήλωσαν ότι η τεχνητή νοημοσύνη συνιστά καταστροφική απειλή, εάν δεν υπάρξουν μηχανισμοί προστασίας της κοινωνίας.
Η αμερικανική εταιρεία Anthropic, η οποία αναπτύσσει το chatbot Claude, προειδοποίησε για πιθανή καταστροφική και υπαρξιακή απειλή της τεχνητής νοημοσύνης για την ανθρωπότητα, σε έγγραφα που ετοιμάστηκαν πριν από την είσοδό της στο χρηματιστήριο. Το μεταδίδει το BBC.
Στην αίτηση για την αρχική δημόσια προσφορά μετοχών (IPO) στο χρηματιστήριο Nasdaq, η διοίκηση της εταιρείας τόνισε ότι, χωρίς αυστηρό έλεγχο, κατάλληλα μέτρα ασφαλείας και εποπτεία, τα προηγμένα συστήματα τεχνητής νοημοσύνης δημιουργούν θανάσιμο κίνδυνο για τους ανθρώπους.
Οι κύριοι κίνδυνοι συνδέονται με την πιθανή κατάχρηση των τεχνολογιών, τη μετατροπή τους σε αυτόνομα όπλα ή την παροχή υπερβολικής αυτονομίας στα συστήματα, με αποτέλεσμα να μπορούν να λειτουργούν χωρίς τον έλεγχο του ανθρώπου.
Τις προειδοποιήσεις υποστήριξαν ειδικοί της ίδιας της εταιρείας, καθώς και ανεξάρτητοι ερευνητές και ρυθμιστικές αρχές. Ειδικοί και πρώην εργαζόμενοι του κλάδου επιβεβαίωσαν ότι η δημιουργία ισχυρών αλγορίθμων προηγείται της ανάπτυξης μηχανισμών προστασίας, ικανών να θωρακίσουν την κοινωνία από τις κακόβουλες ενέργειες αυτόνομων πρακτόρων.
Νωρίτερα, ο ΣΠΖ (Ένωση Ορθοδόξων Δημοσιογράφων) είχε αναφέρει ότι ο Ίλον Μασκ προειδοποίησε για τον κίνδυνο της υπερευφυΐας της τεχνητής νοημοσύνης για την ανθρωπότητα.
