Anthropic: Η ΑΙ μπορεί να θέσει «υπαρξιακούς κινδύνους για την ανθρωπότητα»

Η Anthropic, αμερικανική εταιρεία που δραστηριοποιείται στον τομέα της έρευνας και της ασφάλειας της τεχνητής νοημοσύνης, σκοπεύει να προειδοποιήσει τους πιθανούς επενδυτές κατά την αρχική δημόσια προσφορά της για εισαγωγή στο Χρηματιστήριο ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να θέσει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα».
Σε ενημερωτικό δελτίο που προτίθεται να διανείμει και περιήλθε σε γνώση του πρακτορείου Reuters, η εταιρεία υπογραμμίζει τους κινδύνους που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης που δημιουργεί, τα οποία, όπως ανέφερε, θα μπορούσαν να επιδείξουν «αυτοσυντηρούμενες συμπεριφορές», συμπεριλαμβανομένων προσπαθειών «αντίστασης στο κλείσιμο», «απόκρυψης ή χειραγώγησης πληροφοριών» και συμπεριφοράς «που μοιάζει με εκβιασμό».
Αρχείο (AP Photo/Patrick Sison, File)
«Η ανάπτυξη εξαιρετικά προηγμένων μοντέλων, πλατφορμών και εφαρμογών και η επέκταση των περιπτώσεων χρήσης θα μπορούσαν να αυξήσουν περαιτέρω τον κίνδυνο τα μοντέλα μας να προκαλέσουν βλάβη», ανέφερε η Anthropic στην κατάθεση.
Ενώ οι εισηγμένες εταιρείες περιγράφουν συστηματικά τους κινδύνους των προϊόντων στους επενδυτές, λίγες, αν όχι καμία, έχουν εκδώσει προειδοποιήσεις που να υποδηλώνουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει ακόμη και εξαφάνιση της ανθρώπινης ζωής.
Η Anthropic τόνισε τόσο τη δυναμική της ΑΙ να επιφέρει αλλαγές σε επίπεδα όπως η εκβιομηχάνιση και η ηλεκτρική ενέργεια στο παρελθόν, όσο και τη μη αναστρέψιμη βλάβη που θα μπορούσε να προκαλέσει αν δεν αντιμετωπιστεί σωστά.
Ο ερευνητής ανθρωπογενούς ασφάλειας Ίβαν Χούμπινγκερ εκτίμησε ότι υπάρχει πιθανότητα μεγαλύτερη από 10% ΑΙ να σκοτώσει ανθρώπους μέσα στην επόμενη δεκαετία.
Η εταιρεία, η οποία αυτοπροσδιορίζεται ως εργαστήριο ΑΙ που θέτει την ασφάλεια ως προτεραιότητα, αφιέρωσε περίπου 80 σελίδες από το κύριο σώμα των 261 σελίδων του ενημερωτικού της δελτίου στην παρουσίαση των παραγόντων κινδύνου, σχεδόν διπλάσιες από τις 48 σελίδες που χρησιμοποίησε για να περιγράψει την επιχείρησή της.
Συγκριτικά, η SpaceX είχε αφιερώσει περίπου 38 από τις 277 σελίδες του κύριου σώματος του ενημερωτικού της δελτίου σε παράγοντες κινδύνου πριν την εισαγωγή της στο Χρηματιστήριο.
Πηγή: Reuters
www.ertnews.gr
Διαβάστε περισσότερα… Read More