ChatGPT της OpenAI / συζήτηση για την τεχνητή νοημοσύνη (AI)

[Samael]

Εγώ έχω περιέργεια σχετικά με το εαν είναι εφικτό ένα δίκτυο να προσαρμόζει την αρχιτεκτονική του με βάση τα data. Δηλαδή όχι να μετράει μόνο την απόδοση του σε σχέση με τους στόχους(εάν έχουν καθοριστεί) αλλά και ως προς το ποσό αποδοτική ήταν η υιοθέτηση μιας συγκεκριμένης αρχιτεκτονικής.

Πιστεύω πως αυτό είναι ένα κρίσιμο βήμα προς το AGI. Και λέω προς το AGI γιατί αυτή την στιγμή τουλάχιστον δεν φαίνεται κάτι στον ορίζοντα. Ίσως να φανεί πως προσεγγίζει τέτοια συμπεριφορά λόγω του scaling αλλά πιστεύω πως η σημερινή προσέγγιση θα έχει περιορισμούς τελικά. Όχι πως αυτό θα κάνει πολύ μεγάλη διαφορά για το τι θα βιώνουμε οι υπόλοιποι βέβαια.

 

[parafernalia]

ρε συ, με συγχωρείς αλλά αυτά που λες τα λες αρκετά απλοϊκά και εκλαϊκευμένα είτε αναγκαστικά είτε απο επιλογή.
AGI = Artificial General Intelligence πράγμα το οποίο σημαίνει οτι πρακτικά η ΤΝ θα μπορεί να κάνει όλες τις ανθρώπινες εργασίες καλύτερα απο τον άνθρωπο.
Αυτό μεταφράζεται σε ατελείωτες παραμέτρους που δίνουν σάρκα σε αυτό που λέμε άνθρωπο.
Μιλάμε για perception του κόσμου το οποίο με την σειρά του μεταφράζεται σε χιλιάδες μικρότερες παραμετρους.
Για να μπορέσει ενας ρομποτικός βραχίονας να καταλάβει και να υπολογίσει πόση πίεση χρειάζεται να ασκήσει για να σηκώσει ενα ποτήρι χωρίς να είναι πολύ μεγάλη και να το σπασει ή πολύ μικρή που να μην το αγγίζει σχεδόν καθόλου χρειάστηκαν ατελείωτες ώρες training. Και πάλι δεν είναι πάντοτε τέλειο. Σου μιλάω για κάτι που εμάς μας βγαίνει εντελώς φυσιολογικά, για μια μηχανή αυτά είναι παράμετροι, reinforcement learning & fine tuning.
Και σου ανέφερα μόνο εναν εκ των εκατομμυρίων λειτουργιών τις οποίες θα πρέπει να κάνει master.
Το να λέει κάποιος πως θα φτάσουμε το AGI μέσω των llms είναι παντελώς αστείο για τους γνώστες του κλάδου. Tα llms που κάνουν πρακτικά dumb predictions.

Αν το φτάσουμε θα είναι με complex world models και η προσωπική μου εκτίμηση είναι πως δε θα γίνει όσο ζούμε.

Τα language models ξεπερνιούνται, ο καλύτερος τρόπος να μιλήσεις με τη μηχανή ή μια μηχανή με μία άλλη είναι τα bit (ή qbit). Και πριν τα LLMs είχαμε AI που έκανε σημαντικά πράγματα, έπαιζε π.χ. σκάκι και μάθαινε απ' τον αντίπαλο. Τα LLM φτιάχτηκαν κυρίως για τα human interactions. Πλέον, η έρευνα έχει σε μεγάλο βαθμό κορεστεί από τα LLM που βασίζονται στο κείμενο και προχωρά στην εφαρμογή αυτών των προσεγγίσεων στο επόμενο ορόσημο: τις πολύ πιο πλούσιες και άφθονες πηγές δεδομένων, όπως ο ήχος, το βίντεο και τα προσομοιωμένα φυσικά περιβάλλοντα.

Ο δρόμος προς την AGI δεν αφορά το να κάνουμε τα LLM να "σκέφτονται" με τον τρόπο που σκέφτονται οι άνθρωποι. Αφορά τη συνειδητοποίηση ότι η νοημοσύνη μπορεί να μην είναι τόσο "ιδιαίτερη" όσο νομίζαμε. Αυτά τα μοντέλα επιδεικνύουν ήδη συλλογιστική, δημιουργικότητα και γενίκευση - πράγματα που κάποτε πιστεύαμε ότι απαιτούν συνείδηση, κατανόηση ή οποιαδήποτε άλλη μυστικιστική ιδιότητα επιστρατεύαμε για να περιχαρακώσουμε τη νοημοσύνη. Κάθε άλμα κλίμακας φέρνει αναδυόμενες ικανότητες που κανείς δεν είχε προβλέψει. Το GPT-2 δεν μπορούσε να μετρήσει αξιόπιστα. Το GPT-4 μπορεί να λύσει απειροστικό λογισμό.

Ίσως η AGI να μη μοιάζει καθόλου με την ανθρώπινη νοημοσύνη. Ίσως να είναι κάτι πιο παράξενο και "εξωγήινο", που όμως θα φέρνει το αποτέλεσμα. Το ερώτημα δεν είναι αν οι τρέχουσες μέθοδοι θα οδηγήσουν στην AGI, αλλά αν θα είμαστε σε θέση καν να την αναγνωρίσουμε όταν φτάσει.

 

[chester20080]

δε θα γίνει όσο ζούμε.

Ο Ray Kurzweil παντως παλαιότερα (οταν ακομα δεν υπήρχε η υπόνοια για LLMs καν, ποσο μάλλον με τη ραγδαία εξέλιξη στο χώρο τα τελευταία 4 χρόνια) είχε εκτιμήσει πως το singularity θα γινει μεχρι το 2045 (και το AGI μεχρι το 2029)

 

[nPb]

To ερώτημα είναι γιατί στη δική μας εποχή, υπάρχει μια βιασύνη χρόνου; Θέλω να πω γιατί μας νοιάζει τι θα γίνει το 2030 όταν κανείς δεν ξέρει αν θα ζει ο ίδιος;

Παρατηρώ ότι μετά την εποχή του covid επικρατεί μια τεχνολογική επενδυτική τρέλα με πολλούς ειδικούς που πασχίζουν να μας πείσουν για την αναγκαιότητα πραγμάτων που δεν είναι επιλογή ανάγκης από έναν άνθρωπο. Θεωρώ άκρως φασιστικό στα πλαίσια μιας υπερ-αστυνομοκρατούμενης κοινωνίας, η οποία επιβάλλει πως πρέπει να είναι η κοινωνία ή τι δουλειές θα πρέπει να γίνονται για να κινείται μια οικονομία με 20 τρισεκατομμυριούχους παγκοσμίως. Αυτό πού οδηγεί; Θα ήθελα με απλά λόγια να εξηγήσει κάποιος την υποχρεωτική αναγκαιότητα για μια τέτοια διαδρομή.

 

[amarelia]

Αυτό πού οδηγεί; Θα ήθελα με απλά λόγια να εξηγήσει κάποιος την υποχρεωτική αναγκαιότητα για μια τέτοια διαδρομή.

Προσπάθησα να σκεφτώ να σου απαντήσω επιστημονικά αλλά συνειδητοποίησα πως δεν εχει στ’αλήθεια κανένα νόημα.
Η μόνη αλήθεια είναι πως ένα μάτσο παιδόφιλοι και ψυχανώμαλοι τρέχουν τον κόσμο και παίρνουν όλες τις αποφάσεις και το τι πιστεύουμε εγώ κι εσύ λίγη σημασία έχει και δεν θα αλλάξει αυτά που θα αποφασίσουν για μας.

 

[nPb]

Θυμάστε έναν Σβάμπ και την ιδέα της μεγάλης επανεκκίνησης; Ενώ το κατηγόρησαν για κάποια θέματα κακοδιαχείρισης μέσα στο Παγκόσμιο Οικονομικό Φόρουμ και νεποτισμό για προώθηση δικών του ανθρώπων σε θέσεις κλειδιά, η υπόθεση έκλεισε. Πρόεδρος αυτού του φόρουμ ήταν/είναι ο CEO της Νεστλέ, φίλος του Σβαμπ. Επίσης το θέμα με την πανδημία ξεχάστηκε απότομα και περάσαμε στην ενότητα ΑΙ, ΜΑΙ, ΑGI, ...κτλ.

Βλέπετε ποιοι κινούν τα νήματα;

 

[chester20080]

2030: Your AI has a performance review for you.

 

[parafernalia]

Με επίσημη ανακοίνωση το Μέρα25 και του αρχηγού της Γιάνη Βαρουφάκη:

Ο αμερικανικός στρατός χρησιμοποίησε το πρόγραμμα Τεχνητής Νοημοσύνης Claude για να σχεδιάσει την επίθεση κατά του Ιράν, λίγες μέρες μετά την κήρυξη του πολέμου κατά της εταιρείας ANTRHOPIC, που το εφηύρε, από το Πεντάγωνο.

Το Ιράν ανταπέδωσε εναντίον του Claude επιτιθέμενο στην υποδομή cloud της Amazon. Δύο κέντρα δεδομένων (datacentres) της Amazon στα Ηνωμένα Αραβικά Εμιράτα και ένα στο Μπαχρέιν έχουν ήδη καταστραφεί από πυραύλους. Το Claude είναι επί του παρόντος εκτός λειτουργίας για τους καταναλωτές, συμπεριλαμβανομένης της EE. Η Amazon ζητά από τους πελάτες της να μην αναμένουν ότι οι υποδομές IT της στη Μέση Ανατολή θα λειτουργούν και να στραφούν σε άλλες περιοχές.

Ρώτησα το Claude χθες αν υπήρξε διακοπή της λειτουργίας του χθες και μου απάντησε καταφατικά, το πρόβλημα λέει έχει αποκατασταθεί.

https://mera25.gr/g-varoufakis-i-technofeoudarchia-pire-to-oplo-tis-enantion-tou-iran-kai-to-iran-antapodidei/

 

[Wonderkid]

Παρατηρώ ότι μετά την εποχή του covid επικρατεί μια τεχνολογική επενδυτική τρέλα με πολλούς ειδικούς που πασχίζουν να μας πείσουν για την αναγκαιότητα πραγμάτων που δεν είναι επιλογή ανάγκης από έναν άνθρωπο. Θεωρώ άκρως φασιστικό στα πλαίσια μιας υπερ-αστυνομοκρατούμενης κοινωνίας, η οποία επιβάλλει πως πρέπει να είναι η κοινωνία ή τι δουλειές θα πρέπει να γίνονται για να κινείται μια οικονομία με 20 τρισεκατομμυριούχους παγκοσμίως. Αυτό πού οδηγεί; Θα ήθελα με απλά λόγια να εξηγήσει κάποιος την υποχρεωτική αναγκαιότητα για μια τέτοια διαδρομή.

Η αλήθεια είναι πως ζούμε έντονα μεταβατική εποχή, αλλά δε βλέπουμε έντονη ριζοσπαστικοποίηση και μεγάλες κοινωνικές αντιδράσεις μετά τον Covid. Η αλήθεια είναι πως πλέον, αποδεχόμαστε άκριτα τα πάντα, γιατί δε μπορείς να κάνεις και αλλιώς. Αν δε προσαρμοστείς στα νέα δεδομένα, ουσιαστικά σήμερα καθίστασαι αυτόματα μη λειτουργικός εντός του υπάρχοντος κοινωνικού/κρατικού/οικονομικού πλαισίου. Δε θυμάμαι πάντως ποτέ στο άμεσο παρελθόν να υπάρχει τέτοιο έλλειμμα ουσιαστικής δημοκρατίας και υγιούς σκεπτικισμού από τα κάτω προς τα πάνω. Το power distance μας, σαν Δυτικοί λαοί, μεγαλώνει επικίνδυνα, στο κατά πόσο μπορούμε να μπλοκάρουμε ή να επηρεάσουμε/επιβάλλουμε πολιτικές εξελίξεις και τεχνολογικές, οικονομικές σήμερα, που φαίνονται ήδη ειλημμένες σε επίπεδο κυβερνήσεων και εταιρειών κολοσσών.