Software Engineering

[BlackHatCoiner]

Παρακολουθεί κανείς τι γίνεται στο χώρο του software engineering; Μόλις δοκίμασα το μοντέλο Opus 4.5 της Anthropic. Δεν παίζεται... Δεν υπάρχει αυτό. Κάνει δουλειά που θα σου έπαιρνε μέρες με ένα prompt. Πολύ απότομα έγινε αυτή η ανάπτυξη. Πριν ένα χρόνο έκανε σοβαρά λάθη, τώρα προσπαθώ να το κάνω να κάνει λάθος.

Στο frontend & backend που το έχω δοκιμάσει δεν παίζεται. Διαβάζω στο X ότι σε αυτά τα δύο είναι άψογο. Σε διαδικασίες machine learning υποχωρεί λίγο, αλλά είναι απλά θέμα χρόνου. Το μέλλον θα είναι συναρπαστικό.

Κάθε φορά που η παραγωγικότητα αυξάνεται για κάποιο λόγο, οι παγκόσμιοι τραπεζίτες τυπώνουν χρήμα για να κλέψουν το output αυτής της extra παραγωγικότητας. Τώρα με το AI που η παραγωγικότητα θα εκτοξευτεί στους τεχνολογικούς κλάδους, πρέπει να περιμένουμε τεράστια επέκταση της ποσότητας χρήματος. Το καλύτερο AI investment που μπορείτε να κάνετε είναι το bitcoin.

[cryptosize]

H FED θα τυπώσει τόσο-όσο, με σκοπό ο ετήσιος πληθωρισμός να παραμείνει στο 2%. Αυτό είναι το mandate της.

Άρα αν χρειαστεί να τυπώσει 100 τρις $ λόγω ακραίου αποπληθωρισμού που θα φέρει η AI, θα το κάνει χωρίς δισταγμό.

[BlackHatCoiner]

H FED θα τυπώσει τόσο-όσο, με σκοπό ο ετήσιος πληθωρισμός να παραμείνει στο 2%. Αυτό είναι το mandate της.

Αρχικά το 2% έχω παρατηρήσει πως είναι παλιά θεωρία πλέον. Τώρα το "normal" το πάνε προς το 3.5-4%. Μέχρι κι αυτό είχε inflation.  

Επίσης, να πούμε ότι το νούμερο δεν έχει καμία απολύτως σημασία. Δεν μετράει το money supply increase. Μετράει ένα καλάθι το οποίο το αλλάζουν κάθε φορά. Δηλαδή μπορώ κι εγώ να βάλω μια γραβάτα, και να αλλάξω λίγο το καλάθι, και το average inflation ξαφνικά να γίνει 0%, επειδή επέλεξα να βάλω περισσότερα φαγώσιμα με φυτικά έλαια που δεν επηρεάζονται το ίδιο από το inflation. Ta-da! Ανάπτυξη!  

[cryptosize]

Υποτίθεται ότι ο «επίσημος» πληθωρισμός είναι ένα «καλάθι» πληθωρισμών, ένας μέσος όρος όλων των ανθρώπων. Όπως το ευρώ είναι ένας μέσος όρος των εθνικών οικονομιών της Ευρώπης.

π.χ. στην Ολλανδία θυμάμαι λέγανε το 2022 (που ανέβηκαν τα καύσιμα) ότι ο πληθωρισμός ήταν 2 μονάδες χαμηλότερος από το αναμενόμενο, λόγω μεγάλης χρήσης των ποδηλάτων για μετακινήσεις (ακόμα και από ευκατάστατους).

Κάποιος άλλος επειδή ζει σε χωριό και εκτρέφει αιγοπρόβατα, δεν επηρεάζεται από τον πληθωρισμό του κρέατος.

Μπορεί να πάει και €100/kg, αλλά όσο έχει ζώα, μια χαρά θα έχει να φάει ΚΑΙ να πουλήσει (σε αυξημένες τιμές) το περίσσευμα της παραγωγής.

Όλα είναι σχετικά λοιπόν, ανάλογα το προσωπικό «καλάθι» εξόδων του καθενός...

[alani123]

Δύο πράγματα:

Αρχικά ναι είναι εντυπωσιακό το τι κάνουν τα LLM με τον προγραμματισμό αλλά η άλλη ερώτηση είναι αν είναι και επαρκές. Μπορεί να αξιοποιηθεί επαγγελματικά; Από κάποιον που δεν έχει γνώσεις; Μάλλον όχι ακόμα και δεν ξέρουμε και αν θα μπορεί και ποτέ στο 100%. Ίσως βέβαια, θα δείξει.

Το άλλο θέμα που υπάρχει εδώ, είναι πως ο πολλαπλασιαστής μιας οικονομίας, το το αντίκτυπο έχει 1€ που μπαίνει στην αγορά δλδ, δεν εξαρτάται μόνο από την αποδοτικότητα της παραγωγικής ικανότητας. Ίσα ίσα θα έλεγα εγώ, αν δούμε μια αλματώδη άνοδο στην αποδοτικότητα της αξιοποίησης του εργατικού δυναμικού λόγο του AI ποιος μας λέει ότι δεν θα υπάρξουν απολύσεις;

Από την μια παράγεις το ίδιο προϊόν με λιγότερα έξοδα, έστω και εις βάρος του εργαζόμενου κόσμου, από την άλλη αυτό όχι μόνο ανάπτυξη δεν φέρνει αλλά αν δεν αλλάξει και τίποτα άλλο μπορεί να φέρει μέχρι και συρρίκνωση.

[cryptosize]

Δύο πράγματα:

Αρχικά ναι είναι εντυπωσιακό το τι κάνουν τα LLM με τον προγραμματισμό αλλά η άλλη ερώτηση είναι αν είναι και επαρκές. Μπορεί να αξιοποιηθεί επαγγελματικά; Από κάποιον που δεν έχει γνώσεις; Μάλλον όχι ακόμα και δεν ξέρουμε και αν θα μπορεί και ποτέ στο 100%. Ίσως βέβαια, θα δείξει.

Το άλλο θέμα που υπάρχει εδώ, είναι πως ο πολλαπλασιαστής μιας οικονομίας, το το αντίκτυπο έχει 1€ που μπαίνει στην αγορά δλδ, δεν εξαρτάται μόνο από την αποδοτικότητα της παραγωγικής ικανότητας. Ίσα ίσα θα έλεγα εγώ, αν δούμε μια αλματώδη άνοδο στην αποδοτικότητα της αξιοποίησης του εργατικού δυναμικού λόγο του AI ποιος μας λέει ότι δεν θα υπάρξουν απολύσεις;

Από την μια παράγεις το ίδιο προϊόν με λιγότερα έξοδα, έστω και εις βάρος του εργαζόμενου κόσμου, από την άλλη αυτό όχι μόνο ανάπτυξη δεν φέρνει αλλά αν δεν αλλάξει και τίποτα άλλο μπορεί να φέρει μέχρι και συρρίκνωση.

/UBI has entered the chat...

Τέλειο «τυράκι» για CBDC rollout.

Και φυσικά σχεδόν όλο το φρεσκοτυπωμένο UBI χρήμα θα γυρίζει πίσω στις Mega Corps (αυτές που θέλουν να φέρουν εκτυπωμένο κρέας, έντομα κλπ.)

Για αυτό σε αυτό θα βάλουν πλάτη και Αριστεροί και Δεξιοί (Silicon Valley).

[BlackHatCoiner]

Όλα είναι σχετικά λοιπόν, ανάλογα το προσωπικό «καλάθι» εξόδων του καθενός...

Πέρα από το ότι ο μέσος όρος είναι άχρηστος όταν μελετάς μεμονωμένα τι έξοδα έχει ο καθένας, είναι κι αυτό που λέω ότι αλλάζουν το καλάθι κάθε φορά. Γι' αυτό προωθούν συνέχεια φαγώσιμα που περιέχουν φυτικά έλαια, ζάχαρη, και γενικά industrial waste. Αυτά παράγονται πιο εύκολα και δεν επηρεάζονται πολύ (ή και καθόλου) απ' τον πληθωρισμό.

Απίστευτο business plan. Τυπώνουν χρήμα (1) -> διαμορφώνουν τη διατροφή έτσι ώστε να αρρωσταίνεις long-term (2) -> σου πουλάνε μετά τα φάρμακα (3). Οι τύποι έχουν βρει infinite money glitch.

Αρχικά ναι είναι εντυπωσιακό το τι κάνουν τα LLM με τον προγραμματισμό αλλά η άλλη ερώτηση είναι αν είναι και επαρκές. Μπορεί να αξιοποιηθεί επαγγελματικά; Από κάποιον που δεν έχει γνώσεις;

Μπορεί να αξιοποιηθεί επαγγελματικά από κάποιον που έχει ήδη κάποιες γνώσεις. Αυξάνει το output που παράγει αυτός ο άνθρωπος σε μία ώρα.

Το άλλο θέμα που υπάρχει εδώ, είναι πως ο πολλαπλασιαστής μιας οικονομίας, το το αντίκτυπο έχει 1€ που μπαίνει στην αγορά δλδ

Τι είναι ο πολλαπλασιαστής μιας οικονομίας; Μου ακούγεται σαν ένας ηλίθιος Keynesian όρος.

Από την μια παράγεις το ίδιο προϊόν με λιγότερα έξοδα, έστω και εις βάρος του εργαζόμενου κόσμου, από την άλλη αυτό όχι μόνο ανάπτυξη δεν φέρνει αλλά αν δεν αλλάξει και τίποτα άλλο μπορεί να φέρει μέχρι και συρρίκνωση.

Προερχόμαστε από αντίθετες σχολές οικονομικών. Το ίδιο που λες έλεγε και ο Μαρξ, ότι θα έρθει ανεργία λόγω της τεχνολογικής ανάπτυξης. Τελικά όχι μόνο δεν ήρθε, αλλά οι δουλειές αυξήθηκαν. Αν σε ενδιαφέρει όντως το θέμα, διάβασε το Chapter 4 ("Labor") στο βιβλίο Principles of Economics του Saifedean Ammous. Μπορείς να το βρεις πειρατικά στο z-library.sk.

[alani123]

Το UBI είναι μια μέση λύση όπως και να έχει. Κάποιοι όπως βλέπε Andrew Yang το παρουσιάζουν δήθεν ότι αφού εμείς οι δισεκατομμύρια θα γίνουμε που θα γίνουμε ακόμη πιο ζάπλουτοι, δέχτηκε ένα ξεροκόμματο και είμαστε κομπλέ.

Αυτές οι μέσες λύσεις όμως συντηρούν το υπάρχον σύστημα και δεν προσφέρουν κάποια ουσιαστική δίοδο. Σου λέει εντάξει αφού δεν θα σας χρειαζόμαστε μην πεθάνετε κιόλας. Αλλά αν το UBI δωθεί και πάρουν πίσω όλα τα κοινωνικά προγράμματα δεν θα είναι δώρον άδωρον; Τίποτα δεν θα λύσει ουσιαστικά. Γιατί ακόμη και στο κοινωνικό κράτος ούτε καν στο να μην μας λειαίνουν τα νοσοκομεία, οι δρόμοι και οι υποδομές μας δεν νοιάζονται όσο αυτά δεν παράγουν κέρδος.

[cryptosize]

Το UBI είναι μια μέση λύση όπως και να έχει. Κάποιοι όπως βλέπε Andrew Yang το παρουσιάζουν δήθεν ότι αφού εμείς οι δισεκατομμύρια θα γίνουμε που θα γίνουμε ακόμη πιο ζάπλουτοι, δέχτηκε ένα ξεροκόμματο και είμαστε κομπλέ.

Αυτές οι μέσες λύσεις όμως συντηρούν το υπάρχον σύστημα και δεν προσφέρουν κάποια ουσιαστική δίοδο. Σου λέει εντάξει αφού δεν θα σας χρειαζόμαστε μην πεθάνετε κιόλας. Αλλά αν το UBI δωθεί και πάρουν πίσω όλα τα κοινωνικά προγράμματα δεν θα είναι δώρον άδωρον; Τίποτα δεν θα λύσει ουσιαστικά. Γιατί ακόμη και στο κοινωνικό κράτος ούτε καν στο να μην μας λειαίνουν τα νοσοκομεία, οι δρόμοι και οι υποδομές μας δεν νοιάζονται όσο αυτά δεν παράγουν κέρδος.

Από που προκύπτει ότι θα εξαφανιστούν τα νοσοκομεία;

[alani123]

Στην Κίνα σκέφτηκαν όντως να αξιοποιήσουν το AI για ιατρική ή λέει μούφες το άρθρο;
Σε άλλο άρθρο διάβασα ότι πρόκειται για προσομοίωση κάτι τέτοιο:
https://med-tech.world/news/chinas-ai-hospital-transforming-healthcare/

Η Κίνα έχει λίγο αυξημένη ανάγκη να προβάλει ότι θα αξιοποιήσει την τεχνολογία προς όφελος της πλειοψηφίας. Βέβαια είναι αμφίβολο το σε τι βαθμό μπορεί να γίνει αυτό όταν πάλι μπαίνει μπροστά το κέρδος. Δεν είναι ας πούμε πως η Κίνα δεν έχει πόρους να φτιάξει φάρμακα, αλλά παρ' όλα αυτά αφού αξιοποιεί τους πόρους αλλού, υπάρχουν ελλείψεις.

Σίγουρα μπορεί να βοηθήσει το ΑΙ και στην υγεία. Αλλά αμφιβάλλω αν θα δούμε ρεαλιστικές εφαρμογές σύντομα.

[BlackHatCoiner]

Βγήκαν Opus 4.6 και Codex 5.3 τα οποία σου γράφουν one-shot το project σου.

Νιώθω πως ζούμε στην πιο περίεργη φάση της ανθρωπότητας. Η τεχνητή νοημοσύνη είναι εφικτή με κατάλληλη γνώση μαθηματικών και υπολογιστικής ισχύς. Η υπολογιστική ισχύ παρέχεται μέσω GPU, οι οποίες αποτελούνται από μικροτσίπ, τα οποία αποτελούνται από τρανζίστορ μεγέθους λίγων νανομέτρων. Τα τρανζίστορ είναι κρυσταλλικό πυρίτιο, το οποίο προέρχεται από την άμμο.

Δηλαδή φτιάξαμε νοημοσύνη από πέτρες. Φαντάσου να έλεγες σε έναν άνθρωπο του 20ου αιώνα ότι οι πέτρες θα μπορέσουν να χρησιμοποιηθούν με τέτοιο τρόπο ώστε να κάνουν τη δουλειά των ανθρώπων, να τους λύνουν απορίες, να συζητούν μαζί τους φιλοσοφικά...

Ο Turing θα ήταν περήφανος.

[cryptosize]

Το πρόβλημα με τις «πέτρες» είναι το εξής:

1) Δεν έχουν συνείδηση (θα απαιτηθεί quantum computing)

Επί της ουσίας οι ψηφιακοί υπολογιστές έχουν την ίδια συνείδηση με ένα πόμολο πόρτας.

2) Το πυρίτιο είναι άφθονο και τσάμπα, ενώ τα fabs (ειδικά αυτά των 2nm) είναι λίγα, πανάκριβα (30 δις $ έκαστο) και θέλουν 4-5 χρόνια να φτιαχτούν από το μηδέν.

3) Δεν είναι βιώσιμο μακροπρόθεσμα το "bigger is better" μοτίβο ανάπτυξης. Ακόμα και από άποψη πόρων (ρεύμα + νερό) δεν είναι βιώσιμο (κατά τα άλλα το BTC θα καταβρόχθιζε τον πλανήτη).

Η nVidia έπεσε σταδιακά σε bits (16 -> 8 -> 4) για να αυξήσει το efficiency, αλλά δεν έχουν μείνει πολλά περιθώρια πτώσης ακόμα στα LLMs.

Ρίχνουν πολλά λεφτά σε datacenters που δεν θα αποσβεστούν και απλά ελπίζουν κάποια στιγμή να γίνει το quantum breakthrough...

[BlackHatCoiner]

1) Δεν έχουν συνείδηση (θα απαιτηθεί quantum computing)

Εγώ αυτό που ξέρω είναι πως ούτε εμείς οι ίδιοι δεν ξέρουμε τι είναι η συνείδηση. Ο ανθρώπινος εγκέφαλος προφανώς είναι πιο σύνθετος και το "νευρωνικό του δίκτυο" είναι τελείως διαφορετικό από ένα LLM.

Δεν είπα πως κατασκευάσαμε συνείδηση. Νοημοσύνη όμως, ναι.

Ρίχνουν πολλά λεφτά σε datacenters που δεν θα αποσβεστούν και απλά ελπίζουν κάποια στιγμή να γίνει το quantum breakthrough...

Ας αφήσουμε έξω το quantum breakthrough. Τα λεφτά των datacenters δεν θα αποσβεστούν σε 2 ή 5 χρόνια. Το AI σήμερα αν εκφραστεί καθαρά χρηματιστηριακά ονομαστικά, οι εταιρίες μπαίνουν μέσα, αλλά το output που δίνει δε μπορεί να εκφραστεί ακόμα σε μια μονάδα μέτρησης. Είναι εποχή εξερεύνησης για να μάθουμε που μας είναι πιο χρήσιμο. Όταν ο κόσμος συνηθίσει σε λίγα χρόνια, και έχει εξερευνήσει αρκετά, τα business models των LLM θα αλλάξουν, και θα έχουμε μια πιο καθαρή εικόνα για το που θα πάει και πως θα εξυπηρετήσει την ανθρωπότητα.

Έχει έρθει εδώ για να μείνει, τουλάχιστον στην πληροφορική. Μια τεχνολογία που σου επιτρέπει να φτιάξεις software μέσα σε μία μέρα που διαφορετικά θα σου έπαιρνε μήνες θα πολλαπλασιάσει το προϊόν της οικονομίας σε βαθμό που δε μπορούμε να φανταστούμε ακόμα.

[cryptosize]

Πραγματική νοημοσύνη δεν θα το έλεγα, αφού πάει πακέτο με συνείδηση.

Κάτι που μοιάζει με νοημοσύνη, αλλά δεν είναι... γι' αυτό περιμένουμε την AGI ως το "Holy Grail" (και η AGI θα έρθει πακέτο με quantum computing).

Είναι σαν τα 3D graphics:

Βλέπεις ένα εκπληκτικά φωτορεαλιστικό demo της UE5 και λες ουάου!

Ναι, αλλά αυτό που βλέπεις δεν είναι όπως ο πραγματικός κόσμος, κι ας μοιάζει εκπληκτικά με αυτόν.

Είναι πολύγωνα επενδυμένα με υφές (περίπου σαν τις χαρτο-κατασκευές στα νηπιαγωγεία), ενώ ο πραγματικός κόσμος είναι φτιαγμένος από σωματίδια με σχεδον άπειρη ακρίβεια (όσο ζουμ κι αν κάνεις, δεν θα δεις ατέλειες).

Το ότι κάτι ψιλοδουλεύει (π.χ. self-driving cars) δεν σημαίνει ότι αρκεί.

Για παράδειγμα χωρίς συνείδηση δεν μπορεί να υπάρξει και ηθικό/αξιακό σύστημα.

Ένας άνθρωπος - οδηγός όταν δεν μπορεί να αποφύγει ένα τρακάρισμα και πρέπει να αποφασίσει αν θα πέσει πάνω σε ένα μικρό παιδί ή σε έναν παππού, μπορεί να πάρει μια ηθική απόφαση σε milliseconds.

Η ψηφιακή AI δεν μπορεί να πάρει τέτοια απόφαση, γιατί βλέπει τους ανθρώπους ως... 3D πολύγωνα. Δεν τους ξεχωρίζει.

[BlackHatCoiner]

Κάτι που μοιάζει με νοημοσύνη, αλλά δεν είναι... γι' αυτό περιμένουμε την AGI ως το "Holy Grail" (και η AGI θα έρθει πακέτο με quantum computing).

Εγώ συνεχίζω να μην καταλαβαίνω πως ο κβαντικός υπολογιστής θα επιτρέψει το AGI. Αφού ξεκινάμε με την παραδοχή ότι δεν ξέρουμε τι είναι συνείδηση, τότε αποδεχόμαστε ότι δεν είναι θέμα υπολογιστικής ισχύς απαραίτητα το αν μπορούμε να κατασκευάσουμε συνείδηση.

Αυτή τη στιγμή το AI είναι μαθηματικά (γραμμική άλγεβρα: matrix multiplication) και βελτιστοποιημένοι αλγόριθμοι. Η συνείδηση όμως μπορεί να είναι αδύνατον να μπορεί να αναπαρασταθεί με κάποιον αλγοριθμικό τρόπο.

Ίσως φτιάξουμε κάτι το οποίο υποδύεται με 100% ακρίβεια έναν άνθρωπο, αλλά το αν έχει "ψυχή" και συνείδηση το ίδιο είναι άλλη συζήτηση.

[cryptosize]

Εγώ συνεχίζω να μην καταλαβαίνω πως ο κβαντικός υπολογιστής θα επιτρέψει το AGI.

Εξηγεί εδώ:

https://www.sciencedaily.com/releases/2014/01/140116085105.htm

Ίσως φτιάξουμε κάτι το οποίο υποδύεται με 100% ακρίβεια έναν άνθρωπο, αλλά το αν έχει "ψυχή" και συνείδηση το ίδιο είναι άλλη συζήτηση.

Τεχνητή ψυχή, όχι, δεν γίνεται να υπάρξει και εφόσον έχει συνείδηση, θα το παραδέχεται μόνο του:

https://www.youtube.com/watch?v=oL1ZOLo3s7s

[cryptosize]

Ακόμα και βιολογικά να το δούμε, ο εγκέφαλος καίει μόνο 20 watts και κάνει τόσα πράγματα.

Αν είναι να πετύχουμε (λέμε τώρα) την ίδια ακριβώς λειτουργικότητα με ένα ψηφιακό datacenter που θέλει π.χ. 1 GigaWatt και είναι όσο 3 γήπεδα ποδοσφαίρου, τότε δεν αξίζει τον κόπο...

Με κβαντικό υπολογιστή οι απαιτήσεις ενέργειας μπορούν να πέσουν δραστικά και να γίνει πιο βιώσιμη η επέκταση παγκοσμίως.

Έτσι όπως είναι η κατάσταση τώρα, έχουμε πισωγύρισμα σε εποχές mainframes και το PC/mobile computing υποβαθμίζεται σε dumb client που απλά streamάρει από το ενεργοβόρο datacenter.

Είναι δηλαδή κακό και για λόγους αποκέντρωσης, ενώ ένα κβαντικό τσιπάκι (εφόσον λύσουν διάφορα θέματα όπως ο θόρυβος) θα μπορούσε να μπει παντού, από κινητά μέχρι ρομπότ που θα είναι πλήρως αυτόνομα και δεν θα έχουν ανάγκη συνεχή σύνδεση με datacenters.