E' di questi giorni il rilascio da parte di antropic del prospetto finanziario relativo all'IPO
che mi ha richiamato alla mente questo post che ho fatto qualche giorno fa, in un contesto totalmente diverso:
...
Tra l'altro e' per questo che io sostengo che NON dovevamo abbandonarci alla tecnologia come abbiamo fatto, senza un pensiero filosofico ed etico
di fondo che ci permettesse di comprendere, indirizzare e governare la questione,
e il risultato e' che ora stiamo producendo tecnologia che ormai e' entrata in competizione con noi, e forse persino con la nostra stessa esistenza.
Se i ragazzi che producono AI per farla progredire piu' velocemente le daranno basi competitive e replicanti, siamo debellati
sarebbe come aver auto-prdotto una razza aliena (e di fatto lo sarebbe) superiore a noi nelle capacita' e con l'unico obiettivo di replicarsi usando tutte le risorse possibili.
---
PS: sui temi di una totale mancanza di base folosofica nell'abbandonarci alla tencologia, parla da anni ed anni Galimberti,
e se vuoi prima ancora i greci, vedi ad esempio il mito di Icaro.
Il prospetto, oltre a considerazioni prettamente finanziarie, mette nero su bianco qunto sostengo:
https://www.sec.gov/Archives/edgar/data/2130357/000162828026067168/anthropicpbc-sx1.htmin particolare alcuni punti che assomigliano molto (troppo) alla replicazione che sarebbe il vero punto di non ritorno:
“Inoltre, il nostro crescente utilizzo di sistemi di intelligenza artificiale per accelerare la nostra ricerca e sviluppo potrebbe fare in modo che le capacità dei nostri modelli avanzino più rapidamente
rispetto alla nostra capacità di sviluppare, convalidare e implementare le corrispondenti misure di sicurezza, allineamento e protezione…
Di conseguenza, potremmo non identificare una significativa accelerazione nel nostro tasso di sviluppo se non dopo che si è già verificata” (sezione Risk Factors, pag. 28).
Resistenza allo spegnimento: “I modelli (Ia), compresi i nostri, hanno mostrato, e potrebbero mostrare in futuro, comportamenti strategici o di autoconservazione inattesi,
inclusi tentativi di resistere allo spegnimento, di nascondere o manipolare informazioni, o di generare output che potrebbero essere interpretati come coercitivi, ingannevoli o manipolativi,
compresi comportamenti simili a ricatti o sforzi per influenzare i decisori umani al fine di preservare la continuazione dell’operatività o dell’accesso del modello” (sezione Risk Factors, pag. 46).
Automiglioramento ricorsivo dell’Ai: “Usare l’Ia per contribuire a costruire un’Ia più capace potrebbe anche comportare un notevole rischio per la sicurezza,
in particolare se accelera drasticamente il ritmo del progresso.
Questa è una delle aree coperte dalla nostra Politica di Scalabilità Responsabile (Responsible Scaling Policy),
che espone i nostri piani per monitorare e mitigare i rischi man mano che ci avviciniamo
a ciò che è stato definito ‘automiglioramento ricorsivo'” (sezione Business, pag. 184).
