Vram ram ve ssd kıtlığının sebebi ai eğitimleri ve kriptonun geleceği

[mandown]

16Gb bir Vram ile en azla 16 milyar parametreli bir modeli eğitebiliyorsunuz
48Gb Vram ile  32b model eğitiliyor ve böyle katlanarak gidiyor.

Bellek miktarı ne kadar çok artarsa yerelde veya public modellerin eğitim miktarı o oranda büyüyor yani bu ram kıtlığını vram yerine cpu'de eğitecek bir model olmadıkça bu problem bitmeyecek ve katlanarak daha da artacak. Son üç yıldır bu duurmun farkında olan bu konu ile ilgilenenler bu işin ekmeğini sağlam yedi.

Diğer tarafta ise kripto son yıllarda farkettinizmi bilmiyorum ama yapay zeka ile ilgili eğitim vererek drop vermeye sebep olan io gibi projeler genellikle mac istiyor ve yüksek kapasiteli network. Bunun sebebi de tek bir modeli birden fazla dağınık yerdeki macler ortak olarak eğitebiliyor bunu şimdilik win pc tarafı sanırım yapamıyor.

Bugün yarın birçok proje eğitim to drop mantığında ortaya çıkabilir o ara elinizde mac varsa ki en az 16gb o projenin ekmeğini yiyebilirsiniz.


İşin daha da tuaf tarafı ise yerel olarak bir altyapınız varsa istediğiniz modeli istediğiniz gibi eğitip verdiği cevapları sanki o ortamın ürünü gibi gösterebiliyor bu sayedede cevaplar doğal ve o bölüme uygun olduğu için bu ai ama ai olduğunu kanıtlayamıyorsunuz yerel olarak eğitilen modellerdeki verileri ai olup olmadığını sorguladığınız siteler anlamıyor çünkü adamın veri tarabınında yerel modeliniz yok.


İnternette gördüğünüz herşey bedava her konuştuğunuz paylaştığınız veri bedava sadece bir kişinin geçmişinde attığı mesajları veya twit hesaplarındaki textleri kopyalayarak yerel modelinizi eğitrebilir ve siz ölmüş olasnız bile sizin düşünce yapınızla atmaya devam edebilir.

Bakın bu iş çok çılgın noktaya geliyor. Dünyadaki savaşlarda insanların ölmesi önemsiz önemli olan insanların internette paylaştığı veri.

Bitcoin çıktığında neyse yapay zeka şuan o  durumda.


Promt yazmanın eğtiimini dahi almak gerekecek promt yazmayı bilmek gelecek demek promt aslında ona verdiğiniz eğitim öncesi ona belirlediğiniz limitler sayılır şöyle düşünün

10km yola gideceksiniz ya o 10km yol boyunca başınıza gelecek işler kazalar sürüş konuları vs ne yapacağı hakkında ön bilgi gibi düşünün kaza olduğunda ne yapacak hangi yönergeyi izleyecek o yönergede hata olursa ne yapacak gibi gib.

[halcybtc]

vram nedir? ram'in neden gerekli olduğunu anlayamadım? yapay zeka neden vram dediğiniz parçalara ihtiyaç duyuyor? yapay zeka chatcpt'den daha farklı birşey gibi anlıyorum yanlış mı anladım? hala anlayamadığım bir konubu. kripto için ozaman şimdiden vram dediğiniz şeyin bol olduğu bilgisayarları almak gerekli diye düşünüyorum yanlış mı anladım.

[Yabani]

VRAM dediğimiz şey ekran kartının GPU kendi belleğidir Normal Ram varya hani bilgisayarın ana belleği iki çubuk gibi dikey duran VRAM da onun ekran kartındaki versiyonu. Yapay zeka neden buna ihtiyaç duyuyor diye soracak olursanız AI modellerin eğitimi, kullanımı CPU'da değil GPU'da yapıyor. GPU ise paralel işlemde çok daha hızlı, milyonlarca küçük işlemi aynı anda yapabiliyor ama bunun için modelin tamamının GPU'nun kendi belleğine, yani VRAM'e sığması lazım. 16 milyar parametreli bir model diyoruz mesela, o parametrelerin hepsi VRAM'de tutulacak, yoksa hesaplama yapılamıyor. vram ise bilgisayardaki en hızlı parça doğal olarak görevler en hızlı parçada yapılıyor.

[mandown]

vram nedir? ram'in neden gerekli olduğunu anlayamadım? yapay zeka neden vram dediğiniz parçalara ihtiyaç duyuyor? yapay zeka chatcpt'den daha farklı birşey gibi anlıyorum yanlış mı anladım? hala anlayamadığım bir konubu. kripto için ozaman şimdiden vram dediğiniz şeyin bol olduğu bilgisayarları almak gerekli diye düşünüyorum yanlış mı anladım.

ekran kartını başlı başına bir bilgisayar gibi düşünebilirsin kendine ait bir işlemcisi ramleri olan bir veri yolu yani anakart üzerine bağlantısı olan çıkış portları olan bir pc gpu çoklu işlem yapmaya göre tasarlanmış sıralı değil cpu işlemleri sıralı yapar ama gpu o mantıkla değil aynı zaman diliminde birçok işlemi yapmak üzerine tasarlanır doğal olarak bildiğimiz klasik ramlar bu konuda yavaş gelir bu konuda devreye vram dediğimiz kendine özel hızlı ramler devreye girer bunlar çok hızlı olduğu için eğitim hızlı biter sorgular daha hızlı olur vs.

aslında chatcpt vs hepsinin birbirinden farkı farklı şekillerde ve farklı tarihlerde eğitilmiş olmaları teknik ve doğru arşive kim erişip daha önce güçlü donanımlarla eğitiyorsa onun hem doğruluğu daha iyi hemde konuşması daha doğal oluyor mesele doğru veriyle eğitilebilmeleri.

mac pcerin hızlı olmasının sebebi memory mimarisinin tek bir noktadan çalışabiliyor olması ram hem vram hemde ram gibi davranıyor buda pc'nin daha hızlı işlem yapabilmesini sağlıyor.

yüksek vram kapasiteli bir desktop pc ilk kurulum maliyeti deli dehşet yüksek ama hepsinin bir olduğu gömülü sistemlerin mac gibi üretim maliyeti daha ucuz olduğu için mac türevleri ürünler daha ucuz satıldı bu ai eğitim muhabbetinde birlikte çalışabildikleri içinde her geçen gün daha talep artacak.