Майнинг ИИ на ГПУ

[safar1980]

Колян выложил таблицу окупаемости и обещает пояснить за майнинг ии


профессиональные гпу в обычных платах не работают, там нет охлада, у н200 специальный 8-pin EPS разъем, БИОС тоже эту гпу не задетектит.
и железо для нее остальное дорогое
5090 я бы купил с такими сроками окупаемости, если бы знать как запустить.

[mak013]

выглядит как интересный вариант. опять же, можно на балконе пару "ригов" поставить без проблем. но вот 5090... когда решишь продавать, уходить она будет очень долго видимо.
ну посмотрим чо пояснит. может и откроется второе дыхание у балконного маминга.

[safar1980]

на клоре аи снова аренда подорожала, не знаю чего копают.
кстати счас 3090 хорошо продается за вменяемую цену и 5090 будет в тренде на бушном рынке, но за 3 года она окупится с профитом, а там уж пофиг по чем продавать, ниже рынка всегда скупят.

[KTChampions]

А графа доходность откуда высосана? Если это цена аренды, то где цифры (и гарантии) по загруженности? Если ваша карта будет работать 1 час в сутки, то внезапно классический майнинг будет лучше 
Недавно Маск сдал свой ЦОД Колосус в аренду прямому конкуренту (Антропику), т.е. сам загрузить ничем полезным его не смог. На основании чего предполагается что эти сервисы обеспечат хоть какую-то загрузку оборудованию?

[safar1980]

А графа доходность откуда высосана? Если это цена аренды, то где цифры (и гарантии) по загруженности? Если ваша карта будет работать 1 час в сутки, то внезапно классический майнинг будет лучше 
Недавно Маск сдал свой ЦОД Колосус в аренду прямому конкуренту (Антропику), т.е. сам загрузить ничем полезным его не смог. На основании чего предполагается что эти сервисы обеспечат хоть какую-то загрузку оборудованию?

на том же клор аи если аренда закончится, то видюхи снова начнут копать самую профитную монету до нового контракта на аренду.
так то это был анонс от Коляна, но он обещал видос вот вот выложить.
по новым монетам ничего не слышно, в моих группах никто ничего не знает, походу под ии арендуют.

[FP91G]

Новая монета
Pearl PRL Майнинг на Видеокартах RTX 5090 RTX 4090 Ubuntu и HiveOS
https://www.youtube.com/watch?v=c__pdMCF_KE

[safar1980]

Новая монета
Pearl PRL Майнинг на Видеокартах RTX 5090 RTX 4090 Ubuntu и HiveOS
https://www.youtube.com/watch?v=c__pdMCF_KE

если монету уже спалили, то в понедельник там профита не будет. может че майнинг спасет то, что копать на старье не получится и профит начинается с 3090, а все че меньше не потянет. тема сисек ии пока не раскрыта, так что ждем, перл случайно в тему майнинга попал.
ради такого 4090 и 5090 покупать не побегут.

[mak013]

на клоре аи снова аренда подорожала, не знаю чего копают.
кстати счас 3090 хорошо продается за вменяемую цену и 5090 будет в тренде на бушном рынке, но за 3 года она окупится с профитом, а там уж пофиг по чем продавать, ниже рынка всегда скупят.

30 серия была оправдана. 3080-3090 - это вменяемые карты. топ карты 40, 50 серий - это заход на ии для бедных. ну или кто майнит на них в новых форматах. ну где одна-две карты, топ железо, вот это вот всё.
геймерам они нафик не нужны. стримеры-блогеры разве что. но там обычно берут новые карты вроде.

[safar1980]

на клоре аи снова аренда подорожала, не знаю чего копают.
кстати счас 3090 хорошо продается за вменяемую цену и 5090 будет в тренде на бушном рынке, но за 3 года она окупится с профитом, а там уж пофиг по чем продавать, ниже рынка всегда скупят.

30 серия была оправдана. 3080-3090 - это вменяемые карты. топ карты 40, 50 серий - это заход на ии для бедных. ну или кто майнит на них в новых форматах. ну где одна-две карты, топ железо, вот это вот всё.
геймерам они нафик не нужны. стримеры-блогеры разве что. но там обычно берут новые карты вроде.

так вся 30 серия на майнинг попала и была оправдана, а 40 и 50 уже редко в майнинг заходили. бедные запускают легкие модели ии даже на старье, но вот если большие данные в ии не пихать, то счас полно сервисов за 25 долларов в месяц со всеми открытыми ии моделями без регистрации. можно даже бесплатно работать до 10 запросов в день.

[mak013]

30 серия была оправдана. 3080-3090 - это вменяемые карты. топ карты 40, 50 серий - это заход на ии для бедных. ну или кто майнит на них в новых форматах. ну где одна-две карты, топ железо, вот это вот всё.
геймерам они нафик не нужны. стримеры-блогеры разве что. но там обычно берут новые карты вроде.

так вся 30 серия на майнинг попала и была оправдана, а 40 и 50 уже редко в майнинг заходили. бедные запускают легкие модели ии даже на старье, но вот если большие данные в ии не пихать, то счас полно сервисов за 25 долларов в месяц со всеми открытыми ии моделями без регистрации. можно даже бесплатно работать до 10 запросов в день.

я всё-таки про геймеров. с майнерами и так понятно.
@KTChampions рассказывал же, что многим важно, чтобы это был не чей-то сервис, а у себя на компе запустить. вот и получается ии для бедных. проф карта уже неподъемна, а такие топчики - еще куда ни шло.

[safar1980]

30 серия была оправдана. 3080-3090 - это вменяемые карты. топ карты 40, 50 серий - это заход на ии для бедных. ну или кто майнит на них в новых форматах. ну где одна-две карты, топ железо, вот это вот всё.
геймерам они нафик не нужны. стримеры-блогеры разве что. но там обычно берут новые карты вроде.

так вся 30 серия на майнинг попала и была оправдана, а 40 и 50 уже редко в майнинг заходили. бедные запускают легкие модели ии даже на старье, но вот если большие данные в ии не пихать, то счас полно сервисов за 25 долларов в месяц со всеми открытыми ии моделями без регистрации. можно даже бесплатно работать до 10 запросов в день.

я всё-таки про геймеров. с майнерами и так понятно.
@KTChampions рассказывал же, что многим важно, чтобы это был не чей-то сервис, а у себя на компе запустить. вот и получается ии для бедных. проф карта уже неподъемна, а такие топчики - еще куда ни шло.

так сервисов с разлоченными моделями много появилось, на форуме рекомендовали https://godmod3.ai/
проще этот юзать через разные анонимайзеры, чем закупаться железом и накатывать туда модели, у которых запросы растут

чтобы чет серьезное локально запустить с триллионами параметров, требуются дорогая серверная архитектура на миллионы долларов, а не домашняя дешман сборка
https://www.reddit.com/r/LocalLLM/comments/1sfy9ii/what_kind_of_hardware_would_be_required_to_run_a/