Майнинг здох?

[safar1980]

дорого. на ИИ ощутимо легче балконных майнеров отрезать. мне серьезно заходить не по карману, а по мелочи сдается мне смысла нет. так и останется ИИ уделом корпораций и крупного бизнеса.
я пока ушел в пару проектов не связанных с криптой поэтому почитываю чатики в телегах и форумы по диагонали. пока интереса включаться даже на блатной розетке нет.

Голоса зовут  ..
https://www.youtube.com/watch?v=n5CPDVLqKl0
Что из ГПУ осталось?

[1713895629]

1713895629

[1713895629]

1713895629

[1713895629]

1713895629

[1713895629]

1713895629

[mak013]

дорого. на ИИ ощутимо легче балконных майнеров отрезать. мне серьезно заходить не по карману, а по мелочи сдается мне смысла нет. так и останется ИИ уделом корпораций и крупного бизнеса.
я пока ушел в пару проектов не связанных с криптой поэтому почитываю чатики в телегах и форумы по диагонали. пока интереса включаться даже на блатной розетке нет.

Голоса зовут  ..
https://www.youtube.com/watch?v=n5CPDVLqKl0
Что из ГПУ осталось?

5500, 5600. чутка 10й серии - 1070, 1080 под управлением. 1660 пара. вроде всё. под управлением условно. тоже лежат отключенные сейчас, но если станет интересно - готовы на старт. каспа вон опять оживилась, но всё равно не интересно. меньше бакса с рига в день того не стоит. даже на блатной розетке 50 баксов в месяц с 6*5600 прям вот не заводит.

[KTChampions]

3090е говорят тоже хорошо делают вычисления для проектов ИИ. 30К существенная цена для многих компаний. Продвинутые майнеры уже закупились необходимыми материнками с быстрыми портами 16х и мощными процессорами.

И куда эти продвинутые майнеры подались, что майнят вы не знаете?

30к это неподъемная цена для всех компаний для которых ИИ это не профильноя деятельность а утилити использование - по сути им иногда (возможно достаточно редко) нужны мощности чтобы обучить/перееобучить свою нейросетку, а дальше просто работа до следующего апдейта и значит железо будет лежать мертвым грузом. Тут аренда всегда с запасом побьет покупку.

дорого. на ИИ ощутимо легче балконных майнеров отрезать. мне серьезно заходить не по карману, а по мелочи сдается мне смысла нет. так и останется ИИ уделом корпораций и крупного бизнеса.
~

Согласен, тут чтобы от пирога что-то отщипнуть надо пилить именно готовые проекты-стартапы, от пирога где корпорации используют десятки тысяч H100 даже мелкие компашки вряд ли что-то откусят. Хотя в теории х8 H100 при цене 37к в месяц выглядит как окупаемость за меньше чем год (возьмем  с запасом), но думаю там есть еще нюансики.

[mak013]

3090е говорят тоже хорошо делают вычисления для проектов ИИ. 30К существенная цена для многих компаний. Продвинутые майнеры уже закупились необходимыми материнками с быстрыми портами 16х и мощными процессорами.

И куда эти продвинутые майнеры подались, что майнят вы не знаете?

30к это неподъемная цена для всех компаний для которых ИИ это не профильноя деятельность а утилити использование - по сути им иногда (возможно достаточно редко) нужны мощности чтобы обучить/перееобучить свою нейросетку, а дальше просто работа до следующего апдейта и значит железо будет лежать мертвым грузом. Тут аренда всегда с запасом побьет покупку.

дорого. на ИИ ощутимо легче балконных майнеров отрезать. мне серьезно заходить не по карману, а по мелочи сдается мне смысла нет. так и останется ИИ уделом корпораций и крупного бизнеса.
~

Согласен, тут чтобы от пирога что-то отщипнуть надо пилить именно готовые проекты-стартапы, от пирога где корпорации используют десятки тысяч H100 даже мелкие компашки вряд ли что-то откусят. Хотя в теории х8 H100 при цене 37к в месяц выглядит как окупаемость за меньше чем год (возьмем  с запасом), но думаю там есть еще нюансики.

здесь даже не про размер, а про корпорации. когда заходят микрософт, оракл и амазон - они будут работать на реальный результат, а не на "перспективные стартапы" и "новые стандарты блокчейна". т.е. тут мелочь просто не пустят. им просто не будет задач.

[safar1980]

3090е говорят тоже хорошо делают вычисления для проектов ИИ. 30К существенная цена для многих компаний. Продвинутые майнеры уже закупились необходимыми материнками с быстрыми портами 16х и мощными процессорами.

И куда эти продвинутые майнеры подались, что майнят вы не знаете?

30к это неподъемная цена для всех компаний для которых ИИ это не профильноя деятельность а утилити использование - по сути им иногда (возможно достаточно редко) нужны мощности чтобы обучить/перееобучить свою нейросетку, а дальше просто работа до следующего апдейта и значит железо будет лежать мертвым грузом. Тут аренда всегда с запасом побьет покупку.

Видел проекты, которые берут в аренду ТОП 3090 и 4090, по профиту выше майнинга, но я не хочу в это вкладывать. У них контакты горят, провода плавятся, даунвольт не подойдет, потому что ядро гоняют на максималках. Дежурить 24 часа с фермами нет возможности, и такое оборудование кому попало не доверишь. И 100500 гарантий аренды тоже нет.

5500, 5600. чутка 10й серии - 1070, 1080 под управлением. 1660 пара. вроде всё. под управлением условно. тоже лежат отключенные сейчас, но если станет интересно - готовы на старт. каспа вон опять оживилась, но всё равно не интересно. меньше бакса с рига в день того не стоит. даже на блатной розетке 50 баксов в месяц с 6*5600 прям вот не заводит.

1070, 1080 распродал, 5 лет уже. Ждешь профита на них? 1660 и 5500 такое себе по производительности. Сам все знаешь, они дешевеют и продать их сложнее с каждым днем.

[viljy]

Давно ничего не писал на форуме. А вот этой темой тоже интересовался: куда теперь все это оборудование от майнинга. Видел в телеграмм, например, такой "бизнес" - делают бота к чатГПТ через свой API, и канал (пофиг чем заполнен, ну, допустим, околотехнические новости или что-то другое), а доступ к боту дается подписчикам, пока есть подписка на канал. Кол-во подписчиков чем больше, тем выгодней продают рекламу.

Однако тут есть такие подводные камни - это скорей всего нарушает лицензию против коммерческого использования сетки, а стало быть может быть легко и просто все хозяйство снесено телеграмом по обращению из органов западных или российских смотря чтоза лицензия. Чему примеры уже были. Кто-то сам запускает сетку на своем оборудовании, ну это другое, хотя там тоже в основном лицензии запрещают коммерческое использование, а значит не только телега, но и любая другая платформа, на которой будет предоставляться услуга может дело зарубить.

С другой стороны можно сделать свою гибридную сеть или даже самому обучить, если только лицензия основы не наследуется "форками" - этот вопрос не знаю. А можно и хрен положить на лицензии (наверное). Ну вот как то так. На гитхабе куча проектов и картиночных и текстовых, которые можно запустить самому. Запускать в общем-то можно и на процессоре и на картах. Вопрос в том, что на процессоре медленно и надо много оперативки, на картах быстро, но ТОЖЕ надо много оперативки т.к. вот так вот просто без ухищрений большую модель на обычных картах не запустить, все равно часть скинет в оперативку и причем это будет не часть, а ЧАСТИЩЕ в половину, а то и скорее всего больше половины модели (там сама по себе и контрольные точки вроде как).

Квантованные модели типа ламы, альпаки или других можно засунуть целиком в карту, это да. Смотря какую скорость надо и качество вывода и смотря для чего. Вот если на карте 24 гига памяти, наверное край - это 13B параметров влезет 16-битной с плав. точкой, или квантованная до 4 бит в целых числ. 30B альпака, например влезет. Это если вообще не влазить в оперативку - чисто на карте. А сколь стоит такая карта? - да уж немало. Для обучения надо 40-48 гиговые. Это там наверно по пол-лимона р., ну 400 штук может. На том, что осталось от майнинга можно попробовать обучать, скорее всего намного медленней, ну или скроить гибрид из родственных по основе моделей. И таким образом на фоне конкуренции этих ботов, можно предоставлять специализированный ассортимент сеток: писатель сочинений, решатель задач школьных, научный справочник, картинки (в принципе есть модели не сильно хуже миджорни), профессор медицины из Стенфорда и т.д. А не как чатГПТ - и швец, и жнец, и на дуде игрец, а поглубже копнешь, так может и ошибок серьезных наделать, а школьнику потом двоек наставят))

А то, что пишут в СМИ - вот ГПТ-4 сделал сайт по накарябанной бумажке, написал диплом, решил то, решил это, или вот недавно "письмо от деятелей культуры" с призывом остановить разработки ИИ - это все хайп ровно такой же, как было с дефаем или хайп НФТ. Но хайп только на руку, если надо как-то применить оборудование. Что касается сдать мощность в аренду, то это как-то сомнительно. Вот майнинг никому не принадлежал, майнер был сам себе хозяин (до того момента когда не оказалось что хозяин Бутерин) так что-то похожее можно сделать, если самостоятельно заниматься, а не в аренду. С другой стороны по-любому услуга эта на чужой платформе - телеграм или там дискорд, но ведь и крипту продавали тоже на централизованных биржах. Тут уж гарантий нет, что не забанят бота вдруг.

Стало быть какие оптимальные варианты подешевле можно слепить из того, что есть после майнинга: несколько ферм по запущенной специализированной модели на каждой. Допустим оперативки мало и проц. так себе там, но карта хорошая (жирно памяти, а чип это уже второе). Или насобирать жирно оперативки, проц. ну какой-то, и карта какая уж есть - тогда запускаем с ухищрениями. По себе решил сделать потом так (мне скорость не критична, т.к. для себя, а не для чат-бота): самый жирный процессор и предельно памяти - это один хрен дешевле нормальной карты, которую надо. Однако, такой конфиг подходит для генераторов текста, а мне того и надо, а вот кому нужно картинки - для картинок надо все-таки карту. Для дипфейков или видео тоже карты нужны (или если делать что-то типа фильмов полностью сгенерированных сеткой) - кстати тоже разновидность бизнеса. Уже встречал такие идеи как услуга. Или вот встречал что-то вроде диафильма в видеоформате. Там все генерируется и текст субтитров и голос и видео, для всего есть сетки.

Еще образец бизнеса: Через свой арi бот подключен якобы к ГПТ-4 (со слов рекламы, а по мне так к 3 версии, очень похожие выводы) и пользователь загружает ему текст, например книжки, тот выдает рецензию или аннотацию плюс может ответить на вопросы по содержанию. Что-то вроде дайджеста книги. Однако спустя пару обращений просит 5 баксов на подписку. Ну чтобы просить бабки надо не три предложения писать в виде реферата. Тут есть конкурентное преимущество вот какое: они порезали параметры (например, max_new_tokens или max_length) чтобы через их апи не долбали слишком бота, имея же свою сетку, можно как угодно сделать, на фоне чего школьники будут писать сочинение тут. Например закинул книжку Гоголя и дал инструкцию - а вот и готовое сочинение по плану. Так что, даст школьник 5 баксов на подписку? за 5ку в четверти?))

Просто поделюсь субъективными впечатлениями, может пригодится:

По некоторым популярным сеткам, которые в свободном доступе согласно своей лицензии на hugging face (основная модель как база семейства):

Которые продолжают текст (как бы очень умный T9 из телефона):
GPT-neo - ну скажем так, нормально в общем, писать может
GPT-J - получше, даже очень хорошо
OPT - хорошая модель
LLaMA - как-то сыровато, но жирные параметрами модели нормально (30B)
 
Если говорилки специально обучить, то они уже могут общаться:

Обученные отвечать на вопросы или следовать инструкции (обученные например на инструкциях Стенфорда или инструкт-ГПТ)

alpaca - очень даже ничего (это LLaMA дообученная Стенфордскими умниками), особенно 30B. Альпаку и ламу пробовал только 4 битные, что там теряется и насколько изменяется качество - вопрос неисследованный пока что. Но вроде на глаз как говорят, немного.

Новая модель, которую выложили сегодня databricks - это GPT-J обученный как альпака: Dolly - весьма даже неплохо (И еще вчера одна баба умная выложила самодельную Долли, которую сама и обучила по их документации, а у датабрикс это оригинал.)

Некоторые популярные специализированные модели:
Медицина - у майкрософт и стенфорда (найти легко по названию организации) субъективно у стенфорда получше, но в обоих случаях это просто говорилки, чисто для информации и то скорее для узких специалистов.

код - у salesforce, тут есть много чего, отмечу codegen - разные модели по числу параметров, а также по охвату языков, например mono - только питон или мульти - несколько языков, вроде 6.

попиздеть - Pigmalion, может кстати быть язвой как баба, но это его надо гнобить))

наука - galaktica от фейсбук (на базе OPT, еще фейсбуковая модель это лама) - пока удалось заставить лишь как справочник, хотя в доках написали, что и решать может и рассуждать, чет не верится, не похоже..

всензнайка - pithia это скорей для обучения других моделей,хотя

все для сочинителства или игр в текстовые истории - модели от Kobold

Это все были с архитектурой трансформера. У них размер контекста жестоко 2048 токенов и ни токеном больше (пока что по крайней мере), то есть это то, что модель помнит. Тем не менее это самая современная и модная архитектура, и чатГПТ, и ГПТ-4 - трансформеры.

RWKV - нечто между рекуррентной и трансформерной архитектурой, здесь контекст ого-го, так называемый "бесконечный контекст", на huggung face есть модели с контекстом до 8196 токенов, ну это уже серьезный разговор, а так оптимально 4096. Токен в грубом приближении - это 3/4 английского слова. На других языках больше, поэтому на них сетка помнит меньше контекста.

Всякие проги для запуска найти легко на гитхабе, например:
https://github.com/oobabooga/text-generation-webui
https://github.com/antimatter15/alpaca.cpp
https://github.com/tloen/alpaca-lora
https://github.com/KoboldAI/KoboldAI-Client
https://github.com/ggerganov/llama.cpp - тут надо иметь в виду, что это слишком умный и активный кодер, задолбал своими коммитами каждый час, и после каждого формат модели меняется и надо конвертировать. Еще и искать токенизатор, а хер знает какой он имеет в виду и стало быть лезть искать в вопросах там. Ну нахрен, если сишник вылизывает свой код, ну ему нравится, а мне гораздо интереснее изучать как сэмплеры действуют на результат определенной модели, это то вот и очень мало изученная тема, а от этого вывод может отличаться как небо и земля. А не заниматься конвертированием по 5 раз на день (утрированно конечно)

https://github.com/AUTOMATIC1111/stable-diffusion-webui - это миджорни на своей видеокарте. И не только. В этой оболочке можно запускать разные модели, в том числе похожие на миджорни, или ориентированные на портреты или другие жанры. И эти модели неплохие.
или вот тут все ссылки на все разом: https://2ch.hk/ai/

Ну вот, в общих чертах как-то так будет выглядеть мир после крипты. А все. Больше десятка лет хайповали, теперь новый хайп. Интересно что будет вместо этого афоризма - "биток никогда не падал ниже предыдущего хая"  



апдейт Midjourney прикрыла бесплатный тестовый доступ: в компании не рады «чрезвычайному спросу и злоупотреблениям»

Халява с кучей акков видимо кончилась, так что есть место для тех, кто подешевле будет брать. Многие штуки не нуждаются в таком качестве, типа эмблем, реклам, постеров и др. а к хорошему уже пристрастились. С месяц назад была даже статья на этом же сайте, где маркетинго-рекламщики спортмастера хвастались, что свалили всю работу на миджорни задарма, а т.к. зарплату им никто не снизил, текст производил впечатления бурного веселья халявщиков, которые "смогли наепать начальника")) может это субъективно, но всякий текст имеет ауру настроения, и почему-то пришло вот такое. Так что спрос в этой области имеется. Опять таки на этом же сайте тоже недели три-4 назад была статья в стиле "плач Ярославны" где описывались в сгущенных красках страдания страдальцев, сделавших бота к чатГПТ и канал к нему, набрали подписчиков, уже продавали рекламу, как вдруг все хозяйство забанили. Но ор на весь интернет или еще какая причина помогли и бизнес телеграм разбанил.

[The0ldl_lser]

...

Ну вот, в общих чертах как-то так будет выглядеть мир после крипты. А все. Больше десятка лет хайповали, теперь новый хайп. Интересно что будет вместо этого афоризма - "биток никогда не падал ниже предыдущего хая"  



...

А как все это "приклеить" к финансовой стороне? Мне кажется это вещи разного порядка. Ну, типа бухгалтерия же требует четкой логики, в идеале один регистр учета. Пусть его технологическое развитие в виде распределенного реестра (блокчейна). Деньги не смогут следовать "не четкой обучаемой логике" - а то глядишь, и обученная нейросеть решит что эти деньги уже не тебе принадлежат, а кому-то ещё...

[viljy]

А как все это "приклеить" к финансовой стороне?..

Как приклеить к финансовой стороне майнеру, у которого оборудование осталось не у дел - перепрофилироваться на другое.
Из того, что упомянул, наверное самое безопасное - это канал в телеге с прикрученными ботами сеток. Бесплатные боты дают подписчиков каналу, кол-во последних дает монетизацию каналу от продажи рекламы. Здесь и лицензия не нарушается т.к. ни подписки, ни разовой оплаты за боты не взимается.

Кстати, канал должен быть посвящен сеткам, а сам выступать как трибуна исследовательского проекта, а эти специализированные боты - тестовые версии, и они там потому, что в телеге много пользователей, которые и тестируют. Но тогда уж действительно придется обучать, переобучать, датасеты может даже подбирать тщательно, а не как у всех и т.п. Это уж если по душе новое. Там ведь надо вникать в это дело.
В сущности то что выше это схема миджорни, только телега вместо дискорда.

Почему это для майнеров? Так у них есть железо, чтоб запустить софт и не зависеть ни от кого. А не сдавать железо в аренду на птичьих правах. Майнер должен быть независим, даже бывший) Кстати, сейчас тенденция не зависеть от облаков и прочих удаленных штук. Могут отключить, платная подписка, отсутствие конфиденциальности. Все, что в облаках уже прочитано и просмотрено и индексировано. Вообще любые сетевые сервисы типа фэйс айди в телефоне или отпечатки - тоже самое, уже в базах данных.

Например из новостей: в Москву прибыла группа китайских товарищей, которые будут помогать блокировать ютюб к концу года, а затем и ВСЕ впн-сервисы.
Вот пример импортозамещения: Фотореализм без Midjourney: тестируем новую нейросеть
Понятно, что конкурировать с мощными корпорациями типа сбербанка с его мощностями нереально, но поэтому можно двигаться в направлении узкой специализации.

Вообще опенсорсные проекты занимаются этим просто потому что интересно, бывают им дают донаты, или если добьются высоких результатов, их или купят, или вложат средства. Но в топике же обсуждаются чисто практические вопросы, вот один из вариантов как пристроить железо, сохраняя полностью контроль. Однако не более, чем когда майнили в пуле, который может и не выплатить, так и телега может канал заблокировать, скажем по навету конкурентов.

Как это связать с криптой, чтобы имело смысл - пока непонятно, здесь я просто предлагаю один из вариантов как пристроить железо. Никакого секрета в этом нет, чего бы и не поделиться, может быть кому-то это позволит далее развить какие-то свои идеи.

А если все же на сердце неспокойно и душа требует чего-то криптовалютного, то замутить нейро-ICO на развитие так сказать технологий умного блокчейна "рекуррентно-сверточного на ациклическом графе". Тут все стандартно: Собрать крипты и далее уже продолжение по нраву: "ну не получилось", храбро уйти в закат, долго тянуть время и мычать раз в полгода о напряженной работе и т.п. Или нестандартно - "это не я, блокчейн он... украл вашу крипту, сам решил удалить себя и все монеты и ушел в облака Азуры"

Или может лучше продать видюхи да и все. Ну это самое простое. А нужны ли легкие пути?

[Polkeins]

Может немного не по теме, но смотрю что на видеокартах стали появляться сильно прибыльные монеты типа Nexa, Kaspa и какой-то Radiant.
неужели постепенно находится какой-то заменитель эфира?
Хотя капа там подозрительно маленькая у всех профитных монет, кроме каспы, но это отдельная тема?
Никто не знает с чего это вдруг прибыль появилась, были же сплошные минуса у всех? 

[safar1980]

Может немного не по теме, но смотрю что на видеокартах стали появляться сильно прибыльные монеты типа Nexa, Kaspa и какой-то Radiant.
неужели постепенно находится какой-то заменитель эфира?
Хотя капа там подозрительно маленькая у всех профитных монет, кроме каспы, но это отдельная тема?
Никто не знает с чего это вдруг прибыль появилась, были же сплошные минуса у всех?  

На старом барахле там профит сомнительный и у тех кто покупал 3 серию по завышенным ценам.Nexa интересно смотрится на новой 4 серии зеленых.


Про каспу забудь на ГПУ  майнинге.
https://bitcointalk.org/index.php?topic=5446401.msg62021546#msg62021546
Поэтому хешрейт так скаканул. Это не ГПУ майнеры пришли.

[KTChampions]

А как все это "приклеить" к финансовой стороне?..

Как приклеить к финансовой стороне майнеру, у которого оборудование осталось не у дел - перепрофилироваться на другое.
Из того, что упомянул, наверное самое безопасное - это канал в телеге с прикрученными ботами сеток. Бесплатные боты дают подписчиков каналу, кол-во последних дает монетизацию каналу от продажи рекламы. Здесь и лицензия не нарушается т.к. ни подписки, ни разовой оплаты за боты не взимается. ~

Мысль интересная "обернуть бесплатный сервис в интерфейс-прокладку и рубить бабло с юзеров посредством рекламы", но на мой взгляд слишком хрупкая. В каком-нибудь месте да затык случится - либо сетки обрубят/ограничат трафик такому прожорливому юзеру либо телега напяргать начнет - в общем то что вы перечислили, плюс выхлоп с рекламы сомнительный на таких тематиках.

А сами в этой теме работаете или из интереса изучаете? Возможностей действительно много, у меня самого есть идеи, но тут надо ковать железо пока горячо, а сейчас другим занимаюсь.

P.S. Есть что-то типа нейросеток которые в игры играют сами? В плане болванок готовых к обучению (чтобы можно было выбрать нужную мне игру) а не уже готовых.

[viljy]

Мысль интересная "обернуть бесплатный сервис в интерфейс-прокладку и рубить бабло с юзеров посредством рекламы", но на мой взгляд слишком хрупкая. В каком-нибудь месте да затык случится - либо сетки обрубят/ограничат трафик такому прожорливому юзеру либо телега напяргать начнет - в общем то что вы перечислили, плюс выхлоп с рекламы сомнительный на таких тематиках.

А сами в этой теме работаете или из интереса изучаете? Возможностей действительно много, у меня самого есть идеи, но тут надо ковать железо пока горячо, а сейчас другим занимаюсь.

P.S. Есть что-то типа нейросеток которые в игры играют сами? В плане болванок готовых к обучению (чтобы можно было выбрать нужную мне игру) а не уже готовых.

Сетки будут работать на собственном железе (которое осталось от майнинга), т.е. никак не обрубят, в отличие от тех, кто подключается к онлайн-сетям через аккаунты, там действительно траффик увидят большой и напрягутся. Остальные проблемы, такие как бан от телеграм, имеют место быть, риски есть. Любое дело на чужой платформе всегда чревато неожиданностями.

Тематика канала в принципе может быть любой. Да вот хотя бы даже генерация пользователем коротких роликов для тиктока с самим собой и с тиграми-динозаврами-Илоном Маском-на Марсе, или с одноклассницей с мокрой писькой)) да что угодно, смотря какой целевой контингент. Сейчас по охвату телеграму альтернативы-то особой нет. Если на своем сайте сделать (такой формат уже видел, уже есть), то рекламу надо все равно давать в соцсетях. Но на сайте монетизировать через рекламу уже нельзя, т.к. канала с подписчиками нет. Значит только платная подписка. К такому формату монетизации отношусь очень скептически. Это имеет смысл только если сервис очень качественный и мощный, а это без крупных вложений невозможно. Либо иметь и сайт и канал.

Сам пока не занимаюсь этой темой, пока изучаю, чтобы разобраться, т.к. относительно недавно стал углубляться в эту сферу. Какие-то идеи есть, но полагаю, что еще недостаточно продуманные. Вот вижу все новые области охватываются сетками. Очевидные вещи (текстовые, картинки, звук и т.д.) или целые комбайны, как вот тут:
https://github.com/microsoft/JARVIS
или как пишут тут: https://habr.com/ru/post/690922/
кстати ко всем этим ссылкам никакого отношения не имею, чтоб не подумали, что это реклама)
Поэтому действительно надо действовать или очень быстро или иметь идею, которая вне конкуренции (пока). Да собственно последнее и произошло с архитектурой трансформера.

Сетки для игр есть и много.
Можно, например, посмотреть здесь: https://huggingface.co/models?pipeline_tag=reinforcement-learning&sort=downloads
То есть Tasks-->Reinforcement Learning 
А лучше просмотреть и в других разделах тоже, либо по аккаунту, часто человек занимается каким-то одним доминирующим направлением, но бывает, что многими. Есть там и необученные модели.
В игровые модели не углублялся, но наверное они не слишком требовательные к ресурсам, т.к. их архитектура проще. Для примера, трансформеры (без прунинга или квантования) требуют для запуска в два раза больше памяти, чем сама модель. Квантованные запускаются и один к одному к памяти. Но субъективно, все-таки кажется они похуже, да и тесты показывают некоторое снижение показателей. Так как все это компромисс для запуска на слабых ресурсах (процессор  вместо карты или недостаток памяти).
Оценочные тесты там все как бы вероятностные, т.е. показатели оцениваются по % хороших выводов. Но что считать хорошим зависит от критериев оценки.

Для обучения трансформеров потребуется уже 4-х кратный объем памяти относительно модели. Рекуррентные сети требуют гораздо меньше сверх своего объема. Сети, рисующие картинки, вроде бы сверточные, они гораздо проще, меньше по объему и не требуют много памяти. Могут запуститься и на 4-гиговой карте и даже на 2-гиговой. Ну это уже экстрим. В общем, на карточках от майнинга заработает нормально, так что проблем не должно быть с картинками.

Не совсем в тему, но к слову. Сейчас пишут статьи, что вот сеть подтолкнула к самоубийству, сети умнее людей, угроза, захватят мир и т.п. Это все чушь и хайп. Никакого ума у них нет. Если прочитать все книги, например, 55 томов Ленина, и все запомнить, при этом откладывая в мозгах комбинации (весы) слов (токены), то тоже можно выдавать себя за Ленина какое-то время. И даже имитировать логику и смысл (на самом деле это тоже ведь выражается комбинацией слов, а в обратную сторону выглядит как смысл). Но в силу вероятностной архитектуры вскоре наступит ошибка в логике и смысле. Все дело лишь в объеме информации. Колоссальный объем информации начинает производить впечатление, что количество переродилось в качество, что выглядит как ум.

Это очень хорошо видно на примере областей, где нужны умозаключения. Особенно там, где мало написано об этом. Т.е., например, написать код сеть сможет, т.к. располагает огромным объемом информации об уже написанном коде, и то, нет гарантии, что хотя бы где-то не ошибется. С математическими задачами аналогично, но уже гораздо хуже кода справляется. А вот, например, с философией или теологией вообще слабо. Знает многое, но сопоставить и сделать выводы не получается. Потому что это либо отсутствует в датасете, на котором обучали, либо если есть, то среди всего объема информации, весы правильной последовательности токенов ничтожно малы. Так что полагаться на сеть в критически важных вещах нельзя. Например, на любые медицинские советы или диагнозы - категорически нет.

[Pavel.Savelev]

Биток добудут весь до последнего цента, как выкачивают все золото Аляски.

[mak013]

Может немного не по теме, но смотрю что на видеокартах стали появляться сильно прибыльные монеты типа Nexa, Kaspa и какой-то Radiant.
неужели постепенно находится какой-то заменитель эфира?
Хотя капа там подозрительно маленькая у всех профитных монет, кроме каспы, но это отдельная тема?
Никто не знает с чего это вдруг прибыль появилась, были же сплошные минуса у всех? 

они уже давно профитны. только профит смешной всё равно(на мой взгляд, конечно). пока риг несет меньше бакса это скучно.

про ИИ.
я видимо уже слишком стар. вот эти вот "монетизации канала" и "тик-ток" для меня выглядит или сложно или глупо. да и увлечение ИИ в бытовом масштабе выглядит тупо данью моде, а не каким-то практичным решением.
хотя это отнюдь не значит, что на этом не заработаешь. но вникнуть у меня не получается никак.

[KTChampions]

~
про ИИ.
я видимо уже слишком стар. вот эти вот "монетизации канала" и "тик-ток" для меня выглядит или сложно или глупо. да и увлечение ИИ в бытовом масштабе выглядит тупо данью моде, а не каким-то практичным решением.
хотя это отнюдь не значит, что на этом не заработаешь. но вникнуть у меня не получается никак.

Я тоже в целом скептично к таким вещам отношусь, но работаю над собой  и стараюсь быть объективным. И по факту здесь куча шальных денег (с которыми только пицца за 10к битков может быть могла бы конкурировать).
Недавно на глаза попалась инфа о блогерах которым налоговая претензии предъявила, почитайте например тут.
Впервые услышал эти имена, а вот суммы фигурируют очень интересные - сотни миллионов рублей при обороте в миллиарды. Норм так да?  Причем как я понял раскрутились они буквально за несколько лет.

Что касается ИИ, то вряд ли это просто дань моде - ИИ (как сейчас называют нейросетки) дает продукт, этот продукт продается и меняет целые рынки. Как нам заработать на этом в бытовом масштабе (хотя бы) вопрос другой.

Сейчас по охвату телеграму альтернативы-то особой нет. Если на своем сайте сделать (такой формат уже видел, уже есть), то рекламу надо все равно давать в соцсетях. Но на сайте монетизировать через рекламу уже нельзя, т.к. канала с подписчиками нет. Значит только платная подписка. К такому формату монетизации отношусь очень скептически. Это имеет смысл только если сервис очень качественный и мощный, а это без крупных вложений невозможно. Либо иметь и сайт и канал.

А в чем проблема монетизироваться через баннеры (хоть гугл сетки, хоть заказы с бирж - хз как там сейчас это дело обстоит, но точно работает) имея сайт? Вообще одно другому не мешает и в идеале надо иметь и то и то, но не вижу проблем работать только с сайтом не имея канала. Я бы не стал на каналах зацикливаться.

Сетки для игр есть и много.
Можно, например, посмотреть здесь: https://huggingface.co/models?pipeline_tag=reinforcement-learning&sort=downloads
То есть Tasks-->Reinforcement Learning 
А лучше просмотреть и в других разделах тоже, либо по аккаунту, часто человек занимается каким-то одним доминирующим направлением, но бывает, что многими. Есть там и необученные модели.

Спасибо за ссылки, но я далек от IT и хотя могу разобраться в прунингах и квантованиях копаться в этом нет навыков/времени. Больше интересует коммерция 
Как я понимаю простенькие игры вполне по силам сеткам уже давно, отсюда вопрос - почему бы не обучить сеть и не посадить качаться пачку аккаунтов, например в LOL, 24/7? Если ничего не изменилось, то высшие ранги (начиная от Платины) стоят от сотен до тысяч евро.
Задача 100% решаемая так как OpenAi еще несколько лет назад обучил для Доты сетку которая порвала профи команды в игре 5х5 (хотя там и был ограниченный выбор чемпионов + одна команда нашла уязвимость и побеждала стабильно).

А есть еще игры посложнее, где можно монетизироватья иначе (ютуб/твич), но об этом я пока не буду.

Не совсем в тему, но к слову. Сейчас пишут статьи, что вот сеть подтолкнула к самоубийству, сети умнее людей, угроза, захватят мир и т.п. Это все чушь и хайп. Никакого ума у них нет. Если прочитать все книги, например, 55 томов Ленина, и все запомнить, при этом откладывая в мозгах комбинации (весы) слов (токены), то тоже можно выдавать себя за Ленина какое-то время. И даже имитировать логику и смысл (на самом деле это тоже ведь выражается комбинацией слов, а в обратную сторону выглядит как смысл). Но в силу вероятностной архитектуры вскоре наступит ошибка в логике и смысле. Все дело лишь в объеме информации. Колоссальный объем информации начинает производить впечатление, что количество переродилось в качество, что выглядит как ум.

Вот тут не соглашусь. Если у нас есть ПО (состоящее из сеток, а сетка по сути инструмент заточенный под какую-то задачу - как у человека глаза для распознавания образов, уши для звуков и т.д.) и мы прицепили к этому ПО обратную связь, то коррекция всегда будет происходить и никакой фатальной ошибки в логике и смысле не наступит. Чем это не ум?

Это очень хорошо видно на примере областей, где нужны умозаключения. ~ Так что полагаться на сеть в критически важных вещах нельзя. Например, на любые медицинские советы или диагнозы - категорически нет.

По диагностике точно помню была новость что сделали нейросетку которая ставит диагноз рака более точно и на более ранних стадиях чем врачи, источник не смог найти, вот тут немного инфы есть.

[safar1980]

Может немного не по теме, но смотрю что на видеокартах стали появляться сильно прибыльные монеты типа Nexa, Kaspa и какой-то Radiant.
неужели постепенно находится какой-то заменитель эфира?
Хотя капа там подозрительно маленькая у всех профитных монет, кроме каспы, но это отдельная тема?
Никто не знает с чего это вдруг прибыль появилась, были же сплошные минуса у всех? 

они уже давно профитны. только профит смешной всё равно(на мой взгляд, конечно). пока риг несет меньше бакса это скучно.

про ИИ.
я видимо уже слишком стар. вот эти вот "монетизации канала" и "тик-ток" для меня выглядит или сложно или глупо. да и увлечение ИИ в бытовом масштабе выглядит тупо данью моде, а не каким-то практичным решением.
хотя это отнюдь не значит, что на этом не заработаешь. но вникнуть у меня не получается никак.

Лень обуздала майнеров. Неха дает сейчас 60 центов на блатной розетке с дешёвой RХ5600. Выплаты придется ждать неделю из за установок разработчиков в 5000 подтверждений, но потом ежедневно будут стабильные выплаты. Грязными с рига  RХ5600 на 6 ГПУ - 3,6 доллара в день отлично. На лохито RХ5600 11-12 тысяч или 9тысяч без вентиляторов. Окупаемость меньше года. Возможно она еще уменьшится.

[viljy]

А в чем проблема монетизироваться через баннеры (хоть гугл сетки, хоть заказы с бирж - хз как там сейчас это дело обстоит, но точно работает) имея сайт? Вообще одно другому не мешает и в идеале надо иметь и то и то, но не вижу проблем работать только с сайтом не имея канала. Я бы не стал на каналах зацикливаться.

По баннерам - тоже вариант. В целом чем больше вариантов, тем лучше конечно.

Спасибо за ссылки, но я далек от IT и хотя могу разобраться в прунингах и квантованиях копаться в этом нет навыков/времени. Больше интересует коммерция  
Как я понимаю простенькие игры вполне по силам сеткам уже давно, отсюда вопрос - почему бы не обучить сеть и не посадить качаться пачку аккаунтов, например в LOL, 24/7? Если ничего не изменилось, то высшие ранги (начиная от Платины) стоят от сотен до тысяч евро.
Задача 100% решаемая так как OpenAi еще несколько лет назад обучил для Доты сетку которая порвала профи команды в игре 5х5 (хотя там и был ограниченный выбор чемпионов + одна команда нашла уязвимость и побеждала стабильно).

А есть еще игры посложнее, где можно монетизироватья иначе (ютуб/твич), но об этом я пока не буду.

Идея с прокачкой для игр пожалуй даже лучше канала с ботами. Меньше проблем и всяких заморочек, на первый взгляд. Хотя с этой темой близко не знаком, но впечатление такое.

Вот тут не соглашусь. Если у нас есть ПО (состоящее из сеток, а сетка по сути инструмент заточенный под какую-то задачу - как у человека глаза для распознавания образов, уши для звуков и т.д.) и мы прицепили к этому ПО обратную связь, то коррекция всегда будет происходить и никакой фатальной ошибки в логике и смысле не наступит. Чем это не ум?

В роли "ума" в таком ПО выступает языковая модель (LLM), но у них нет обратной связи, которая изменяла бы (корректировала) параметры модели, т.е. веса, вычисленные при обучении. Это просто обученная на датасете модель. И тому есть некоторые причины. Например, как отличать достоверную информацию от ложной при взаимодействии с человеком. Сравнивать с тем, что уже есть? А если противоречит - отбрасывать? Тогда ничего нового сеть никак не сможет выучить. Или как отделять вредную информацию? Сетки с обратной связью обучаются играть, например в шахматы. В сравнении с шахматами (или любой игрой), где есть рамки правил и вариантов игры, это совсем другое взаимодействие, так как нет правил, бесчисленное количество вариантов, среди которых есть и вредные, и ложные.

Датасеты готовят специально, хорошие датасеты очищают от мусора, дубликатов, они проприетарные, например у OpenAI, у Гугла, у Яндекса - датасеты закрытые. Бывают датасеты - просто кучи необработанные, но и результаты соответствующие. Достаточно сравнить GPT модели от OpenAI и тот же GPT, обученный на опенсорсном датасете.

Вопрос обратной связи "стоит на повестке", но пока что такого нет, и пути решения неясны. Так что имитация ума уже есть, но до ума там далеко, и неясно возможно ли это в принципе при том подходе, который существует сейчас. Вот неплохая статья как раз об этом:
 
Вот что такое искусственный интеллект по мнению изобретателя байесовских сетей

По диагностике точно помню была новость что сделали нейросетку которая ставит диагноз рака более точно и на более ранних стадиях чем врачи, источник не смог найти, вот тут немного инфы есть.

К таким статьям можно относится с сомнением. С насколько опытными врачами производилось сравнение? Они тоже очень разные бывают, о чем наверно каждому хорошо известно из собственного опыта. Бумажки диплом и лицензии еще ни о чем не говорят. Даже в Америке. Об этом, кстати, есть хороший сериал "Доктор смерть", основанный на реальной истории.

Конкретно в этой статье описывается диагностика редких видов рака. Так насколько же опытны были врачи из контрольной группы, с которой сравнивали сеть, если они, возможно, видели такие данные, допустим, раза 3 за карьеру?
Даже если сеть лучше диагностирует (с большой вероятностью, но не точно) некоторые разновидности, она лишь помощник, "подсказчик" врачу. Просто умный справочник, который, однако, не может заменить врача.

[mak013]

~
про ИИ.
я видимо уже слишком стар. вот эти вот "монетизации канала" и "тик-ток" для меня выглядит или сложно или глупо. да и увлечение ИИ в бытовом масштабе выглядит тупо данью моде, а не каким-то практичным решением.
хотя это отнюдь не значит, что на этом не заработаешь. но вникнуть у меня не получается никак.

Я тоже в целом скептично к таким вещам отношусь, но работаю над собой  и стараюсь быть объективным. И по факту здесь куча шальных денег (с которыми только пицца за 10к битков может быть могла бы конкурировать).
Недавно на глаза попалась инфа о блогерах которым налоговая претензии предъявила, почитайте например тут.
Впервые услышал эти имена, а вот суммы фигурируют очень интересные - сотни миллионов рублей при обороте в миллиарды. Норм так да?  Причем как я понял раскрутились они буквально за несколько лет.

Что касается ИИ, то вряд ли это просто дань моде - ИИ (как сейчас называют нейросетки) дает продукт, этот продукт продается и меняет целые рынки. Как нам заработать на этом в бытовом масштабе (хотя бы) вопрос другой.

да, про блогеров читал, да и в окружении есть люди, которым хочется быть молодыми и модными.
это уже не первое направление, которое я упускаю, ибо не могу понять или уследить. тот же дефи дроп практически весь прошел мимо меня, хотя вроде бы делал всё как надо. мелочевку подобрал только, как и нфт. в какой-то момент решил не переживать, хотя временами подгорало неимоверно.

про ИИ я не просто так сказал про бытовой масштаб. тут скорее про наш уровень. хотя если время есть побаловаться, покрутить можно. на серьезный результат я бы не надеялся - там большие дяди с тугими кошельками.

Лень обуздала майнеров. Неха дает сейчас 60 центов на блатной розетке с дешёвой RХ5600. Выплаты придется ждать неделю из за установок разработчиков в 5000 подтверждений, но потом ежедневно будут стабильные выплаты. Грязными с рига  RХ5600 на 6 ГПУ - 3,6 доллара в день отлично. На лохито RХ5600 11-12 тысяч или 9тысяч без вентиляторов. Окупаемость меньше года. Возможно она еще уменьшится.

я проверю это уже выглядит интересным. а еще и окупаемость пох, своих хватает
но да, реально лень, ты прав

[KTChampions]

Спасибо за ссылки, но я далек от IT и хотя могу разобраться в прунингах и квантованиях копаться в этом нет навыков/времени. Больше интересует коммерция  
Как я понимаю простенькие игры вполне по силам сеткам уже давно, отсюда вопрос - почему бы не обучить сеть и не посадить качаться пачку аккаунтов, например в LOL, 24/7? Если ничего не изменилось, то высшие ранги (начиная от Платины) стоят от сотен до тысяч евро.
Задача 100% решаемая так как OpenAi еще несколько лет назад обучил для Доты сетку которая порвала профи команды в игре 5х5 (хотя там и был ограниченный выбор чемпионов + одна команда нашла уязвимость и побеждала стабильно).

А есть еще игры посложнее, где можно монетизироватья иначе (ютуб/твич), но об этом я пока не буду.

Идея с прокачкой для игр пожалуй даже лучше канала с ботами. Меньше проблем и всяких заморочек, на первый взгляд. Хотя с этой темой близко не знаком, но впечатление такое.

Нюансы везде есть (я сам занимаюсь ботоводством, но без ИИ) и аккаунты одна из самых мутных тем на самом деле, но все решаемо.
С играми есть вариант еще проще: фармить ресурсы/вещи и продавать. Например взять Path of Exile - бесплатная игра, системные требования адекватные (что важно для параллельного запуска большого количества аккаунтов), вижу что на ебэй продается стафф оттуда, причем стафф который можно буквально получить из ничего - просто играя в игру. Сам в нее не играл и расчеты не делал (окупят ли продажи ЭЭ), но на процентов 99,99 уверен что окупят. Математика проста: никакой вменяемый игрок не будет "работать" в игре скажем 24 часа за доллар (значит такая "генерация" стафа для любой игры вполне реальна), а используя ИИ и допустим 10 аккаунтов на системный блок можно иметь 10 баксов в сутки. Пусть даже ЭЭ/амортизация сожрет 3 бакса остается 7 - 210 баксов в месяц, а если под управлением кластер системников, то все еще лучше.

Вот тут не соглашусь. Если у нас есть ПО (состоящее из сеток, а сетка по сути инструмент заточенный под какую-то задачу - как у человека глаза для распознавания образов, уши для звуков и т.д.) и мы прицепили к этому ПО обратную связь, то коррекция всегда будет происходить и никакой фатальной ошибки в логике и смысле не наступит. Чем это не ум?

В роли "ума" в таком ПО выступает языковая модель (LLM), но у них нет обратной связи, которая изменяла бы (корректировала) параметры модели, т.е. веса, вычисленные при обучении.~
Вопрос обратной связи "стоит на повестке", но пока что такого нет, и пути решения неясны.

Да, я это понимаю и сам написал про обратную связь. Просто мне кажется это даже не шаг вперед а меньше чем полшажка от ПО к ПО + обратная связь. И тут отличия от настоящего ума уже придется снова "выдумывать" -> уже давно замечено что существует так называемый "горизонт" в определении Интеллекта и соответственно в определении ИИ. "Отрицатели" ИИ выдумывают все новые и новые задачи/определения, а когда ИИ их решает выдумывают новые, то есть ситуация когда они признают что ИИ "вот он есть" не наступит никогда.

Так что имитация ума уже есть, но до ума там далеко, и неясно возможно ли это в принципе при том подходе, который существует сейчас. Вот неплохая статья как раз об этом:
 
Вот что такое искусственный интеллект по мнению изобретателя байесовских сетей

У меня сложилось впечатление что дед просто впал в маразм закостенел, 81 год все-таки, и просто бухтит что "всё не так".

Если мы хотим, чтобы машины рассуждали о вмешательстве («Что, если мы запретим сигареты?») и самоанализе («Что, если бы я окончил школу?»), нам необходимо использовать причинно-следственные модели. Ассоциативных связей недостаточно — и это математический факт, а не мнение.

Маразматичный агрессивный дед выдает свои бредовые фантазии за факты  
Как раз оба вопроса и про сигареты и про школу прекрасно решаются способами статистики (ассоциативно) и ровно ноль решений способами причинно-следственных моделей. Со школой максимально просто - окончание школы в среднем дает то и то и т.д. (данных море) = взвешиваем токены видим картину.
С сигаретами сравниваем идею и результат - идея в том что "все бросят курить и станут здоровее" а факт в том что везде это ведет к появлению черного рынка и росту преступности - тут тоже надо взвешивать токены и смотреть выгодно/невыгодно, а по деду тупо будем по идее фигачить.
Теперь еще есть такой момент - хотите ли вы чтобы ИИ рассуждал в причинно-следственных моделях о том не живем ли мы в симуляции/создан ли мир богом? Ведь так ИИ и с ума сойдет легко. А вот в статистической модели он выкинет нахер такие мысли (не имеет значения ответ на оба вопроса в наборе существующих данных) и будет себе дальше нормально работать.
Короче за борт старых маразматиков.

К таким статьям можно относится с сомнением. С насколько опытными врачами производилось сравнение? Они тоже очень разные бывают, о чем наверно каждому хорошо известно из собственного опыта. Бумажки диплом и лицензии еще ни о чем не говорят. Даже в Америке. Об этом, кстати, есть хороший сериал "Доктор смерть", основанный на реальной истории.

Конкретно в этой статье описывается диагностика редких видов рака. Так насколько же опытны были врачи из контрольной группы, с которой сравнивали сеть, если они, возможно, видели такие данные, допустим, раза 3 за карьеру?
Даже если сеть лучше диагностирует (с большой вероятностью, но не точно) некоторые разновидности, она лишь помощник, "подсказчик" врачу. Просто умный справочник, который, однако, не может заменить врача.

То что помощник да. И на мой взгляд ИИ будет сильнее всех (даже суммарно) врачей в итоге, ведь пусть врач как вы говорите видел редкий рак несколько раз за карьеру, а ИИ будет обладать вообще всем набором данных "за историю наблюдения".

И в описываемом случае нюанс в том что ИИ определял рак на тех стадиях (очень ранних) на которых врачи в принципе не способны его увидеть.

Ну а в целом, сильно в сторону отвлеклись, давайте выберем что фармить/какой бизнес на ИИ поднять  

[safar1980]

Лень обуздала майнеров. Неха дает сейчас 60 центов на блатной розетке с дешёвой RХ5600. Выплаты придется ждать неделю из за установок разработчиков в 5000 подтверждений, но потом ежедневно будут стабильные выплаты. Грязными с рига  RХ5600 на 6 ГПУ - 3,6 доллара в день отлично. На лохито RХ5600 11-12 тысяч или 9тысяч без вентиляторов. Окупаемость меньше года. Возможно она еще уменьшится.

я проверю это уже выглядит интересным. а еще и окупаемость пох, своих хватает
но да, реально лень, ты прав

Часть оборудования все равно нельзя выключать. Более менее новое должно работать, старье лучше продать из за очень низкого профита и рисков поломки. Недавно мой покупатель RX480 сапфиров сказал что они бессмертные. Да и 1070 вполне адекватно пережили 5 лет майнинга. 3090 с температурой по памяти под сотку столько проработать не должны. И не известно как гарантия на это посмотрит.