Остерегайтесь криптомошенников!

[satscraper]

Пользователь лишился $2500 из-за ChatGPT, который порекомендовал мошеннический сайт в ходе написания бота для платформы мем-токенов Pump.fun на Solana. Н

 ChatGPT выдаёт достаточно много ошибочных утверждений не по злому умыслу, а в силу своего несовершенства.

Однако то что произошло с указанным пользователем заставляет задуматься о возможном появлении  AI-агентов, специально заточенных на мошенничество  ^{своего рода AI-криптомошенников}.

Нужно быть осторожным с AI - агентами. Больно уж много их расплодилось в последнее время.

[bakasabo]

Я нисколько не удивлен что ChatGPT выдал не верную информацию. Если судить по тому, какие фотографии по запросу он генерит, то он еще очень далек от настоящего и правильного. Но, здесь и сам пользователь виноват безусловно. Сегодня люди часто слепо верят всему, что им говорят или написано в сети. С одной стороны им лень перепроверять факты, источник информации. С другой стороны, в сети стало слишком много всего, чтобы среди неправды, найти правду.

[Numeral]

ChatGPT выдаёт достаточно много ошибочных утверждений не по злому умыслу, а в силу своего несовершенства.

Однако то что произошло с указанным пользователем заставляет задуматься о возможном появлении  AI-агентов, специально заточенных на мошенничество  ^{своего рода AI-криптомошенников}.

Нужно быть осторожным с AI - агентами. Больно уж много их расплодилось в последнее время.

Они могут появиться, но чтобы у них был какой-то результат от своей мошеннической деятельности, то им придется очень много трафика иметь, чтобы работать точечно с пользователями. Либо очень часто давать в своих советах ссылки на вредоносы и тогда их будут быстро раскалывать. А расплодилось много даже не самих движков AI, а посредников, которые предоставляют услуги уже известных движков, например, того же ChatGPT разных версий.

[Etranger]

Я нисколько не удивлен что ChatGPT выдал не верную информацию. Если судить по тому, какие фотографии по запросу он генерит, то он еще очень далек от настоящего и правильного. Но, здесь и сам пользователь виноват безусловно. Сегодня люди часто слепо верят всему, что им говорят или написано в сети. С одной стороны им лень перепроверять факты, источник информации. С другой стороны, в сети стало слишком много всего, чтобы среди неправды, найти правду.

Может хоть такой опыт потери денег научит людей тщательнее проверять информацию. Вообще странная история, что просто по рекомендации АІ кто-то решил рискнуть не то чтобы совсем уж маленькой суммой. Ну, видимо такую ценность эта сумма представляет для обладателя. Если бы он за нее держался, то лучше бы исследовал предметы своих инвестиций, вне зависимости от рекомендаций.

[jokers10]

Может хоть такой опыт потери денег научит людей тщательнее проверять информацию. Вообще странная история, что просто по рекомендации АІ кто-то решил рискнуть не то чтобы совсем уж маленькой суммой. Ну, видимо такую ценность эта сумма представляет для обладателя. Если бы он за нее держался, то лучше бы исследовал предметы своих инвестиций, вне зависимости от рекомендаций.

Я довольно много и часто встречаю последнее время в разных местах людей, которые рассказывают о том, как они активно пользуются ИИ для разных целей и расхваливают этот инструмент. При этом ограниченность и возможное количество ошибок у современного ИИ видит из них очень небольшой процент, так что потенциально это направление очень привлекательно для мошенников, к ИИ необоснованно высокое доверие на фоне высокого хайпа, так что разного рода обманы участятся не только с продуктом ИИ типа дипфейков, но и, вероятно, вот такого рода, когда всякий фишинг и вирусы будут прятать внутри интерфейсов ИИ. И к этому надо быть готовыми, не утрачивая бдительности нигде.

[bakasabo]

Я нисколько не удивлен что ChatGPT выдал не верную информацию. Если судить по тому, какие фотографии по запросу он генерит, то он еще очень далек от настоящего и правильного. Но, здесь и сам пользователь виноват безусловно. Сегодня люди часто слепо верят всему, что им говорят или написано в сети. С одной стороны им лень перепроверять факты, источник информации. С другой стороны, в сети стало слишком много всего, чтобы среди неправды, найти правду.

Может хоть такой опыт потери денег научит людей тщательнее проверять информацию. Вообще странная история, что просто по рекомендации АІ кто-то решил рискнуть не то чтобы совсем уж маленькой суммой. Ну, видимо такую ценность эта сумма представляет для обладателя. Если бы он за нее держался, то лучше бы исследовал предметы своих инвестиций, вне зависимости от рекомендаций.

На соседнем форуме обсуждалось недавно - Mushroom pickers urged to avoid foraging books on Amazon that appear to be written by AI. ИИ создал книгу о грибах, люди собрали грибы и удостоверились в книге что грибы съедобные, съели и отравились. Еще одно доказательство, что за ИИ не проверяют информацию и люди верят всему. Если ИИ начнет переводить массово на мошеннические сайты, будь люди даже в курсе этого, они все равно будут попадаться. Потому что ленивы и доверчивы. Как раз те качества, что ищут в людях мошенники.

[Etranger]

На соседнем форуме обсуждалось недавно - Mushroom pickers urged to avoid foraging books on Amazon that appear to be written by AI. ИИ создал книгу о грибах, люди собрали грибы и удостоверились в книге что грибы съедобные, съели и отравились. Еще одно доказательство, что за ИИ не проверяют информацию и люди верят всему. Если ИИ начнет переводить массово на мошеннические сайты, будь люди даже в курсе этого, они все равно будут попадаться. Потому что ленивы и доверчивы. Как раз те качества, что ищут в людях мошенники.

Ну просто люди решили, что у ИИ можно спрашивать совета абсолютно о чем угодно, а собственные мозги и критическое мышление (если таковое вообще существовало) можно отключить. Вот и отдают на аутсорс принятие решение кому-то (чему-то) другому. Скоро окажется, что самым опасным и успешным мошенником будет именно ИИ, потому что его аудитория - это практически кто угодно, а тем для обмана - бесконечное количество.

[summonerrk]

Я нисколько не удивлен что ChatGPT выдал не верную информацию. Если судить по тому, какие фотографии по запросу он генерит, то он еще очень далек от настоящего и правильного. Но, здесь и сам пользователь виноват безусловно. Сегодня люди часто слепо верят всему, что им говорят или написано в сети. С одной стороны им лень перепроверять факты, источник информации. С другой стороны, в сети стало слишком много всего, чтобы среди неправды, найти правду.

Может хоть такой опыт потери денег научит людей тщательнее проверять информацию. Вообще странная история, что просто по рекомендации АІ кто-то решил рискнуть не то чтобы совсем уж маленькой суммой. Ну, видимо такую ценность эта сумма представляет для обладателя. Если бы он за нее держался, то лучше бы исследовал предметы своих инвестиций, вне зависимости от рекомендаций.

На соседнем форуме обсуждалось недавно - Mushroom pickers urged to avoid foraging books on Amazon that appear to be written by AI. ИИ создал книгу о грибах, люди собрали грибы и удостоверились в книге что грибы съедобные, съели и отравились. Еще одно доказательство, что за ИИ не проверяют информацию и люди верят всему. Если ИИ начнет переводить массово на мошеннические сайты, будь люди даже в курсе этого, они все равно будут попадаться. Потому что ленивы и доверчивы. Как раз те качества, что ищут в людях мошенники.

Я согласен, ИИ вообще иногда пишут ахинею. Но выглядит она как уверенное экспертное мнение. Насколько знаю, ИИ обучаются на информации из интернета, и лишь иногда специально сеть заставляют изучить что-то профильное. Но думаю что общедоступная сеть - это всё ещё большой "профан".
Недавно я спрашивал инфу о особенностях детей в определенном возрасте у chatGPT 4o, хотел проверить насколько эта сеть крутая, ведь это повсеместно утверждается. Ну и как написал  выше - сеть не владела конкретной информацией, она просто вывалила мне общие вещи.
Очевидно, что-то спрашивать о вещах, способных повлиять на здоровье или жизнь не следует.

Тем не менее при всем этом для мошенников это кладезь и находка.

[Etranger]

Недавно я спрашивал инфу о особенностях детей в определенном возрасте у chatGPT 4o, хотел проверить насколько эта сеть крутая, ведь это повсеместно утверждается. Ну и как написал  выше - сеть не владела конкретной информацией, она просто вывалила мне общие вещи.
Очевидно, что-то спрашивать о вещах, способных повлиять на здоровье или жизнь не следует.

Тем не менее при всем этом для мошенников это кладезь и находка.

Вот это Вы тему для вопрошая выбрали)) Тут не только chatGPT, тут и гугл вряд ли поможет с ответами на эти вопросы. У меня маленький ребенок, он очень плохо спал первые месяцев 8. Я что только не делала, ничего не помогало. И вот у chatGPT тоже спрашивала, как можно наладить этот процесс. Короче, после его ответов, мне не захотелось с ним общаться дальше, да и времени на это не было, потому что я часами укладывала ребенка 

Короче, может мошенники и научились использовать ИИ в своих целях, но когда дело доходит до нормальных житейских вопросов, то тут пока опыт не перебьется ничем 

[summonerrk]

Недавно я спрашивал инфу о особенностях детей в определенном возрасте у chatGPT 4o, хотел проверить насколько эта сеть крутая, ведь это повсеместно утверждается. Ну и как написал  выше - сеть не владела конкретной информацией, она просто вывалила мне общие вещи.
Очевидно, что-то спрашивать о вещах, способных повлиять на здоровье или жизнь не следует.

Тем не менее при всем этом для мошенников это кладезь и находка.

Вот это Вы тему для вопрошая выбрали)) Тут не только chatGPT, тут и гугл вряд ли поможет с ответами на эти вопросы. У меня маленький ребенок, он очень плохо спал первые месяцев 8. Я что только не делала, ничего не помогало. И вот у chatGPT тоже спрашивала, как можно наладить этот процесс. Короче, после его ответов, мне не захотелось с ним общаться дальше, да и времени на это не было, потому что я часами укладывала ребенка  

Короче, может мошенники и научились использовать ИИ в своих целях, но когда дело доходит до нормальных житейских вопросов, то тут пока опыт не перебьется ничем  

Так понимаете, весь парадокс и складывается из того, что ч не буду спрашивать то, что итак знаю. А раз ИТ у нас такой умный, то я подумал - спрошу ка я его. Ведь сколько новостей что он сдает экзамены и проектирует двигатели.
Понятно, что в плане детей у всех все индивидуально, но где тогда такая приписка в ответе GPT?)
Он часто их делает, но в ответе он мне серьезным тоном писал то, о чем я уже отвечал выше.
Лучше пускай просто бы писал - я не берусь отвечать на ваш вопрос)
Тоже самое касается и тем готовки, грибов, лекарств и т.п.
Потому что все эти советы это поводы подавать в суд на OpenAI, если при использовании бота не было приписки, что они не несут ответственности за советы. Я внимания на это не обращал.

[jokers10]

Я согласен, ИИ вообще иногда пишут ахинею. Но выглядит она как уверенное экспертное мнение.

В этом самая большая угроза, написанный ИИ текст грамотный и написан по умолчанию в обезличенном стиле, как мог бы написать человек знающий и авторитетный, люди привыкли видеть такой текст в научных и энциклопедических текстах, поэтому на уровне ощущений ему доверяешь. Соответственно, если кто-то не в состоянии оценить достоверность текста, но при этом решает воспользоваться ИИ, велик риск довериться абсолютно недостоверному совету. Правда, боюсь, донести до людей информацию о том, что ИИ нельзя пользоваться для важных дел типа финансовых, будет очень сложно. Подозреваю, что даже опытные криптаны из тех, что очень доверяют ИИ, вполне могут попасться...

[Altryist]

Тоже самое касается и тем готовки, грибов, лекарств и т.п.
Потому что все эти советы это поводы подавать в суд на OpenAI, если при использовании бота не было приписки, что они не несут ответственности за советы. Я внимания на это не обращал.

Должен присутствовать здравый смысл который остановит от готовки себе отравы, или если ИИ посоветует вам купить какой то токен, который через неделю улетит на луну. Может это не тоже самое, но его финансовые советы должны подвергаться сомнениям и дополнительному самостоятельному анализу. ИИ на данном этапе развития достаточно сырой, чтобы полностью доверять ему, думаю что если поищите то такую приписку найдете, но мне кажется это и так понятно.

[summonerrk]

Тоже самое касается и тем готовки, грибов, лекарств и т.п.
Потому что все эти советы это поводы подавать в суд на OpenAI, если при использовании бота не было приписки, что они не несут ответственности за советы. Я внимания на это не обращал.

Должен присутствовать здравый смысл который остановит от готовки себе отравы, или если ИИ посоветует вам купить какой то токен, который через неделю улетит на луну. Может это не тоже самое, но его финансовые советы должны подвергаться сомнениям и дополнительному самостоятельному анализу. ИИ на данном этапе развития достаточно сырой, чтобы полностью доверять ему, думаю что если поищите то такую приписку найдете, но мне кажется это и так понятно.

Скорее всего она действительно где-то есть. Но если я например буду использовать его через телеграм бота, то я очевидно никак ее не прочту)

Как и говорилось, ИИ это невероятные возможности для мошенников:
Копирование голоса, копирование лиц и документов...
Пока я вижу больше потенциального вреда чем пользы. Надеюсь что Илон Маск, как бывший глава OpenAI:

20 февраля 2018 года Маск вышел из совета директоров OpenAI из-за возможного конфликта интересов.

И пидерживающийся таких же взглядов, будет как следует регулировать сферу ИИ.

[taikuri13]

Любой AI в первую очередь - инструмент. Причем, что важно - это обучаемый инструмент. Поэтому, что с него спрашивать  кнопку в любом случае нажимает юзер, будь-то подпись транзы или запуск никому не понятного кода.

Можно, конечно уходить в сторону от современных инструментов и вполне (в очень некоторых случаях) это будет полезно, например в безопасности. Но это просто молоток, которым вы забиваете гвозди. И да, конечно же, молотком можно шарахнуть себе по пальцам 

Поэтому, я бы не стал обвинять AI во всех бедах человечества, для меня это примерно так же, как лет 5 назад обвинить Гугл поиск, в том, что он дал ссылку, а внутри сидел дрейнер 

Вот, что сейчас происходит в крипте, в рамках AI, чтобы понимать масштаб и вложения крупных фондов и игроков в эту сферу.

https://coinmarketcap.com/view/ai-big-data/

ps: Пользуюсь, никому не нахваливаю 

pps: Ну и конечно старая история, про нож, которым можно салат нарезать, а можно и для гоп-стопа в крипте использовать  Правда в том, что нож от этого не поменяется.

[jokers10]

20 февраля 2018 года Маск вышел из совета директоров OpenAI из-за возможного конфликта интересов.

И пидерживающийся таких же взглядов, будет как следует регулировать сферу ИИ.

Опыт того, как государства регулируют крипту, кажется, должен же подсказать, что регулирование ИИ мошенников никак не остановит, а неприятности и неудобства будут возникать, в основном, у добропорядочных и законопослушных пользователей. Большая часть результатов в крипте по борьбе с мошенниками и прочими преступниками достигается не за счёт регуляторных решений, а за счёт улучшения технической подкованности правоохранительных органов, которые используют современные технологии для отслеживания и поимки преступников.

Любой AI в первую очередь - инструмент.
...
pps: Ну и конечно старая история, про нож, которым можно салат нарезать, а можно и для гоп-стопа в крипте использовать  Правда в том, что нож от этого не поменяется.

Тем не менее, для многих это пока совсем незнакомый инструмент, и неплохо предупредить, что не надо ножом забивать гвозди, держась за остриё. Да, значительная часть ответственности за неправильное использование лежит на пользователе, но это не причина не предупреждать о возможной опасности: предупреждён, значит, вооружён, как известно.

[summonerrk]

20 февраля 2018 года Маск вышел из совета директоров OpenAI из-за возможного конфликта интересов.

И пидерживающийся таких же взглядов, будет как следует регулировать сферу ИИ.

Опыт того, как государства регулируют крипту, кажется, должен же подсказать, что регулирование ИИ мошенников никак не остановит, а неприятности и неудобства будут возникать, в основном, у добропорядочных и законопослушных пользователей. Большая часть результатов в крипте по борьбе с мошенниками и прочими преступниками достигается не за счёт регуляторных решений, а за счёт улучшения технической подкованности правоохранительных органов, которые используют современные технологии для отслеживания и поимки преступников.

Я думаю что мы не можем в одном векторе сравнивать крипту и ИИ, т.к. в крипте у нас есть знания как заработать, у всех есть однозначные успехи и результаты.
А от ИИ мне лично никакого профита в жизни нет. Да, есть веселые генерации картиночек, песенок, видосиков, и все на этом. Глобально ничего не меняется, а вот потенциал для ухудшения жизни огромный. Начиная от вышеназванных мошенников, и до замены рабочих мест, ущемления прав и т.п. посредством ИИ. А выгода по большому счету только у тех, кто этот интеллект контролирует.

[taikuri13]

~
Тем не менее, для многих это пока совсем незнакомый инструмент, и неплохо предупредить, что не надо ножом забивать гвозди, держась за остриё. Да, значительная часть ответственности за неправильное использование лежит на пользователе, но это не причина не предупреждать о возможной опасности: предупреждён, значит, вооружён, как известно.

Считаю, что это примерно начальный уровень в безопасности, школьникам рассказывать  Типа, по ссылкам не ходить, пароль по сложнее придумать и не засовывать код, в котором не разбираешься - в криптокошелек 

~
Я думаю что мы не можем в одном векторе сравнивать крипту и ИИ, т.к. в крипте у нас есть знания как заработать, у всех есть однозначные успехи и результаты.
А от ИИ мне лично никакого профита в жизни нет. Да, есть веселые генерации картиночек, песенок, видосиков, и все на этом. Глобально ничего не меняется, а вот потенциал для ухудшения жизни огромный. Начиная от вышеназванных мошенников, и до замены рабочих мест, ущемления прав и т.п. посредством ИИ. А выгода по большому счету только у тех, кто этот интеллект контролирует.

У всех людей есть свои навыки, опыт и знания. Просто они все разные. Кто-то умеет точить деталь, кто-то знает, как ее выпилить на 3D принтере. Так и с AI - который уже больше года помогает людям абсолютно разных профессий, от векторной графики, до изучения иностранных языков. Картинки, песни, поиграться и видосики с мемами налепить - это для школьника забава. AI помогает в рекрутинге, к примеру. Вполне нормально пишет несложный код (я не про крипту). Да я больше скажу, AI сейчас используется в криптопроектах, поддерживая практически любого работника, от составления контент-плана, до презентаций.

Я смотрю с большим позитивом в сторону развития AI. Профессионала не заменит никто и ни при каких условиях потому что к знаниям прибавляется опыт, который вряд ли сможет применить AI. А если речь идет про тех, чью работу на себя спокойно готов полностью взять AI - то может быть они и не особо нужны, в виде работников или при договорных отношениях?

ps: Пусть промты учат, пока еще есть время 

[zasad@]

Вы все еще копируйте адреса

https://x.com/lookonchain/status/1860891824363368595

"Всегда дважды проверяйте адрес перед выполнением перевода! Не копируйте адреса из истории транзакций для удобства!

Кто-то потерял $3,08 млн, скопировав неправильный адрес депозита из истории транзакций.

Мошенник создал адрес с теми же первыми 4 символами, что и у правильного адреса депозита, и отправил 0,000001 SOL жертве, в результате чего поддельный адрес появился в истории транзакций. Жертва была неосторожна, увидев, что первые 4 символа совпадают, скопировала адрес напрямую из истории транзакций без двойной проверки. В результате он перевел жертве 7 млн ​​$ PYTH ($3,08 млн). Какой болезненный и дорогостоящий урок!"

[Numeral]

zasad@, я всегда копирую адреса, но потом обязательно проверяю несколько символов на конце. Если сумма большая, скажем в несколько сот долларов и выше, то проверяю символы и спереди адреса, бывает и в середине могу посмотреть. Кстати эту рекомендацию я в этой теме и подчерпнул от кого-то, теперь вот применяю на практике. Но чтобы с нуля забивать адреса посимвольно - такого я еще не делал, в этом случае можно еще больше напортачить.

[jokers10]

Считаю, что это примерно начальный уровень в безопасности, школьникам рассказывать  Типа, по ссылкам не ходить, пароль по сложнее придумать и не засовывать код, в котором не разбираешься - в криптокошелек 

Эта тема находится как раз в разделе для новичков, и мантру про не ходить по ссылкам мы повторяем регулярно, потому что даже сравнительно опытным криптанам иногда не лишним будет вспомнить и азбучные истины. Поэтому всё, на чём могут попасться на крючок мошенников, мы замечаем и пытаемся предупредить окружающих.

zasad@, я всегда копирую адреса, но потом обязательно проверяю несколько символов на конце. Если сумма большая, скажем в несколько сот долларов и выше, то проверяю символы и спереди адреса, бывает и в середине могу посмотреть. Кстати эту рекомендацию я в этой теме и подчерпнул от кого-то, теперь вот применяю на практике. Но чтобы с нуля забивать адреса посимвольно - такого я еще не делал, в этом случае можно еще больше напортачить.

После того, как узнал, что мошенники уже учитывают психологию, когда пользователи проверяют только первые и последние несколько символов, всегда проверяю пару-тройку последовательностей откуда-нибудь из середины публичного адреса тоже, на всякий пожарный.