Рекомендации по использованию ИИ на форуl

[Btcroar]

zasad, благодарю за развернутый ответ, сейчас я вроде понял о чём ты. Насчёт защиты от иишного спама спорить не буду,  понятно что, боты сейчас легко любой живой форум могут в помойку превратить .
Хорошо, что пояснили всё без лишней ругани . Спасибо за  нормальное общение, всё понял, вопросов больше нет.

[Zarya Volk]

При железных доказательствах использования ИИ, обвинения были бы здесь.

Проблема в том, что для разработки системы подтверждения для текстов не на английском языке, которая будет принята модераторами, нужно отдельно потрудиться. Значительная часть достаточно надёжных детекторов либо совсем не работает с текстами на других языках, либо пока мало тестировалась. Поэтому вопрос железных доказательств это, помимо прочего, вопрос чьего-то времени, которое нужно потратить на то, чтобы этот пучок свежезарегистрированных аккаунтов, постящих ИИ-шлак, разложить по полочкам. И рано или поздно у кого-то нервы не выдержат, и время будет потрачено, и результат будет соответствующий. А пока мы наблюдаем этот потом ИИ-спама. Если это не попытка такого троллинга, а реальная попытка раскачивать аккаунты, то результат вряд ли окажется позитивный, потому что при проработанной системе доказательства использования ИИ для текстов на русском языке, которые будут приняты модераторами, весь этот пучок аккаунтов улетит одним потоком.

Но до тех пор, пока у нас не появятся детекторы, которые работают с неанглоязычными текстами, не имело бы смысла рассмотреть другие методы идентификации ботов? Многие жалуются на стены текста, которые публикуются по многим темам. Если большое количество этих постов принадлежит ботам, как было указано, то это показатель. Кроме того, тот факт, что посты кажутся неестественно похожими (без опечаток и т. д.) и лишены конкретики, такой как примеры из реальной жизни, плюс публикация подозрительно большого количества комментариев очень быстро — это явный признак новых аккаунтов. Возможно, модераторы могли бы использовать это как основание для временных ограничений на публикацию, пока не будет собрано больше информации?

pangram.com утверждает, что обнаруживает посты практически на всех языках, включая русский, и считается одним из самых точных. Возможно, стоит изучить, подойдёт ли это нам? Кажется, это сэкономит время и удержит реальных пользователей от ухода по сравнению с написанием собственных детекторов и ожиданием, пока пользователи накопят историю на форуме. Даже если окажется, что это неточно для наших целей, гораздо проще попробовать это, чем писать собственный детектор с нуля.

Я знаю, что блокировка без веских доказательств может быть сложной. Но если мы ничего не предпримем, мы будем продолжать терять пользователей форума, потому что они устанут пробираться сквозь спам и уйдут. Даже если это займёт от шести месяцев до года, а затем мы сможем массово блокировать, мы не вернём пользователей, которые ушли из-за этого спама.

[jokers10]

Но до тех пор, пока у нас не появятся детекторы, которые работают с неанглоязычными текстами, не имело бы смысла рассмотреть другие методы идентификации ботов?

Такие детекторы есть, разные методы тоже есть, вопрос в разработке такой системы, которая не будет давать ложноположительные результаты при оценке постинга пользователей и будет приниматься модераторами как достаточно доверенная, чтобы ею пользоваться. Маловероятно, что любой один детектор подойдёт для этих целей. Соответственно, нужно, чтобы нашёлся кто-то, кто уже имеет подобный опыт, у кого нашлось бы достаточно времени для того, чтобы провести множество тестов, в том числе априори написанных человеком тестов. И это будет сделано, и весь этот откровенно ИИшный выводок аккаунтов схлопнется. У меня сейчас на это тупо нет времени, но кто знает... ИИшные тексты-то по прежнему на форуме, они и через несколько дней, и через месяц никуда не денутся, так что соответствующие отзывы в трасте и модераторские действия непременно будут.

[Zarya Volk]

Но до тех пор, пока у нас не появятся детекторы, которые работают с неанглоязычными текстами, не имело бы смысла рассмотреть другие методы идентификации ботов?

Такие детекторы есть, разные методы тоже есть, вопрос в разработке такой системы, которая не будет давать ложноположительные результаты при оценке постинга пользователей и будет приниматься модераторами как достаточно доверенная, чтобы ею пользоваться. Маловероятно, что любой один детектор подойдёт для этих целей. Соответственно, нужно, чтобы нашёлся кто-то, кто уже имеет подобный опыт, у кого нашлось бы достаточно времени для того, чтобы провести множество тестов, в том числе априори написанных человеком тестов. И это будет сделано, и весь этот откровенно ИИшный выводок аккаунтов схлопнется. У меня сейчас на это тупо нет времени, но кто знает... ИИшные тексты-то по прежнему на форуме, они и через несколько дней, и через месяц никуда не денутся, так что соответствующие отзывы в трасте и модераторские действия непременно будут.

Это звучит как то, чем лучше заняться модераторам и превратить это в официальный проект. Ложные срабатывания станут серьёзной проблемой, которая сделает инструмент нежизнеспособным, а у вас не будет времени исправить это самостоятельно. Потребуются годы постоянной работы, чтобы нормально его протестировать. Начните с подачи ему материалов, которые явно написаны людьми — например, старых постов уважаемых давних участников форума. Если он пометит один из этих постов (что вполне возможно, учитывая их структурированный стиль письма), вы будете точно знать, где он сбоит. Вот почему вам нужна команда добровольцев, по моему опыту.

[KTChampions]

Такие детекторы есть, разные методы тоже есть, вопрос в разработке такой системы, которая не будет давать ложноположительные результаты при оценке постинга пользователей и будет приниматься модераторами как достаточно доверенная, чтобы ею пользоваться. ~

Вряд ли создание такой системы возможно + придется отойти от принятого (в основном) подхода на бтт, что должны быть прямые доказательства, а не хоть на 100% обоснованные сомнения. Я думаю вы помните битвы в Репутации, когда отпетые скамеры довольно долго от ответственности увиливали пока не были собраны формальные доказательства.
И еще, с учетом того что ИИшки прогрессируют, в будущем будет труднее различать тупого пользователя от умной ИИшки, в том смысле что пользователь будет выглядеть для соображающего человека больше похожим на ИИ чем сам ИИ.
Те боты которые сейчас на форуме плодятся это нищета какая-то, явно бесплатные/околобесплатные модели трудятся. Если кто-то всерьез за дело возьмется то вы таких тайкури (не помню как его ник латиницей пищется) увидите что не порадуетесь  

[jokers10]

Вряд ли создание такой системы возможно + придется отойти от принятого (в основном) подхода на бтт, что должны быть прямые доказательства, а не хоть на 100% обоснованные сомнения. Я думаю вы помните битвы в Репутации, когда отпетые скамеры довольно долго от ответственности увиливали пока не были собраны формальные доказательства.
И еще, с учетом того что ИИшки прогрессируют, в будущем будет труднее различать тупого пользователя от умной ИИшки, в том смысле что пользователь будет выглядеть для соображающего человека больше похожим на ИИ чем сам ИИ.
Те боты которые сейчас на форуме плодятся это нищета какая-то, явно бесплатные/околобесплатные модели трудятся. Если кто-то всерьез за дело возьмется то вы таких тайкури (не помню как его ник латиницей пищется) увидите что не порадуетесь  

Чтобы ловить хорошо закомуфлированный ИИ-постинг систему не разработаешь, максимум будут теги в трасте от особо смелых пользователей типа Лосева, которые ИИ-теги ставят просто по наитию, ещё до того, как кто-либо детекторами всё подтвердит. По сути, если на глаз ИИ-постинг реально перестанет быть отличим, то никакие детекторы уже не спасут. По сути, пока что выглядит так, что модели форумов типа БТТ доживают свои последние деньки, пережить активничающих ИИ-ботов форумам будет невероятно сложно.

[zasad@]

ИИ будут развиваться, но они будут отличаться по поведению от реальных пользователей. Предположим что на этом фронте война проиграна, но мы можем сделать так, чтобы это не было выгодно экономически.
Тогда любой спамер быстро потеряет интерес к этому занятию.
Я думаю здесь все используют ИИ для поиска и анализа информации и от ИИ постов все равно "пахнет" машинной стилистикой.

[lovesmayfamilis]

pangram.com утверждает, что обнаруживает посты практически на всех языках, включая русский, и считается одним из самых точных.

Обычно люди проверяют все инструменты на собственном опыте, и далее начинают их советовать. Но смотрите что показывает этот "всемогущий" детектор, в который я поставила ваш пост( это бесплатная версия, вероятно платная и новейшая, покажет нам что-то великое).

Это звучит как то, чем лучше заняться модераторам и превратить это в официальный проект. Ложные срабатывания станут серьёзной проблемой, которая сделает инструмент нежизнеспособным, а у вас не будет времени исправить это самостоятельно. Потребуются годы постоянной работы, чтобы нормально его протестировать. Начните с подачи ему материалов, которые явно написаны людьми — например, старых постов уважаемых давних участников форума. Если он пометит один из этих постов (что вполне возможно, учитывая их структурированный стиль письма), вы будете точно знать, где он сбоит. Вот почему вам нужна команда добровольцев, по моему опыту.

И да, тут снова эти длинные тире, которые детекторы никак не хотят принимать за человеческие. Я не знаю, пишите ли вы, используя ИИ, или это уже ваш стиль письма, похож на бота, но результат , увы, показывает нечеловеческий( только этот пост, уточняю).
Есть сайт, который "как будто" убирает лишние невидимые символы, которые обычно добавляет ИИ к своим текстам. Не знаю насколько это полезно...

Попробуйте. https://wertigo.ru/text/remove-ai-traces

[Zarya Volk]

...

Спасибо за предупреждение. И спасибо за скриншот, я рад, что у меня есть к нему доступ. Я привык использовать больше тире, чем, вероятно, следовало бы, но я использую их, чтобы выделить идеи, которые хочу подчеркнуть, там, где другие могли бы использовать запятые или скобки. Я постараюсь сократить их в будущем, хотя это будет непросто. Из любопытства я проверил некоторые из моих других постов на форуме с помощью того же детектора, и (к счастью) они почти все в порядке. Однако это поднимает интересный вопрос о том, что именно считается сгенерированным ИИ, по-видимому, чёткие, хорошо структурированные посты с большим количеством тире становятся первыми кандидатами.
Это немного тревожит: одно дело ложные срабатывания, но было бы проблематично, если бы чёткие, хорошо структурированные посты с большей вероятностью удалялись с форума по подозрению в ИИ. Из любопытства я могу попробовать этот очиститель, но, чтобы быть точным, это исключительно из интереса, а не попытка что-то скрыть. Ещё раз спасибо, что сообщили, ценю это.

[jokers10]

Предположим что на этом фронте война проиграна, но мы можем сделать так, чтобы это не было выгодно экономически.

К сожалению, не можем. Подписные это только часть финансового интереса. Тайный шиллинг тех или иных проектов и/или идей это отдельное направление, которое при снижении стоимости использования начинает массово внедряться, а это пока что, видимо, экономически оправдано, поэтому ботопостинг инфильтрует всё подряд, где только возможно. Для имитации обычных пользователей доля напрямую шиллерских постов может становиться всё меньше, но сам по себе ботопостинг вреден для общей атмосферы сам по себе... Остаётся надеяться, что какие-то варианты всё-таки придумают, но... пока вариантов победить в этом противостоянии в перспективе я не вижу, к сожалению.

[internetional]

Есть сайт, который "как будто" убирает лишние невидимые символы, которые обычно добавляет ИИ к своим текстам. Не знаю насколько это полезно...

Попробуйте. https://wertigo.ru/text/remove-ai-traces

А что это за невидимые символы? И какая модель их добавляет?

У меня на одном сайте ChatGPT переводит весь контент на несколько языков. Потом скрипт берёт переведённый текст в формате MD и конвертирует его в HTML. Я ещё ни в одном исходнике HTML не заметил лишних символов.

Как-то это слишком банально - добавлять невидимые символы. Не верится, что ИИ это делает.   

[lovesmayfamilis]

Есть сайт, который "как будто" убирает лишние невидимые символы, которые обычно добавляет ИИ к своим текстам. Не знаю насколько это полезно...

Попробуйте. https://wertigo.ru/text/remove-ai-traces

А что это за невидимые символы? И какая модель их добавляет?

У меня на одном сайте ChatGPT переводит весь контент на несколько языков. Потом скрипт берёт переведённый текст в формате MD и конвертирует его в HTML. Я ещё ни в одном исходнике HTML не заметил лишних символов.

Как-то это слишком банально - добавлять невидимые символы. Не верится, что ИИ это делает.   

https://lenta.ru/twz/budushee/kto-markiruet-neirokontent.htm

Я же сделала скриншот всех невидимых символов. Я не использую ИИ, чтобы говорить уверенно, что я их вижу. Но сейчас очень популярно говорить, что тексты от ИИ некоторые детекторы могут определять даже по этим символам. Есть несколько сайтов, как будто выполняющих такие действия. Что я поняла, так это только то, что длинное тире, они превращают в обычное, и изменяют кавычки.

Просто пройдитесь поиском Очистите ваш текст от следов AI, кажется что одни делают ИИ, а другие ,будто, борятся против него, и все, естественно, платно😆.

https://markway.ru/blog/kak-ubrat-vodyanoj-znak-nejroseti-skryvaem-sledy/

[internetional]

Я же сделала скриншот всех невидимых символов.

А где этот скриншот?

Что касается заметки ЛентыРу про маркировку нейроконтента, я скормил эту заметку Клоду и попросил объяснить, правда ли это и как осуществляется такая маркировка. Он сказал, что такие технологии базируются не на невидимых символах, а на незаметных читателю паттернах.

Он мне привёл такой грубый пример, иллюстрирующий принцип используемого подхода:
- Нейросеть выбирает слова так, чтобы через 10 символов после символа A ровно в 14% случаев стоял символ B. Данный паттерн является "подписью" этой нейросети.
- Производитель нейросети даёт проверяющему органу специальный ключ, который проверяет эту "подпись": подсчитывает, в скольких процентах случаев через 10 символов после A в тексте находится B. Если оказывается, что ровно в 14%, то "подпись" признаётся удостоверенной.
- Если текст был модифицирован, и в него добавили абзацы или предложения, то ключ покажет, какие части текста соответствуют искомому паттерну, а какие - нет.
- Ключ зашифрован таким образом, что даже проверяющий не знает, какие именно паттерны он ищет.

[Zarya Volk]

Есть сайт, который "как будто" убирает лишние невидимые символы, которые обычно добавляет ИИ к своим текстам. Не знаю насколько это полезно...

Попробуйте. https://wertigo.ru/text/remove-ai-traces

А что это за невидимые символы? И какая модель их добавляет?

У меня на одном сайте ChatGPT переводит весь контент на несколько языков. Потом скрипт берёт переведённый текст в формате MD и конвертирует его в HTML. Я ещё ни в одном исходнике HTML не заметил лишних символов.

Как-то это слишком банально - добавлять невидимые символы. Не верится, что ИИ это делает.   

Это может произойти, да, но я бы не стал полагаться на это как на надежный способ обнаружения текста, сгенерированного ИИ.

Были сообщения о том, что модели ИИ выводят текст с невидимыми символами (например, пробелом нулевой ширины (U+200B) или неразрывным пробелом (U+00A0)) вместо обычных символов, хотя OpenAI подтвердила, что это не функция, а баг.
Что касается того, как их обнаружить, мне удалось выделить их в MS Word, нажав Ctrl+Shift+8, что отображает обычные пробелы в виде точек, а скрытые пробелы в виде кружков. Это подтверждалось и в редакторах кода.

Однако я не думаю, что это будет надёжным способом обнаружения текста, сгенерированного ИИ, ведь вы вполне можете быть правы: ни один из них может не пройти через ваш скрипт MD→HTML. Разные модели могут выводить их больше или меньше, это может зависеть от способа копирования текста и т. д.