Рекомендации по использованию ИИ на форуl

[Btcroar]

zasad, благодарю за развернутый ответ, сейчас я вроде понял о чём ты. Насчёт защиты от иишного спама спорить не буду,  понятно что, боты сейчас легко любой живой форум могут в помойку превратить .
Хорошо, что пояснили всё без лишней ругани . Спасибо за  нормальное общение, всё понял, вопросов больше нет.

[Zarya Volk]

При железных доказательствах использования ИИ, обвинения были бы здесь.

Проблема в том, что для разработки системы подтверждения для текстов не на английском языке, которая будет принята модераторами, нужно отдельно потрудиться. Значительная часть достаточно надёжных детекторов либо совсем не работает с текстами на других языках, либо пока мало тестировалась. Поэтому вопрос железных доказательств это, помимо прочего, вопрос чьего-то времени, которое нужно потратить на то, чтобы этот пучок свежезарегистрированных аккаунтов, постящих ИИ-шлак, разложить по полочкам. И рано или поздно у кого-то нервы не выдержат, и время будет потрачено, и результат будет соответствующий. А пока мы наблюдаем этот потом ИИ-спама. Если это не попытка такого троллинга, а реальная попытка раскачивать аккаунты, то результат вряд ли окажется позитивный, потому что при проработанной системе доказательства использования ИИ для текстов на русском языке, которые будут приняты модераторами, весь этот пучок аккаунтов улетит одним потоком.

Но до тех пор, пока у нас не появятся детекторы, которые работают с неанглоязычными текстами, не имело бы смысла рассмотреть другие методы идентификации ботов? Многие жалуются на стены текста, которые публикуются по многим темам. Если большое количество этих постов принадлежит ботам, как было указано, то это показатель. Кроме того, тот факт, что посты кажутся неестественно похожими (без опечаток и т. д.) и лишены конкретики, такой как примеры из реальной жизни, плюс публикация подозрительно большого количества комментариев очень быстро — это явный признак новых аккаунтов. Возможно, модераторы могли бы использовать это как основание для временных ограничений на публикацию, пока не будет собрано больше информации?

pangram.com утверждает, что обнаруживает посты практически на всех языках, включая русский, и считается одним из самых точных. Возможно, стоит изучить, подойдёт ли это нам? Кажется, это сэкономит время и удержит реальных пользователей от ухода по сравнению с написанием собственных детекторов и ожиданием, пока пользователи накопят историю на форуме. Даже если окажется, что это неточно для наших целей, гораздо проще попробовать это, чем писать собственный детектор с нуля.

Я знаю, что блокировка без веских доказательств может быть сложной. Но если мы ничего не предпримем, мы будем продолжать терять пользователей форума, потому что они устанут пробираться сквозь спам и уйдут. Даже если это займёт от шести месяцев до года, а затем мы сможем массово блокировать, мы не вернём пользователей, которые ушли из-за этого спама.

[jokers10]

Но до тех пор, пока у нас не появятся детекторы, которые работают с неанглоязычными текстами, не имело бы смысла рассмотреть другие методы идентификации ботов?

Такие детекторы есть, разные методы тоже есть, вопрос в разработке такой системы, которая не будет давать ложноположительные результаты при оценке постинга пользователей и будет приниматься модераторами как достаточно доверенная, чтобы ею пользоваться. Маловероятно, что любой один детектор подойдёт для этих целей. Соответственно, нужно, чтобы нашёлся кто-то, кто уже имеет подобный опыт, у кого нашлось бы достаточно времени для того, чтобы провести множество тестов, в том числе априори написанных человеком тестов. И это будет сделано, и весь этот откровенно ИИшный выводок аккаунтов схлопнется. У меня сейчас на это тупо нет времени, но кто знает... ИИшные тексты-то по прежнему на форуме, они и через несколько дней, и через месяц никуда не денутся, так что соответствующие отзывы в трасте и модераторские действия непременно будут.

[Zarya Volk]

Но до тех пор, пока у нас не появятся детекторы, которые работают с неанглоязычными текстами, не имело бы смысла рассмотреть другие методы идентификации ботов?

Такие детекторы есть, разные методы тоже есть, вопрос в разработке такой системы, которая не будет давать ложноположительные результаты при оценке постинга пользователей и будет приниматься модераторами как достаточно доверенная, чтобы ею пользоваться. Маловероятно, что любой один детектор подойдёт для этих целей. Соответственно, нужно, чтобы нашёлся кто-то, кто уже имеет подобный опыт, у кого нашлось бы достаточно времени для того, чтобы провести множество тестов, в том числе априори написанных человеком тестов. И это будет сделано, и весь этот откровенно ИИшный выводок аккаунтов схлопнется. У меня сейчас на это тупо нет времени, но кто знает... ИИшные тексты-то по прежнему на форуме, они и через несколько дней, и через месяц никуда не денутся, так что соответствующие отзывы в трасте и модераторские действия непременно будут.

Это звучит как то, чем лучше заняться модераторам и превратить это в официальный проект. Ложные срабатывания станут серьёзной проблемой, которая сделает инструмент нежизнеспособным, а у вас не будет времени исправить это самостоятельно. Потребуются годы постоянной работы, чтобы нормально его протестировать. Начните с подачи ему материалов, которые явно написаны людьми — например, старых постов уважаемых давних участников форума. Если он пометит один из этих постов (что вполне возможно, учитывая их структурированный стиль письма), вы будете точно знать, где он сбоит. Вот почему вам нужна команда добровольцев, по моему опыту.

[KTChampions]

Такие детекторы есть, разные методы тоже есть, вопрос в разработке такой системы, которая не будет давать ложноположительные результаты при оценке постинга пользователей и будет приниматься модераторами как достаточно доверенная, чтобы ею пользоваться. ~

Вряд ли создание такой системы возможно + придется отойти от принятого (в основном) подхода на бтт, что должны быть прямые доказательства, а не хоть на 100% обоснованные сомнения. Я думаю вы помните битвы в Репутации, когда отпетые скамеры довольно долго от ответственности увиливали пока не были собраны формальные доказательства.
И еще, с учетом того что ИИшки прогрессируют, в будущем будет труднее различать тупого пользователя от умной ИИшки, в том смысле что пользователь будет выглядеть для соображающего человека больше похожим на ИИ чем сам ИИ.
Те боты которые сейчас на форуме плодятся это нищета какая-то, явно бесплатные/околобесплатные модели трудятся. Если кто-то всерьез за дело возьмется то вы таких тайкури (не помню как его ник латиницей пищется) увидите что не порадуетесь  

[jokers10]

Вряд ли создание такой системы возможно + придется отойти от принятого (в основном) подхода на бтт, что должны быть прямые доказательства, а не хоть на 100% обоснованные сомнения. Я думаю вы помните битвы в Репутации, когда отпетые скамеры довольно долго от ответственности увиливали пока не были собраны формальные доказательства.
И еще, с учетом того что ИИшки прогрессируют, в будущем будет труднее различать тупого пользователя от умной ИИшки, в том смысле что пользователь будет выглядеть для соображающего человека больше похожим на ИИ чем сам ИИ.
Те боты которые сейчас на форуме плодятся это нищета какая-то, явно бесплатные/околобесплатные модели трудятся. Если кто-то всерьез за дело возьмется то вы таких тайкури (не помню как его ник латиницей пищется) увидите что не порадуетесь  

Чтобы ловить хорошо закомуфлированный ИИ-постинг систему не разработаешь, максимум будут теги в трасте от особо смелых пользователей типа Лосева, которые ИИ-теги ставят просто по наитию, ещё до того, как кто-либо детекторами всё подтвердит. По сути, если на глаз ИИ-постинг реально перестанет быть отличим, то никакие детекторы уже не спасут. По сути, пока что выглядит так, что модели форумов типа БТТ доживают свои последние деньки, пережить активничающих ИИ-ботов форумам будет невероятно сложно.

[zasad@]

ИИ будут развиваться, но они будут отличаться по поведению от реальных пользователей. Предположим что на этом фронте война проиграна, но мы можем сделать так, чтобы это не было выгодно экономически.
Тогда любой спамер быстро потеряет интерес к этому занятию.
Я думаю здесь все используют ИИ для поиска и анализа информации и от ИИ постов все равно "пахнет" машинной стилистикой.

[lovesmayfamilis]

pangram.com утверждает, что обнаруживает посты практически на всех языках, включая русский, и считается одним из самых точных.

Обычно люди проверяют все инструменты на собственном опыте, и далее начинают их советовать. Но смотрите что показывает этот "всемогущий" детектор, в который я поставила ваш пост( это бесплатная версия, вероятно платная и новейшая, покажет нам что-то великое).

Это звучит как то, чем лучше заняться модераторам и превратить это в официальный проект. Ложные срабатывания станут серьёзной проблемой, которая сделает инструмент нежизнеспособным, а у вас не будет времени исправить это самостоятельно. Потребуются годы постоянной работы, чтобы нормально его протестировать. Начните с подачи ему материалов, которые явно написаны людьми — например, старых постов уважаемых давних участников форума. Если он пометит один из этих постов (что вполне возможно, учитывая их структурированный стиль письма), вы будете точно знать, где он сбоит. Вот почему вам нужна команда добровольцев, по моему опыту.

И да, тут снова эти длинные тире, которые детекторы никак не хотят принимать за человеческие. Я не знаю, пишите ли вы, используя ИИ, или это уже ваш стиль письма, похож на бота, но результат , увы, показывает нечеловеческий( только этот пост, уточняю).
Есть сайт, который "как будто" убирает лишние невидимые символы, которые обычно добавляет ИИ к своим текстам. Не знаю насколько это полезно...

Попробуйте. https://wertigo.ru/text/remove-ai-traces

[Zarya Volk]

...

Спасибо за предупреждение. И спасибо за скриншот, я рад, что у меня есть к нему доступ. Я привык использовать больше тире, чем, вероятно, следовало бы, но я использую их, чтобы выделить идеи, которые хочу подчеркнуть, там, где другие могли бы использовать запятые или скобки. Я постараюсь сократить их в будущем, хотя это будет непросто. Из любопытства я проверил некоторые из моих других постов на форуме с помощью того же детектора, и (к счастью) они почти все в порядке. Однако это поднимает интересный вопрос о том, что именно считается сгенерированным ИИ, по-видимому, чёткие, хорошо структурированные посты с большим количеством тире становятся первыми кандидатами.
Это немного тревожит: одно дело ложные срабатывания, но было бы проблематично, если бы чёткие, хорошо структурированные посты с большей вероятностью удалялись с форума по подозрению в ИИ. Из любопытства я могу попробовать этот очиститель, но, чтобы быть точным, это исключительно из интереса, а не попытка что-то скрыть. Ещё раз спасибо, что сообщили, ценю это.