Рекомендации по использованию ИИ

[zasad@]

Это перевод, выполнен от лица автора theymos. Спасибо ему за информацию!

Я очень оптимистично настроен по поводу ИИ в целом, но его чрезмерное использование на форуме рискует ухудшить соотношение полезной информации/мусорного контента. Никогда не следует публиковать "мусор" любого рода, независимо от того, создан он ИИ или нет. Если модераторы смотрят на чьи-то посты и думают: "Этот человек просто публикует ерунду, чтобы увеличить счетчик сообщений," тогда этого человека следует заблокировать, независимо от источника мусора*. Однако ИИ значительно упрощает и искушает публиковать кучу мусора: на первый взгляд посты кажутся качественными и актуальными, но после прочтения нескольких из них они быстро становятся мусором из-за своей неоригинальности, чрезмерной многословности и скучного однообразного стиля. Также меня беспокоит, что слишком большое количество немаркированного текста, сгенерированного ИИ, может запутать другие ИИ, которые пытаются обучаться на сообщениях форума, что, на мой взгляд, нежелательно, поскольку это ухудшает/делает ИИ неполноценным и мешает отразить наше небольшое сообщество в ИИ. (Вот почему мы не блокируем и не устанавливаем платный доступ для ИИ, пытающихся сканировать форум.) Таким образом, основное правило, которому должны следовать пользователи форума, следующее:

Не копируйте/вставляйте текст, написанный ИИ, в сообщения, за исключением следующих случаев :
 - Если вы четко указываете, что публикуемый вами текст сгенерирован ИИ, и вы публикуете такой сгенерированный ИИ текст лишь изредка и уместно, то это допустимо.
 - Если вы поручаете ИИ сделать почти прямой перевод написанного вами текста, то это допустимо. Например, вы можете сказать ИИ: «Дословно переведите этот текст на испанский: <что-то, что вы написали>» или «Опубликуйте следующий текст в оригинале, за исключением явных орфографических или грамматических ошибок: <что-то, что вы написали>». Недопустимо говорить ИИ: «Улучшите этот текст: <что-то, что вы написали>», поскольку в этом случае он, скорее всего, перепишет его, и это может превратиться в небрежный перевод.
 - Нетекстовый контент, созданный ИИ, например, картинки, постеры и другое искусство, разрешены (при соблюдении обычных правил).

Вы можете использовать ИИ для предложения улучшений грамматики/стиля или для получения идей, которые вы будете внедрять вручную; однако избегайте прямого копирования более нескольких слов из текста ИИ. Тем не менее, я не рекомендую слишком полагаться на советы ИИ по написанию текстов, поскольку наряду с хорошими предложениями он обычно дает и плохие, которые просто лишат ваш текст индивидуальности. Лучше, чтобы ваш текст был несовершенным и отражал вашу истинную сущность, чем «правильным», но лишенным души.

*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями. Поэтому для надлежащей оценки пользователя нам действительно нужно прочитать 20-40 его постов. Но такая оценка (то есть чтение сотен посредственных или плохих постов) очень утомительна, поэтому никто не хочет этим заниматься. Я всё ещё думаю над способами решения этой проблемы, возможно, с переосмыслением системы оценки заслуг.

Перевод сделан по инициативе:

[andy_pelevin]

В целом, запрет злоупотребления ИИ, нужная и даже несколько запоздалая мера, лишь бы эта борьба с ИИ-мусором не привела к полному запрету ИИ-инструментов на форуме.

...
*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями. Поэтому для надлежащей оценки пользователя нам действительно нужно прочитать 20-40 его постов. Но такая оценка (то есть чтение сотен посредственных или плохих постов) очень утомительна, поэтому никто не хочет этим заниматься. Я всё ещё думаю над способами решения этой проблемы, возможно, с переосмыслением системы оценки заслуг.
...

А почему бы не поручить борьбу с ИИ-мусором самому ИИ. Я думаю это не сложно сделать, зачем самому читать по 20-40 постов, ИИ прочитает их за пару секунд и определит кто их писал, пользователь или робот.

[zasad@]

В целом, запрет злоупотребления ИИ, нужная и даже несколько запоздалая мера, лишь бы эта борьба с ИИ-мусором не привела к полному запрету ИИ-инструментов на форуме.

...
*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями. Поэтому для надлежащей оценки пользователя нам действительно нужно прочитать 20-40 его постов. Но такая оценка (то есть чтение сотен посредственных или плохих постов) очень утомительна, поэтому никто не хочет этим заниматься. Я всё ещё думаю над способами решения этой проблемы, возможно, с переосмыслением системы оценки заслуг.
...

А почему бы не поручить борьбу с ИИ-мусором самому ИИ. Я думаю это не сложно сделать, зачем самому читать по 20-40 постов, ИИ прочитает их за пару секунд и определит кто их писал, пользователь или робот.

Я не уверен что определит и косяков не наделает, а потом кому это все разгребать?
Пороться нужно не с постами ИИ а их причиной, тогда и спама от искусственного интеллекта будет меньше. Если будет риск вылететь с подписной или не попадать туда, то участник как раз и подумает о последствиях.

[internetional]

...
*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями. Поэтому для надлежащей оценки пользователя нам действительно нужно прочитать 20-40 его постов. Но такая оценка (то есть чтение сотен посредственных или плохих постов) очень утомительна, поэтому никто не хочет этим заниматься. Я всё ещё думаю над способами решения этой проблемы, возможно, с переосмыслением системы оценки заслуг.
...

А почему бы не поручить борьбу с ИИ-мусором самому ИИ. Я думаю это не сложно сделать, зачем самому читать по 20-40 постов, ИИ прочитает их за пару секунд и определит кто их писал, пользователь или робот.

Я не уверен что определит и косяков не наделает, а потом кому это все разгребать?
Пороться нужно не с постами ИИ а их причиной, тогда и спама от искусственного интеллекта будет меньше. Если будет риск вылететь с подписной или не попадать туда, то участник как раз и подумает о последствиях.

Я представляю себе эту схему так:
- ИИ-агент сканирует все посты на форуме.
- Если ИИ-агент считает, что пользователь ХХХ ничего полезного не написал за свои последние 20-40 постов, а, наоборот, только замусорил форум, - ИИ-агент сообщает об этом модератору.
- В своё сообщение модератору ИИ-агент включает аргументированный разбор, а также ссылки на команды удаления этих постов и на бан самого пользователя.
- А все решения принимает модератор.

В итоге:
- ИИ-агент сам не накосячит;
- разгребать весь мусор, как и сейчас, придётся модераторам;
- но модераторам не нужно тратить время на самостоятельное прочитывание множества постов для оценки вклада пользователя в контент форума. Модераторы могут читать только те посты, которые уже вызвали подозрение у ИИ.

[satscraper]

- ИИ-агент сканирует все посты на форуме.
- Если ИИ-агент считает,

Считает?

Настоящие модели ИИ ничего не могут считать в человеческом понимании этого слова.

Грубо, они конвертируют любой текст в токены и исходя из расматриваемого ими на данный момент токена цепляют к нему следующий, статистически наиболее вероятный, основываясь на той базе данных, на которой они обучались. На выходе может получиться абсолютная белиберда:

[zasad@]

...
*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями. Поэтому для надлежащей оценки пользователя нам действительно нужно прочитать 20-40 его постов. Но такая оценка (то есть чтение сотен посредственных или плохих постов) очень утомительна, поэтому никто не хочет этим заниматься. Я всё ещё думаю над способами решения этой проблемы, возможно, с переосмыслением системы оценки заслуг.
...

А почему бы не поручить борьбу с ИИ-мусором самому ИИ. Я думаю это не сложно сделать, зачем самому читать по 20-40 постов, ИИ прочитает их за пару секунд и определит кто их писал, пользователь или робот.

Я не уверен что определит и косяков не наделает, а потом кому это все разгребать?
Пороться нужно не с постами ИИ а их причиной, тогда и спама от искусственного интеллекта будет меньше. Если будет риск вылететь с подписной или не попадать туда, то участник как раз и подумает о последствиях.

Я представляю себе эту схему так:
- ИИ-агент сканирует все посты на форуме.
- Если ИИ-агент считает, что пользователь ХХХ ничего полезного не написал за свои последние 20-40 постов, а, наоборот, только замусорил форум, - ИИ-агент сообщает об этом модератору.
- В своё сообщение модератору ИИ-агент включает аргументированный разбор, а также ссылки на команды удаления этих постов и на бан самого пользователя.
- А все решения принимает модератор.

В итоге:
- ИИ-агент сам не накосячит;
- разгребать весь мусор, как и сейчас, придётся модераторам;
- но модераторам не нужно тратить время на самостоятельное прочитывание множества постов для оценки вклада пользователя в контент форума. Модераторы могут читать только те посты, которые уже вызвали подозрение у ИИ.

Я немного знаю схему управления форумом. Решение о банах временных или постоянных принимает только глобальный модератор.
В любом случае глобальному модератору придется все проверять в ручную. На форуме и так работает:

Справочная тема по отчетам о спаме в ИИ
https://bitcointalk.org/index.php?topic=5456516.0

И интересные способы ловли ИИ постов

[Smartprofit]

...
*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями. Поэтому для надлежащей оценки пользователя нам действительно нужно прочитать 20-40 его постов. Но такая оценка (то есть чтение сотен посредственных или плохих постов) очень утомительна, поэтому никто не хочет этим заниматься. Я всё ещё думаю над способами решения этой проблемы, возможно, с переосмыслением системы оценки заслуг.
...

А почему бы не поручить борьбу с ИИ-мусором самому ИИ. Я думаю это не сложно сделать, зачем самому читать по 20-40 постов, ИИ прочитает их за пару секунд и определит кто их писал, пользователь или робот.

Я не уверен что определит и косяков не наделает, а потом кому это все разгребать?
Пороться нужно не с постами ИИ а их причиной, тогда и спама от искусственного интеллекта будет меньше. Если будет риск вылететь с подписной или не попадать туда, то участник как раз и подумает о последствиях.

Я представляю себе эту схему так:
- ИИ-агент сканирует все посты на форуме.
- Если ИИ-агент считает, что пользователь ХХХ ничего полезного не написал за свои последние 20-40 постов, а, наоборот, только замусорил форум, - ИИ-агент сообщает об этом модератору.
- В своё сообщение модератору ИИ-агент включает аргументированный разбор, а также ссылки на команды удаления этих постов и на бан самого пользователя.
- А все решения принимает модератор.

В итоге:
- ИИ-агент сам не накосячит;
- разгребать весь мусор, как и сейчас, придётся модераторам;
- но модераторам не нужно тратить время на самостоятельное прочитывание множества постов для оценки вклада пользователя в контент форума. Модераторы могут читать только те посты, которые уже вызвали подозрение у ИИ.

На практике только все будет совсем по другому ... 🙋

Какой-нибудь крысюк захочет получить ваше место в подписной компании. Он прогонит все ваши посты через различные нейросети и найдет 1-2 поста в отношении которых ИИ скажет, что они сгенерированы ИИ с вероятностью, например 60 процентов. Это звучит очень солидно, несмотря на то, что 60 процентов это практически 50 процентов, а 50 процентов на языке ИИ означает - "Или да, или нет, то есть не знаю".

Так как Теймос сделал форум открытым для нейросетей, то одни нейросети будут обучаться на ваших постах, а другие нейросети будут идентифицировать ваши посты, как сгенерированные ИИ. Далее крысюк пришлет сами отчёт вашему менеджеру подписной. Менеджер не будет уверен, сами вы написали этот пост или это сделал ИИ, но определенное сомнение у него возникнет, поэтому он на всякий случай исключит вас из подписной компании. Ревностный крысюк займет ваше место. Как-то так это будет работать.💁

[Alex077]

...
*Я признаю, что за низкокачественные сообщения банят далеко не всех. Основная проблема в том, что мы не хотим банить кого-то только за один-два глупых поста, поскольку это субъективно и может быть связано лишь со странными взглядами человека или его плохими писательскими способностями...

А почему бы не поручить борьбу с ИИ-мусором самому ИИ...

Я не уверен что определит и косяков не наделает, а потом кому это все разгребать?

Я представляю себе эту схему так:
- ИИ-агент сканирует все посты на форуме...

На практике только все будет совсем по другому ... 🙋

Какой-нибудь крысюк захочет получить ваше место в подписной компании. Он прогонит все ваши посты через различные нейросети и найдет 1-2 поста в отношении которых ИИ скажет, что они сгенерированы ИИ с вероятностью, например 60 процентов. Это звучит очень солидно, несмотря на то, что 60 процентов это практически 50 процентов, а 50 процентов на языке ИИ означает - "Или да, или нет, то есть не знаю"...

 Да тут полностью согласен, это будет очень серьезным рычагом для борьбы за место в подписной. И хочу немного добавить, что во первых разные детекторы ИИ - дают абсолютно разный результат, потому, что разные модели обучены на разных данных  и это я говорю о детекторах ИИ из первой десятки. Второе текст написанный человеком может быть на 100% определен как ИИ например в случаях, академического стиля,технических инструкций, переводов(сам с этим столкнулся)и т.д.... Третье - короткие тексты невозможно вообще определить на ИИ.
 Короче очернить человека под предлогом ИИ можно на раз-два, если есть задача освободить место в подписной, а если модератор в вопрос не вникнет то и вовсе испортить всю репутацию.
 И более того, детекторы ИИ-текста - это не ,,сканеры правды,, и не система с одной общей матрицей, это всего лишь модели, которые пытаются на основе каких то шаблонов определить вероятность и не более того.
 В тексте, который вы напишете достаточно дать одну прямую цитату, которая была переведена из иностранного источника и тест может быть определен детектором, как сделанный на ии.
 В общем резюмирую теми же словами, которые написал в другой теме по ии- я бы просто удалял тупые посты вне зависимости от того написаны они ии или нет, а на показания детектора не обращал бы внимание.
 
 

[zasad@]

Какой-нибудь крысюк захочет получить ваше место в подписной компании. Он прогонит все ваши посты через различные нейросети и найдет 1-2 поста в отношении которых ИИ скажет, что они сгенерированы ИИ с вероятностью, например 60 процентов. Это звучит очень солидно, несмотря на то, что 60 процентов это практически 50 процентов, а 50 процентов на языке ИИ означает - "Или да, или нет, то есть не знаю".

Теория интересная, но ..
Баунти менеджеры выбирают участников не на бум, на самом деле там есть интересный алгоритм. Тайну они из этого не делают, но и особо не делятся открыто.
Я спросил в ЛС и мне ответили.
Случай был, когда в чипмиксере участник форума нашел ферму из 3 человек вроде, так его взамен не взяли. Я бы на месте желающего сначала бы провел небольшой рисерч тех кого взяли и старался бы. Иначе такими кляузами менеджера против себя настроишь.