Дзен. Алгоритм и «шокирующий контент»

Шокирующий контент. Сколько авторов Дзена сталкивались с ним! — точнее с ограничением в показах статьи из-за того, что искусственный интеллект Дзена обнаружил его в тексте.

Вот сегодня и поговорим немного о шокирующем контенте и словарном запасе ИИ Дзена (ИИ — искусственный интеллект). Дабы не быть голословными — смотрим в справку самого Яндекса:

chto-schitaetsya-shokiruyushchim-kontentom-v-dzene
Скриншот из соответствующего раздела Яндекс Справки

И то же самое — словами, вдруг изображение кому-либо плохо видно.

Шокирующий контент — это описание или изображение:

  • жертв катастроф и насильственных действий (людей и животных);
  • травм, болезней, уродств, трупов;
  • детализированного процесса родов;
  • насекомых и животных, чей вид вызывает отвращение.

В Дзене запрещено размещать такой контент, даже если он уместен в рамках вашего канала. Мы не хотим, чтобы публикации Дзена пугали или шокировали пользователей. Каналы с шок-контентом блокируются без возможности восстановления.

Казалось бы, это касается в основном новостных каналов, поскольку там достаточно много внимания уделяется происшествиям и криминалу, а также каких-либо специализированных каналов, посвященных терапии, акушерству, ветеринарии или каким-нибудь более узким и «экзотическим» направлениям — гельминтологии, например.

Но, увы и ах — это касается всех без исключения: ни один автор на Дзене не может быть спокоен в отношении того, что ИИ Дзена (он же — алгоритм, система) не увидит в его публикации шокирующий контент.

Шокирующий контент отсутствует, а алгоритм его находит

  • пишете про животных — упаси Боже вас упомянуть про мандибулы и хелицеры (если уж совсем по-простому, мандибулы и хелицеры имеют отношение к ротовому аппарату членистоногих, жуков, в частности) — это же такая «страшная» штука! — «не каждый пользователь захочет видеть это в своей ленте». А уж если вы изображение соответствующее вставите, это все! — полный шок!
helicery-falangi-foto-s-sajta-national-travel-ru
Хелицеры фаланги | Фото с сайта national-travel.ru
  • ваша тематика — автомобили? — избегайте таких слов, которые могут натолкнуть ИИ на «мысль», что речь идет о ДТП;
  • пишете обо всем понемногу и ваш канал больше напоминает дневник? — не вздумайте использовать слова, которые наведут на мысль, что речь идет об издевательствах, то бишь, о насильственных действиях. Вы написали, к примеру, «и подверг куру «экзекуции»», подразумевая процесс обжарки или варки — и, все, алгоритм увидит в этом шокирующий контент.

Иными словами, о чем бы вы ни писали на Дзене, пишите аккуратно и осторожно — ИИ шокирующий контент находит запросто. Причина проста: словарный запас ИИ Дзена хотя и большой, зато понимание — ограниченное. Ну, не умеет алгоритм понимать слова в контексте всего текста. Не умеет — и все.

Например, использовали вы в заголовке словосочетание «Как я чуть не утонул…» — для ИИ Дзена это будет шокирующий контент. Почему? — да потому, что «чуть» не считается — человек ведь утонул. Напишете где-нибудь в тексте «сгорел дотла» — это тоже может быть воспринято как шокирующий контент.

Один из свежих примеров, не совсем правда про шокирующий контент, но не суть: слова «кобель» и «сука» — нормативные, литературные слова, обозначающие, соответственно, самца и самку собаки. Однако, за использование этих слов алгоритм Дзена ограничил публикацию — на карточке было написано, что в тексте сниженная лексика. Хорошо, что статью я не редактировала, и специалисты могли проверить ее вручную — признали ошибку. Однако время было упущено — три или четыре дня, что ушли на ее перепроверку (пока очередь дошла), статья была ограничена в показах, потеряна куча просмотров. Потом ее, конечно, стали показывать, но она уже не была в числе свежих.

И таких случаев далеко не один.

Искусственный Интеллект — это интеллект, но не человеческий. И об этом не стоит забывать. ИИ понимает все буквально. Человек способен понимать в контексте.

Нажмите на звезду, чтобы оценить!

Средняя оценка / 5. Количество оценок:

Оценок пока нет. Поставьте оценку первым.

Понравилась запись — поделитесь в социальных сетях, вам не сложно, а автору приятно )))
Подписаться
Уведомить о
guest
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x