Дзен. Алгоритм и «шокирующий контент»
Шокирующий контент. Сколько авторов Дзена сталкивались с ним! — точнее с ограничением в показах статьи из-за того, что искусственный интеллект Дзена обнаружил его в тексте.
Вот сегодня и поговорим немного о шокирующем контенте и словарном запасе ИИ Дзена (ИИ — искусственный интеллект). Дабы не быть голословными — смотрим в справку самого Яндекса:
И то же самое — словами, вдруг изображение кому-либо плохо видно.
Шокирующий контент — это описание или изображение:
- жертв катастроф и насильственных действий (людей и животных);
- травм, болезней, уродств, трупов;
- детализированного процесса родов;
- насекомых и животных, чей вид вызывает отвращение.
В Дзене запрещено размещать такой контент, даже если он уместен в рамках вашего канала. Мы не хотим, чтобы публикации Дзена пугали или шокировали пользователей. Каналы с шок-контентом блокируются без возможности восстановления.
Казалось бы, это касается в основном новостных каналов, поскольку там достаточно много внимания уделяется происшествиям и криминалу, а также каких-либо специализированных каналов, посвященных терапии, акушерству, ветеринарии или каким-нибудь более узким и «экзотическим» направлениям — гельминтологии, например.
Но, увы и ах — это касается всех без исключения: ни один автор на Дзене не может быть спокоен в отношении того, что ИИ Дзена (он же — алгоритм, система) не увидит в его публикации шокирующий контент.
Шокирующий контент отсутствует, а алгоритм его находит
- пишете про животных — упаси Боже вас упомянуть про мандибулы и хелицеры (если уж совсем по-простому, мандибулы и хелицеры имеют отношение к ротовому аппарату членистоногих, жуков, в частности) — это же такая «страшная» штука! — «не каждый пользователь захочет видеть это в своей ленте». А уж если вы изображение соответствующее вставите, это все! — полный шок!
- ваша тематика — автомобили? — избегайте таких слов, которые могут натолкнуть ИИ на «мысль», что речь идет о ДТП;
- пишете обо всем понемногу и ваш канал больше напоминает дневник? — не вздумайте использовать слова, которые наведут на мысль, что речь идет об издевательствах, то бишь, о насильственных действиях. Вы написали, к примеру, «и подверг куру «экзекуции»», подразумевая процесс обжарки или варки — и, все, алгоритм увидит в этом шокирующий контент.
Иными словами, о чем бы вы ни писали на Дзене, пишите аккуратно и осторожно — ИИ шокирующий контент находит запросто. Причина проста: словарный запас ИИ Дзена хотя и большой, зато понимание — ограниченное. Ну, не умеет алгоритм понимать слова в контексте всего текста. Не умеет — и все.
Например, использовали вы в заголовке словосочетание «Как я чуть не утонул…» — для ИИ Дзена это будет шокирующий контент. Почему? — да потому, что «чуть» не считается — человек ведь утонул. Напишете где-нибудь в тексте «сгорел дотла» — это тоже может быть воспринято как шокирующий контент.
Один из свежих примеров, не совсем правда про шокирующий контент, но не суть: слова «кобель» и «сука» — нормативные, литературные слова, обозначающие, соответственно, самца и самку собаки. Однако, за использование этих слов алгоритм Дзена ограничил публикацию — на карточке было написано, что в тексте сниженная лексика. Хорошо, что статью я не редактировала, и специалисты могли проверить ее вручную — признали ошибку. Однако время было упущено — три или четыре дня, что ушли на ее перепроверку (пока очередь дошла), статья была ограничена в показах, потеряна куча просмотров. Потом ее, конечно, стали показывать, но она уже не была в числе свежих.
И таких случаев далеко не один.
Искусственный Интеллект — это интеллект, но не человеческий. И об этом не стоит забывать. ИИ понимает все буквально. Человек способен понимать в контексте.
