Работа с текстами с помощью ИИ: польза, риски и как избежать ошибок

С одной стороны, ИИ в этом деле здорово экономит время. А вот с другой — появляется «зона риска»: тексты могут быть идеальными, но с искажёнными фактами и «галлюцинациями».

Профессор Института медиа НИУ ВШЭ Марина Королёва рассказала, чем ИИ-текст отличается от обычного, в чём главные ошибки нейросетей и как не попасть в их ловушки.

Как заподозрить авторство ИИ?

Есть несколько типичных «сигналов», что текст сгенерирован нейросетью. Даже если выглядит он безупречно.

1. Слишком «гладко».

Это когда текст читается идеально ровно, в одном ритме, без шероховатостей и «сбоев», которые обычно допускает каждый человек. Вроде бы и хорошо, что текст безупречен, но именно за этой идеальностью и кроется ИИ.

2. Странные речевые ошибки.

Речь о ситуациях, когда в тексте встречается нетипичный порядок слов и подобные стилистические ошибки. Как будто писал иностранец. Этот признак встречается нечасто, но внимание привлекает.

Естественно, ошибиться может и человек, не стоит сразу приписывать авторство нейросетям. Но если заметили несколько признаков, лучше внимательно перепроверить.

Насколько грамотен ИИ?

Если говорить об основных правилах орфографии, пунктуации и других чётких требованиях, здесь нейросети нередко справляются лучше многих людей. То есть доверить проверку запятых ИИ можно.

Опасность в другом: за безупречным текстом, написанным по всем правилам, не всегда видны «галлюцинации» искусственного интеллекта. Проще говоря — откровенные выдумки.

О фантазиях нейросетей

Яркий пример последних лет, по словам Королёвой, — списки литературы в дипломных работах. Участились ситуации, когда источники вроде бы выглядят правдоподобно, да и оформлено всё по правилам. Но при проверке выясняется, что таких книг не существует. И авторов тоже. То есть нейросеть просто выдумывает источники, подходящие к теме.

Бывают и совсем креативные «галлюцинации».

«Я просила один из ИИ-чатов подсказать, где можно перекусить в центре Москвы недалеко от Большого театра. И снова: несколько реально существующих кафе и ресторанов, после чего появилось название „Хлебников дворик“... Я заинтересовалась: там был и адрес, действительно рядом с Большим театром. Начала задавать уточняющие вопросы, узнавала всё новые потрясающие подробности о милом и недорогом кафе, которое даже было связано (по утверждению ИИ) с поэтом Велимиром Хлебниковым. Чат рассказывал так вдохновенно, что усомниться было трудно... Но я усомнилась. Надо ли говорить, что никакого „Хлебникова дворика“ в Москве нет и в помине? Это галлюцинация, от начала и до конца», — рассказывает эксперт.

И здесь проблема даже не в «плохом» ИИ, а в том, что многие пользователи слишком доверяют нейросетям.

Доверяй, но проверяй

Из всего сказанного можно сделать вывод: ИИ — полезный помощник при проверке орфографии, пунктуации, разработке шаблонов. Но когда речь заходит о фактах, примерах, практических рекомендациях — нужно всё проверять.

Даже в случаях, когда советы ИИ выглядят безупречно.

Как снизить риски?

В помощь вам короткий чек-лист, который поможет избежать неприятных ситуаций из-за «галлюцинаций» ИИ.

1. Проверяйте источники. Любые списки литературы, ссылки на научные работы и статьи.

2. Всегда держите в уме, что приведённые факты могут отлично вписываться в тему, но не соответствовать действительности. Есть сомнения — проверяйте вручную.

3. Требуйте конкретику. Даты, номера законов, выходные данные. И опять проверяйте.

4. Не копируйте бездумно. Нейросети дают текстовый блок, но финальная проверка и редактура остаются за вами.

5. Не игнорируйте «звоночки». Если ищете признаки ИИ в тексте, обращайте внимание на странные словосочетания, чрезмерную «гладкость» и рассуждения, не подкреплённые конкретными фактами.

Советуем к прочтению: Нейросети в школах: как ИИ делает домашние задания за школьников

Фото: freepik.com