Текст, созданный ИИ может быть опасным: Google AI Overviews попала впросак
Разрастается скандал, связанный с новой AI-технологией Google, которая носит название “AI Overviews and more”. Профильные (и не только) издания успели сообщить, насколько опасным может оказаться текстовый контент, созданный ИИ.
Что за ИИ-поисковик Google, и какое он имеет отношение к контенту?
Начнем с начала. Несколько недель назад состоялся анонс Google, в которой компания представила свой принципиально новый поиск с интегрированным ИИ (AI). Специалисты сразу предупредили о том, что технология тестируется, доступна далеко не во всех странах и не всем пользователям. Однако по прошествии малого времени стало понятно, насколько опасным может оказаться созданный генеративной сетью Google контент.
Речь идет о краткой выжимке (резюме), которая отображается перед результатами органики в мобильном браузере Chrome и одноименном приложении – все на Android.
Цель Google была благой – быстро формировать ответы на самые сложные вопросы. Однако рекомендации, советы и помощь оказались насколько опасными и некорректными, что эксперты стали “звонить во все колокола”, призывая игнорировать весьма спорную функцию мирового поисковика. Соцсети заполнили скриншоты того, что рекомендует AI Overview. Например: попробовать камни на вкус, вариант промазывания бутерброда клеем, чтобы ингредиенты лучше держались относительно друг друга.
Надо отдать должное, в корпорации не сидят без дела, вручную “зачищая” спорные советы, после чего они в схожем виде больше не появляются. Однако сколько таких предложений в самых разных сферах и вопросах окажется откровенно опасными, некорректными, неточными и ошибочными – остается только догадываться. Ведь, большая часть всех таких недоразумений попросту не попадает в соцсети.
В чем проблема ИИ-сгенерированного контента функцией Google AI Overview?
Ключевых проблем с такими советами, краткими выжимками и контентом несколько:
- Поисковик не может отличать правду от вымысла.
- Есть большая сложность соотнесения иронии, шуток и тролинга с реальностью.
- Отсутствие рациональной генерации – когда не хватает данных, поисковик берет то, что было и старается это “прикрутить” к ситуации (хоть как то).
Если все настолько плохо в самых примитивных и безобидных запросах – в значительно более сложном контенте ситуация в разы хуже. Эта новость и краткий анализ технологии (функции Google AI Overview и аналогов) в очередной раз подтверждает опасения относительно генерируемого ИИ текстов. О таком контенте мы ранее готовили тематическую статью. Хоть она и стала чуть менее актуальная (по причине стремительного развития генеративных сетей и появления новых), суть осталась прежней. Ключевой вывод – сгенерированный текст, если и пытаетесь применять соответствующую технологию, нельзя использовать без тщательной проверки, фактчекинга и адаптации. Вместо этого заказывайте текстовый контент у профессионального и опытного копирайтера.
Внимание! Важная информация: Перед тем как скопировать и незаконно использовать данный текст, ознакомьтесь с правилами пользования материалами сайта Berezovski.by.
