Самарский университет: методика распознаёт бот‑контент и возраст данных
Ученые Самарского университета им. Королёва разработали методику распознавания информации, созданной интернет‑ботами, в том числе в тех случаях, когда классические тесты не позволяют выявить искусственный источник данных. По информации пресс‑службы вуза разработка предназначена для совершенствования существующих тестовых процедур.
"Преподаватели и аспиранты Самарского университета им. Королёва первыми в мире (по данным Google Scholar) провели экспериментальное исследование, посвящённое проблемам возраста информации, которой оперируют популярные системы искусственного интеллекта (ИИ) — так называемые большие языковые модели (БЯМ)", — говорится в сообщении. Результаты исследования опубликованы в российском научном журнале "Искусственный интеллект и принятие решений".
В сообщении университета разъясняется роль больших языковых моделей в выполнении разнообразных текстовых операций: написании и литературной обработке текстов, исправлении ошибок, переводе, создании программного кода, поиске и агрегации информации, а также в формировании ответов на запросы пользователей в сети. Отмечается актуальность вопросов, связанных с достоверностью ответов, формируемых чат‑ботами.
"В нашем исследовании мы рассматривали ограничения в применении БЯМ, связанные с устареванием той информации, на которой модели обучались ранее. Традиционные БЯМ не оснащены системами дообучения для большинства тем и областей человеческих знаний. Поэтому со временем информация, которой владеют эти языковые модели, устаревает, а ответы их чат‑ботов становятся неточными и теряют актуальность", — рассказал доктор технических наук, профессор кафедры программных систем Самарского университета Андрей Сухов.
Исследователи установили, что структура выдаваемой информации изменяется до и после этапов дообучения моделей. В частности, ответ системы ИИ на запросы по темам, отсутствовавшим в исходной обучающей выборке, чаще сопровождается ссылками на сетевые источники. Это поведение служит маркером машинного происхождения ответа. Момент перехода формата ответа авторы связывают со временем прохождения моделью очередного этапа обучения, что позволяет оценивать «возраст» оперируемых ею данных.
Для практической реализации предложен алгоритм формирования набора контрольных вопросов, предполагающих простой числовой ответ, который изменяется в разные периоды времени и легко проверяется средствами интернет‑поиска. По мнению авторов, описанный подход может быть применён при обновлении перечня вопросов, используемых в классическом тесте Тьюринга. Современные системы проходят этот тест с высокой вероятностью.
Предложенная методика ориентирована на внедрение в инструменты анализа источников информации и на разработку тестов для выявления автоматизированных авторов контента. Техническая детализация исследования и результаты эксперимента доступны в опубликованной статье в научном журнале. Это обеспечивает возможность независимой верификации и дальнейшей научной дискуссии.