Самарский университет создал метод распознавания ботов в LLM — первое в мире

Исследователи Самарского университета имени академика С. П. Королёва разработали методику выявления ботов в онлайн-коммуникациях. Работа посвящена проблеме устаревания информации в больших языковых моделях и, по заявлению авторов, является первым в мире исследованием, направленным на изучение этой проблемы в контексте распознавания ботов и поведения искусственного интеллекта.

Преподаватели и аспиранты в ходе исследования установили, что ответы языковых моделей на вопросы о событиях, произошедших до и после этапа их обучения, различаются по форме и содержанию. Зафиксированные отличия в ответах стали методологической основой для создания системы распознавания ботов и анализа достоверности генерируемого контента.

Разработанная методика прошла испытания на ряде популярных языковых моделей, включая российские и зарубежные разработки. По результатам тестирования методику предполагается применять для совершенствования модерации контента и повышения устойчивости социальных сетей к массовым бот-атакам. Её также планируют использовать для оценки надёжности автоматизированных ответов в информационных системах.

Ранее российские учёные выявили более 60 новых вирусов.