Этот текст писал ИИ: названа главная проблема сгенерированных текстов

Фото: media.multiadminka.ru

Системы антиплагиата и детекторы текстов, созданных с помощью искусственного интеллекта, существенно отстают от развития нейросетей. При этом выявить фальсификацию становится сложно даже специалистам, рассказала RT профессор кафедры философии НИЯУ МИФИ, ведущий эксперт лаборатории цифровых исследований Екатерина Тихомирова.

По словам эксперта, новые модели ИИ появляются примерно каждые три месяца и становятся все более совершенными в создании текстов. Тихомирова считает, что в перспективе отличить сгенерированный материал от написанного человеком будет трудно даже литературному редактору.

Как пояснила специалист, поиск формальных признаков использования нейросетей при проверке текста становится все менее эффективным. Большие языковые модели способны создавать качественный и естественный текст, а также удалять маркировку сгенерированного контента.

При этом, по оценке Тихомировой, основная проблема смещается от самого факта использования ИИ к недобросовестному применению технологий, включая фальсификацию данных. Системы детекции, как российские, так и зарубежные, пока не успевают за развитием нейросетей.

Особенно остро вопрос стоит в научных публикациях. Эксперт отметила, что для выявления недобросовестной работы недостаточно определить неестественность языка: специалисту необходимо заподозрить возможную фальсификацию данных и проверить содержание исследования.

Тихомирова подчеркнула, что поэтому при оценке материалов, созданных с помощью ИИ, на первый план постепенно выходит не поиск признаков генерации, а анализ сути, достоверности и научной ценности предложенных автором идей.