ทันเอไอ

Исследование показывает: Простое изменение формата промпта может привести к колебаниям оценок ИИ на десятки процентов, подрывая доверие к бенчмаркам

Несколько исследований выявили серьезную проблему в сфере ИИ: крупномасштабные языковые модели демонстрируют кардинально разную производительность просто из-за разного форматирования команд, даже если их содержание остается тем же.

Проблема надежности оценки или бенчмаркинга моделей ИИ снова активно обсуждается в исследовательском сообществе. По мере того как появляются все более четкие доказательства того, что даже при использовании одного и того же вопроса, простое изменение формата представления команды (Prompt Formatting), например, использование заголовков, разделителей или порядка примеров, может привести к колоссальным изменениям в оценках точности крупномасштабных языковых моделей (LLM).

Это явление называется «чувствительностью к формату» (Format Sensitivity) и было подтверждено несколькими недавними исследованиями. Например, исследование Sclar et al. (2024) показало, что модель LLaMA-2-13B демонстрировала разницу в точности до 76 процентных пунктов всего лишь из-за небольших изменений в форматировании Prompt в задачах с несколькими примерами (few-shot). В то время как другое исследование показало, что модель GPT-3.5 имела диапазон изменчивости оценок до 56 пунктов при тестировании с 320 различными форматами Prompt в 53 типах задач. При этом медианное значение изменчивости составляло 6,4 пункта, что достаточно высоко, чтобы изменить позиции в Leaderboard.

Эта проблема не ограничивается только правильностью/неправильностью ответов, но также включает способность следовать заданной структуре (Schema Compliance). Например, приказ модели вернуть ответ в корректном формате JSON, исследования показали, что показатель успеха может колебаться от 0% до 100% в зависимости от сложности задачи и используемой модели.

Хотя эта тема вызывает большой интерес и подтверждена множеством исследований, новостная команда 'ТанАИ' (TanAI) обнаружила, что академическая статья под названием "Format Sensitivity Index", являющаяся одним из первичных источников информации, в настоящее время не может быть подтверждена на платформе arXiv. Тем не менее, проблема чувствительности к формату Prompt признана и активно изучается в отрасли с целью разработки более стабильных и надежных методов оценки ИИ в будущем.