Исследователи предлагают систему ИИ 'Prompt-to-Paper' для написания научных работ с акцентом на точность и проверяемость
Исследователи представили концепцию новой системы ИИ 'Prompt-to-Paper', призванной решить серьезные проблемы существующих ИИ-помощников для написания научных работ, которые часто ссылаются на ненадежные данные и генерируют фальшивые результаты экспериментов.
Сфера ИИ делает очередной шаг вперед с использованием больших языковых моделей (Large Language Models) для создания черновиков научных работ. Однако недавно исследовательская группа указала на серьезные проблемы в научных статьях на arXiv. Исследователи отмечают, что существующие ИИ-системы имеют три серьезных недостатка: 1) Приводимые ссылки не ведут к реально проверяемым источникам. 2) Результаты экспериментов часто фальсифицируются вместо использования реальных данных. И 3) Отсутствует стандартная система оценки для измерения качества сгенерированных ИИ работ. Для решения этих проблем исследовательская группа представила 'Prompt-to-Paper' — фреймворк, использующий многоагентную систему ИИ (multi-agent framework). Ключевым нововведением является детерминированный процесс генерации контента, дополненный извлечением информации (deterministic retrieval-augmented generation), чтобы гарантировать, что каждая ссылка в работе может быть прослежена до исходного документа. Изначально эта система разработана для использования в области биоинформатики (Bioinformatics).
Эти усилия крайне важны для доверия к академическому сообществу, поскольку они помогают предотвратить распространение неточных исследовательских данных и могут привести к созданию инструментов ИИ, которые тайские исследователи и студенты смогут использовать с большей уверенностью в будущем.