24 июля 2024 года исследование, опубликованное в журнале Nature, выявило тревожное явление в области искусственного интеллекта: «коллапс модели». Этот термин описывает дегенеративный процесс, при котором генеративные модели, такие как большие языковые модели (LLM), теряют способность правильно представлять исходное распределение данных после многократного обучения на данных, сгенерированных предыдущими моделями. Это явление может существенно повлиять на качество и точность контента, генерируемого… IA в будущем.
Революция языковой модели
Такие языковые модели, как GPT-4, Llama 3.1 и Claude 3.1, продемонстрировали впечатляющую производительность при выполнении различных задач на естественном языке, став основой для многих приложений. Например, ChatGPT популяризировал использование языковых моделей и генеративного ИИ, ясно дав понять, что эта технология никуда не денется. Однако, поскольку эти модели способствуют созданию всё большего объёма онлайн-текстов, возникает важный вопрос: что произойдёт, если модели будут обучаться преимущественно на данных, сгенерированных другими моделями?
Проблема коллапса модели
Исследование показывает, что бессистемное использование контента, сгенерированного моделями, для обучения новых поколений ИИ приводит к необратимым дефектам. В частности, модели начинают забывать исходное распределение данных, а его «хвосты» постепенно исчезают. Это приводит к всё более искажённому представлению реальности. Этот коллапс модели характерен не только для LLM, но и для других типов моделей.
Последствия и решения
Результаты показывают, что сохранение подлинных данных, созданных человеком, критически важно для поддержания качества моделей ИИ. В задачах, где важны события с низкой вероятностью, таких как понимание маргинализированных групп или сложных систем, потеря этих «хвостов» может быть особенно пагубной. Поэтому крайне важно, чтобы будущие поколения языковых моделей обучались с постоянным доступом к аутентичным данным, не созданным ИИ.
Um Olhar para o Futuro
Сообществу ИИ необходимо срочно решить эту проблему. Одним из возможных решений является координация действий заинтересованных сторон для отслеживания происхождения данных, генерируемых ИИ, и обеспечения использования значительной доли реальных данных в обучении. Без этого мы можем столкнуться с ситуацией, когда новые модели будут всё больше отдаляться от реальности, что подорвёт доверие к приложениям на основе ИИ и их эффективность.
Заключение
Крушение модели напоминает нам, что, хотя ИИ может произвести революцию в создании контента и других областях, крайне важно поддерживать баланс между инновациями и сохранением качества данных. В долгосрочной перспективе успех языковых моделей будет зависеть от нашей способности устойчиво интегрировать реальные данные, гарантируя, что ИИ продолжит точно отражать сложность реального мира.
