Событие · 2020-05
Память и контекст
Извлечение из базы (RAG)
Обходной путь, которым индустрия жила, пока контекст был коротким. Сейчас — дополнение, а не костыль.
RAG отделяет знания от параметров модели: перед ответом система находит релевантные документы и добавляет их во вход. Это упрощает обновление фактов и ссылок, но качество зависит от поиска, разбиения документов и способности модели отличить найденное свидетельство от собственного предположения.
Источники
arXiv · RAGОткрыть первоисточник