Катастрофическое забывание

Главное препятствие: новое знание стирает старое, и модель ломается там, где вчера работала.

При последовательном обучении градиенты новой задачи могут перезаписать параметры, важные для старых задач. Методы вроде EWC защищают часть таких параметров, но универсального решения для больших языковых моделей и открытого потока опыта пока нет.

Источники

PNAS · EWCОткрыть первоисточник