Потеря середины

Длинный контекст помещается, но внимание к его середине проседает: модель помнит начало и конец лучше, чем то, что между ними.