InstructGPT

InstructGPT соединила обучение на примерах инструкций с предпочтениями людей и показала, что меньшая, но дообученная модель может быть полезнее более крупной базовой. Это сместило центр разработки от одного предобучения к постобучению: формату ответа, отказам, стилю и соответствию намерению пользователя.