Нагрудный знак (значок) «Отличник РККА» учреждён 14 ноября 1939 года постановлением Совета Народных Комиссаров СССР № 1889. Знаком (значком) награждали красноармейцев, курсантов, командный, политический, и начальствующий состав Рабоче-Крестьянской Красной Армии за отличную боевую и политическую подготовку, отличное несение службы и примерную дисциплину.
Награждение знаком производилось приказом Народного Комиссара Обороны СССР после окончания зимнего и летнего периодов учёбы, а так же к годовщине Рабоче-Крестьянской Красной Армии – 23 февраля, к годовщине Великой Октябрьской Социалистической Революции – 7 ноября, и ко Дню Международной Солидарности Трудящихся – 1 мая. Особо отличившиеся воины представлялись к награждению знаком (значком) немедленно.
Постановлением СНК СССР от 3 марта 1940 года №290 действие этого знака было распространено и на войска НКВД СССР. Право награждать получил Нарком внутренних дел СССР.
Нагрудный знак (значок) вручался перед строем части (подразделения), награждённый получал выписку из соответствующего приказа Народного Комиссара Обороны СССР. Факт награждения заносился в личное дело военнослужащего (послужной список), а при увольнении в запас – в военный билет.