Медаль учреждена Указом Президиума Верховного Совета СССР от 01 ноября 1950 года. Этим же Указом утверждены Положение и описание медали (Ведомости Верховного Совета СССР, 1950 года, № 25). В Положение о медали вносились изменения Указами Президиума Верховного Совета СССР от 12 октября 1963 года и 18 июля 1980 года, а в описание — Указом от 5 сентября 1960 года. Постановлением Президиума Верховного Совета СССР от 28 декабря 1983 года, была утверждена Инструкция «О порядке представления к награждению медалью «За отличную службу по охране общественного порядка» и вручения этой медали», вместо ранее утвержденной Инструкции от 0б апреля 1963г.
Согласно Инструкции от 28 декабря 1983 года, награждение медалью производилось от имени Президиума Верховного Совета СССР, Президиумами ВС союзных республик:

за храбрость и самоотверженность, проявленные при ликвидации преступных групп, или задержании уголовных преступников;

за смелые, умело проведенные действия по предупреждению готовящихся или раскрытию совершенных уголовных преступлений;

за активную работу по устранению причин и условий, способствующих преступным проявлениям;

за умелую организацию работы органов внутренних дел частей и подразделений внутренних войск по охране общественного порядка в борьбе с уголовной преступностью;

за безупречное несение службы в органах внутренних дел, в частях и подразделениях внутренних войск; за активное участие в охране общественного порядка и проявленные при этом храбрость и самоотверженность, активную борьбу с хулиганством, пьянством, хищением социалистической и личной собственности граждан и др.