Уважаемый Зохар
на петлицах Вашего деда не "ромбы" а "кубари" т.е знаки именно младшего офицерского состава.
Были еще "шпалы"
т.е в 1936 году у Вашего деда было очевидно 2 кубаря -мл.лейтенант ( 1 кубарь-сержант гб )
.
Офицерский состав в войсках НКВД появился в августе 1943 года, а в органах НКВД-НКГБ в июне 1945г.
В то время:
"4. Устанавливаются следующие специальные звания начальствующего состава Главного управления государственной безопасности:
1) Сержант государственной безопасности.
2) Младший лейтенант государственной безопасности.
3) Лейтенант государственной безопасности.
..........."
А словосочетание младший офицерский состав по-моему появилось только Указе 1971г. № 2319-VIII.