Литературная деятельность началась с написания рассказов, очерков, фельетонов и статей. Первую повесть «Их было четверо» написал в 1958 году.

Прославившим его жанром стали повести, в которых он затрагивал острые проблемы современности. Одна за другой вышли «Три аршина земли», «Жемчужина Зая», «В середине», «Весенние караваны», «Любовь и ненависть». Произведения Гилязова отличаются удивительно ярким, мелодичным и естественным языком написания.