Мерзляков написал много стихотворений, для своего времени замечательных; перевёл с итальянского стихами поэму «Освобождённый Иерусалим» Тассо, переводил также произведения древних поэтов, греческих и римских: Пиндара, Феокрита, Софокла, Еврипида, Вергилия, Горация и прочих.

Романсы Мерзлякова и в особенности песни его (в основном созданные в 1805-1810 гг.), в которых он подражал народным песням, пользовались большим распространением в публике. Известной песней стала «Среди долины ровные».