Родился в крестьянской семье. В 1931 окончил педагогический техникум в городе Никольске, учительствовал в деревне, много читал, писал стихи, сотрудничал в Вологодских и Архангельских газетах, начал печататься в 1928. Первый сборник стихотворений «Песни Северу» увидел свет в 1934 в Архангельске.

С 1935 жил в Москве, где в 1938 опубликовал книгу стихов «Северянка». В 1941 окончил Литературный институт им. М. Горького.

В годы Отечественной войны уходит добровольцем на фронт и в качестве военного корреспондента и политработника участвует в обороне Ленинграда и Сталиграда, в освобождении Крыма. В 1942—43 изданы его сборники стихов «На Балтике было» и «Город гнева».

В послевоенные годы много ездит по стране: поездки по Северу, на Алтай, на строительство гидроэлектростанций, на целину. Впечатления от увиденного нашли отражение в сборниках стихов «Земляки» (1946), «Советский человек» (1951), в поэме «Алена Фомина» (1949).

В 1960-е выходят поэтические сборники «Босиком по земле», «День творения», «Бессонница».

Перу Яшина принадлежат такие прозаические произведения: повести «Сирота» (1962) и «Вологодская свадьба» (1965), рассказы «Угощаю рябиной» (1965) и др.

Многие произведения остались незавершенными. Посмертно, в 1972, вышли два тома «Избранных произведений» А.Яшина.