I've lived in the country for many years

Maybe you should use: "I've been living in the country for many years" - używamy present perfect continiuous kiedy coś trwało od pewnego czasu i trwa nadal. Present perfect kiedy coś trwało i wywarło wpływ na teraźniejszość ale jest już skończone - for example: I've done it - zrobiłem to; I've been doing it - robię to (od pewnego czasu).

Tłumaczenie "Mieszkam na wsi od wielu lat." jest bardziej trafne w tym wypadku, masz rację. Tłumaczenie "Mieszkałem..." samo w sobie nie jest błędne, ale brakuje tutaj kontekstu, który sugeruje wpływ przeszłego mieszkania na wsi na teraźniejszość.
Co do sugestii @Szawel1243 - też nie jest błędna, ale, jak zwykle, liczy się kontekst naszej wypowiedzi (nic dziwnego, że czasy Perfect sprawiają nam tyle problemów).

Mógłbym rozpisywać się nad różnicami w zastosowaniu obu czasów, ale myślę, że w dużo bardziej przystępnej formie opisane są tutaj:

https://www.etutor.pl/lessons/en/b1/10/1/29232

Pozdrawiam ;)