À l’automne 1842, le jeune collégien Antoine Gérin-Lajoie composa un air à la mémoire des condamnés politiques canadiens-français et patriotes du Bas-Canada, déportés en Australie et en Tasmanie comme prisonniers, destinés à la pendaison ou aux travaux lourds. Il écrivit quelques couplets, basés sur un air connu, langoureux et mélancolique, comme pour exhaler la plainte des déportés. Tout d’abord appelée La complainte, Un Canadien errant fut composé en moins d’une heure. Le lendemain, tout le collège retentissait de ses accents. Le Bas-Canada entier et tous les Canadiens français vibraient au son de ces paroles empreintes de tristesse. La chanson Un Canadien errant réussit à traduire le sentiment populaire et profond de tous les Canadiens français de cette époque.
Dans son manuscrit Souvenirs de collège, Antoine Gérin-Lajoie raconte comment il a adapté les paroles à un air folklorique très expressif : « J’ai composé cette chanson en 1842 lorsque je faisais ma rhétorique à Nicolet (Québec) Je l’ai écrite un soir dans mon lit à la demande de mon ami Cyp Pinard. »
Les Acadiens adoptèrent également la pièce en 1884, le premier vers devenant Un Acadien errant. Plusieurs Acadiens, ayant refusé de prêter le serment d’allégeance à la Couronne britannique, émigrèrent en Acadie ou au Cap Breton entre 1749 et 1755. Craignant de les voir s’allier aux Français durant la guerre, Charles Lawrence, Gouverneur de la Nouvelle-Écosse, décida en 1755 puis en 1758 de déporter les Acadiens en Nouvelle-Angleterre et sur la côte de l’Atlantique.
Depuis, la chanson a été popularisée et interprétée dans plusieurs langues et est aujourd’hui un air que l’on connaît de par le monde, grâce aux adaptations d’artistes reconnus tels Leonard Cohen et la chanteuse grecque Nana Mouskouri.