Первый альбом Харпера, получивший название «The Sophisticated Beggar», был издан в 1966 году, после того, как Роя заметили в Лондонском Сохо фолк клубе, и он спел для записывающей компании Strike Records Питера Ричарда. Альбом представлял собой поэзию Харпера, подкрепленную акустической гитарой, и был записан с помощью магнитофона Revox. CBS Records распознала в записях потенциальные возможности Харпера и наняла продюсера Шэла Тэлми (Shel Talmy), чтобы тот аранжировал второй альбом Харпера «Come out Fighting Genghis Smith», выпущенный в 1968 году. Одиннадцати минутная композиция «Circle» примечательна с точки зрения расширения музыкального стиля Харпера за пределы традиционной фолк музыки, привычной для того времени.
Альбом 1969 года «Folkjokeopus», третий альбом музыканта, по настроению похож на предыдущий. «Folkjokeopus» включает композицию на семнадцать минут «McGoohan’s Blues», которой Харпер приписывает главное течение альбома. Название композиции относится к актеру Патрику МакГухану (Patrick McGoohan), звезде тогдашнего телевизионного сериала «Заключенный» («The Prisoner»). В мае 1968 года Харпер начинает регулярно появляться на бесплатных концертах в Лондонском Hyde парке, привлекая поклонников андеграундной музыки. Вслед за первым туром Харпера по США последовал выход его четвёртого студийного альбома — Flat Baroque and Berserk — в 1970 году. Альбом также знаменателен участием группы The Nice в музыкальном сопровождении песни «Hell’s Angels». Неземное звучание песни было достигнуто с помощью way-way педали, присоединенной к гитаре Харпера. Альбом также можно отметить началом долгой и временами конфронтационной ассоциации Харпера с EMI — дочерней компанией Harvest Records, с которой записывался Рой.

После Фестиваля Bath в 1970 году, Led Zeppelin написали песню, озаглавленную «Hats Off to (Roy) Harper», которая появилась на альбоме «Led Zeppelin III». По словам Джимми Пэйджа, группа с восхищением отнеслась к тем принципам, которые отстаивал Рой Харпер, и к тому, что он не продался и не попал под влияние коммерции. В знак взаимной признательности к их работе, Харпер часто сопровождал живые выступления Led Zeppelin в более позднее десятилетие, а также содействовал в фотографировании к альбому «Physical Graffiti». Помимо этого, Рой появляется в фильме 1976 года «The Song Remains the Same».
1970-е приветствовали четвертую песню с альбома Харпера — «Stormcock», которая представляла собой эпическую поэму с участием Джимми Пэйджа на гитаре, в оркестровой обработке Дэвида Бедфорда (David Bedford). Дэвид сотрудничал с Харпером и в последующих релизах. В 1972 году Харпер дебютировал в фильме «Made» режиссёра Джона Макензи (John Mackenzie) в роли Майка Престона. Саундтрек к фильму появился на следующий год с названием «Lifemask». Его следующий альбом «Valentine» был выпущен на День Святого Валентина, 14 февраля 1974 года, и включал в себя сопровождение Джимми Пэйджа. Концерт, посвященный выходу нового альбома, прошёл в Лондонском Rainbow Theatre с участием Пэйджа, Бедфорда, Ронни Лэйна (Ronnie Lane) на бас гитаре и Кейт Мун (Keith Moon) за ударной установкой. Вскоре после концерта вышел альбом с живого выступления — «Flashes from the Archives of Oblivion».
С 1975 по 1978 год Харпер пробыл большую часть времени в США. Релиз альбома «Wish You Were Here» группы Pink Floyd в 1975 вышел с участием Харпера в песне «Have a Cigar», где основной вокал принадлежал Рою. Дэвид Гилмор (David Gilmour) из Pink Floyd ответил благодарностью, появившись на следующем альбоме Роя Харпера — «HQ», вместе с подыгрывающей группой под названием Trigger (Крис Спреддинг (Chris Spedding) на гитаре, Дэйв Кохан (Dave Cochran) на бас гитаре, и Билл Брюфорд (Bill Bruford) на ударных) и Джоном Пол Джонсом (John Paul Jones) из Led Zeppelin. Сингл «When an Old Cricketer Leaves the Crease», выдранный из альбома, на данный момент — наиболее известная и самая распродаваемая соло-запись Харпера. Также Харпер был соавтором песни «Short and Sweet» для сольного альбома Гилмора, изданного в 1978 году.
Разногласия возникли по поводу альбома «Bullinamingvase» 1977 года, когда станция технического обслуживания Watford Gap оскорбилась на лирику в песне « Watford Gap», которая критиковала их еду («Watford Gap, Watford Gap / A plate of grease and a load of crap…» — « …/ Тарелка жира и обилие дерьма..»). Харпера принудили изъять альбом, предотвратив его дальнейшее распространение, однако он вновь появился на позднем переиздании диска в США LP. Альбом также включает в себя композицию «One of Those Days in England» с бэк-вокалом Пола МакКартни (Paul McCartney) и Линды МакКартни (Linda McCartney), занявшую топ 40. В апреле 1978, Харпер начал писать лирику для следующего альбома Led Zeppelin с Джимми Пэйджем, но проект был отложен, когда Роберт Плант вернулся после годичного перерыва из-за смерти своего пятилетнего сына Кэрока (Karac) (от желудочной инфекции).
К тому времени Харпер подписал с отделом Chrysalis Records в США (US Chrysalis Records), которые выпустили альбом «HQ» с другим названием («When an Old Cricketer Leaves the Crease») и обложкой. На территории США Chrysalis также изменила название следующего альбома Харпера «Bullinamingvase», назвав его «One of Those Days in England». В 1978 US Chrysalis выпустили первые четыре плодотворных альбома Харпера, только один из которых («Flat, Baroque and Berserk») до этого издавался в Америке.
В течение семядисятых, в качестве основного продюсера Роя Харпера выступал Питер Дженнер (Peter Jenner).

Релиз 1980 года «The Unknown Soldier» — последний альбом Харпера, записанный в студии Abbey Road Studios, при участии Дэвида Гилмора в четырёх треках, с версией Харпера «Short and Sweet» включительно. Кейт Буш (Kate Bush) также появляется в альбоме в песне «You», исполненной дуэтом с Харпером. Этот альбом можно отметить окончанием отношений Харпера с компанией EMI records.
В 1980 году Харпер исполняет бэк-вокал к песне «Breathing», на альбоме Кейт Буш Never For Ever.
Альбом 1982 года «Work of Heart» знаменателен формированием харперовского собственного записывающего лейбла вместе с Марком Томпсоном (сыном участника антиядерной кампании Эдварда Палмера Томпсона, названного Public Records. В противопоставление своей финансовой ситуации на тот момент, Рой высказывается следующим образом: «Лично я не сомневаюсь, что именно начало восьмидесятых стали годами деградации в моей музыкальной жизни».
На протяжении 1984 года Харпер путешествует по Великобритании с Джимми Пэйджем, преимущественно исполняя акустический сет на фолк фестивалях в различных обликах: как The MacGregors, и как Themselves. Они выпускают альбом «Whatever Happened to Jugula?» под именем Харпера в кооперации с Джимми Пэйджем. Этот альбом восстанавливает интерес к личности Роя и его музыке. Тони Франклин (Tony Franklin), бас-гитарист группы Харпера, позже присоединится к Пэйджу в The Firm.
В апреле 1984 года Рой Харпер и Гилмор исполняют «Short and Sweet» (песню, соавторами которой они оба являются) в течение трёх гилморовских представлений в The Hammersmith Odeon в Лондоне. Версия этого выступления позднее появляется в концертной видеозаписи «David Gilmour Live 1984».
В 1987 году Рой смело присоединяет EMI для релиза «Descendants Of Smith», альбом содержит семь важных для Роя треков, но его значение недооценено. После этого он и EMI расходятся вновь, Харпер наследует запись и изменяет название на «The Garden Of Uranium».

Девяностые годы обернулись для Харпера весьма продуктивным десятилетием, привнесшим релизы четырёх студийных альбомов: «Once» (1990), «Death or Glory?» (1992), «Commercial Breaks» (1994), «The Dream Society» (1998) и восьми альбомов с концертов музыканта: «Unhinged» (1993), «Live At Les Cousins» (1996), и ещё шесть индивидуальных дисков, записанных BBC (1997).
Вдобавок к этому Рой выпустил видео запись живого выступления «Once» (1990), Мини-альбом «Burn the World» (1990) (Мини-альбом (EP диск, Extended play) — диск или виниловая запись в Англии, которая состоит более, чем из одного сингла, но в то же время треков не достаточно, чтобы присвоить записи титул полнокровного альбома), CD сингл «The Methane Zone» (1992), ограниченный выпуск кассет с концерта "Born in Captivity II "(1992), сборник "An Introduction to ….. "(1994), коллекция поэзии и речевых треков «Poems, Speeches, Thoughts and Doodles» (1997), и переиздание «Descendants of Smith» (релиз 1986 года) переименованное в «Garden of Uranium» (1999).
В то время как публичная деятельность Харпера относительно снизилась с 1986, тур с альбомом 1990 года «Once» при участии Дэвида Гилмора, Кейт Буш и Найджела Джонса (Nigel Mazlyn Jones) привлек внимание к персоне Роя. После окончания его супружеской жизни с Джеки (Jacqui) Харпер издает меланхоличный альбом «Death or Glory?» 1992 года, который включает в себя некоторое количество песен и разговоров Роя о его утрате и боли, что он испытывает. В продолжение тура его эмоциональная реакция на эту потерю была особенно очевидна.
На протяжении всего десятилетия харперовское влияние в музыке угадывается в творчестве более молодых музыкантов, некоторые из них исполняют кавер-версии его песен, другие приглашают принять участие в создании их альбомов. В 1995 году Харпер вносит свои разговоры в альбом «The Edges of Twilight» группы The Tea Party’s. В 1996 Рой цитирует свои высказывания с альбома «Whatever Happened to Jugula?» в альбоме «Eternity» группы Anathema (также в альбоме есть кавер версия на песню «Hope»).
Рой исполняет песню «Up the 'Pool» группы Jethro Tull на их трибут-альбоме «To Cry You A Song — A Collection Of Tull Tales», и в 1998 году Ян Андерсон (Ian Anderson) подыгрывает на флейте в песне «These Fifty Years» с харперовского альбома «The Dream Society», концептуального альбома, базирующегося на жизни Харпера, его молодости в основном.
Из артистов, исполняющих песни Харпера (или композиции в рамках его альбомов) в течение десятилетия, можно выделить: Dean Carter, Ava Cherry & The Astronettes, Green Crown, The Kitchen Cynics, The Levellers, Roydan Styles и Pete Townshend.

В 2000 году Харпер выпустил практически целиком акустический альбом «The Green Man», с гитарным сопровождением Джеффа Мартина (англ. Jeff Martin) из The Tea Party, и использованием hurdy-gurdy — старинным струнным музыкальным инструментом и другими многочисленными инструментами.
В июне 2007 года Рой Харпер отметил свое шестидесятипятилетие концертом в лондонском концертном зале Royal Festival Hall, пригласив множество артистов выступать в роли гостей. Вскоре последовало издание юбилейного концерта на двойном CD «Royal Festival Hall Live — June 10th 2001».
В 2003 году Харпером была выпущена книга «The Passions of Great Fortune», содержащая всю лирику к его альбомам и синглам, включая огромное количество фотографий и комментариев к его песням.
В апреле 2005 года он выпустил сингл «The Death of God» протяженностью 13 минут, осуждающую вторжение в Ирак в 2003 году, на гитаре — Мэт Черчилл (англ. Matt Churchill), который также пригласил Харпера на сцену своего концерта. Май 2005 года стал очевидцем релиза последнего альбома Харпера — «Counter Culture», двойного альбома, включившего песни за 35-летний период музыкального творчества Харпера. «Counter Culture» получил пятибалльную оценку от журнал UNCUT.
2005 год отмечен выходом диска в пользу Всемирного Фонда Дикой природы (World Wide Fund For Nature) организации Ulster Wildlife Trust. «The Wildlife Album» содержит 18 треков, один из которых представляет собой прочтение отрывка из кэрроловской «Алисы» — «Jabberwocky», исполненное Харпером.
В 2006 году Харпер выпустил свой первый DVD диск «Beyond the Door». DVD составлен из кусочков отснятых материалов, записанных в 2004 году в Ирландском фолк клубе «De Barra’s» г. Корк. Издание также содержит 10 музыкальных аудиотреков на CD диске и отзыва от журналов Mojo, UNCUT и Classic Rock.
В сентябре 2007 года Харпер поддерживает Джоанну Ньюсом (Joanna Newsom) на выступлении в Royal Albert Hall. Необыкновенное впечатление на Ньюсом произвел альбом Роя 1971 года — «Stormcock» и это послужило вдохновением к созданию её второго альбома «Ys». Последние пять лет Харпер посвятил себя сбору материалов всех его работ различных форматов. Один из его будущих проектов вероятно будет документальный DVD, который подведет итог всей его музыкальной жизни.

Вокал Роя в Pink Floyd