Впервые песня вышла как сингл 20 июля 1965 года. Ей удалось продержаться в американском чарте три месяца и достичь второй строчки (после сингла «Help!» группы «The Beatles»). Первое живое исполнение «Like a Rolling Stone» состоялось на фолк-фестивале в Ньюпорте.

«Я написал это. Я не ошибся, получилась сильная вещь» — Так кратко сказал Дилан о своей песне. Ал Купер (Al Kooper), который играл на клавишных во время первых выступлений с этой песней, вспоминает: «Не было никаких нот, вся музыка была шла в разлад, но это получилось».

Несмотря на это, песня исполняется до сегодняшнего дня на бис, и не только Диланом, но многими другими музыкантами: Шер (Sher), The Jimi Hendrix Experience, The Rolling Stones, Боб Марли (Bob Marley) , Spirit , Нил Янг (Neal Young), Green Day, Anberlin, Eiffel 65…

Егор Летов назвал эту песню «лучшей рок-песней всех времён и народов» и использовал её в своей композиции «Бери шинель (Like a Rolling Stone)»
Видео запись концертного исполнения песни «Like a Rolling Stone» (1966)