1984年，张行参加了内地第一届青年吉他大奖赛，凭借精湛的弹奏技巧和粗犷深情的唱法，张行获得了弹唱比赛的冠军，还获得了大批的青年粉丝。1984年，张行发行了个人第一张专辑《成功的路不止一条》，一跃成为当红的歌坛新星。

之后，张行在内地歌坛大火，接连又推出了《再爱我一次》、《太阳雨》和《三年后的张行》等专辑，里面的每首歌曲都受到了人们的喜爱，在大街小巷被广为传唱。

当时的流行音乐刚刚起步不久，明星歌手根本谈不上宣传和包装，张行说：“当时自己的打扮，全是自己想的。我们那会儿还流行直筒裤，头发是去卷起来的，领子又尖又长，衣服都是港式款式。我自己走的是炫、酷的路线，好比后来的周杰伦一样。”