Nedrykket fra landsdelsserien (2. divisjon) i 1958 markerte starten på en lang periode i lavere divisjoner for Rollon. En samtidig omlegging av seriesystemet førte til at den lokale 3. divisjonen ble omgjort til 4. divisjon, en divisjon klubben skulle spille i over en periode på hele 17 år. Selv om Rollon i flere sesonger stilte med konkurransedyktige lag, lyktes klubben ikke med å ta steget opp igjen i denne perioden.

I 1960 stilte Rollon med divisjonens yngste lag, og leverte en sterk sesong som resulterte i en 2. plass på tabellen. Året etter fulgte laget opp med en 3. plass, før 1963 ble et mer beskjedent år med en plassering midt på tabellen.

Klubbens 50-årsjubileum ble likevel et sportslig høydepunkt. Rollon ble avdelingsmestere i 4. divisjon Sunnmøre og kvalifiserte seg til opprykks kamper til 3. divisjon. I NM leverte laget også et imponerende cupeventyr, der både Hødd og Aalesunds FK ble slått. I 3. runde måtte Rollon imidlertid se seg slått av Rosenborg, som senere gikk helt til topps og ble cupmestere denne sesongen.

I 1971 ble Rollon kretsmestere i 4. divisjon. Opprykksdrømmen brast imidlertid etter tap mot Åndalsnes i kvalifiseringskampene, og klubben forble spillende i 4. divisjon.

Fire år senere kom gjennombruddet. I 1975 vant Rollon 4. divisjon og sikret dermed opprykk til 3. divisjon, noe som markerte slutten på en lang periode i lavere divisjoner.

Mot slutten av 1980-tallet opplevde Rollons seniorlag en utfordrende periode. Inn i 1990-årene vekslet laget mellom spill i 5. og 6. divisjon, noe som preget klubbens sportslige hverdag.

I 1995 besluttet klubben å trekke A-laget fra divisjonssystemet. Selv om seniorfotballen dermed ble lagt ned, sto fotballen i Rollon fortsatt sterkt. Aktiviteten på aldersbestemte lag var høy, og mot slutten av 1990-tallet stilte klubben med hele 15 lag, fra miniknøtt til junior, med gode sportslige resultater på både gutte- og jentesiden.