Kollers Trainerkarriere begann in der Saison 1997/1998 beim FC Wil. Im Januar 1999 wechselte er zum FC St. Gallen 1879, wo er in der Saison 1999/2000 Schweizer Meister wurde. Für diese Leistung wurde er mit dem Preis "Schweizer Trainer des Jahres" geehrt. 2002 wechselte Koller zum Grasshopper Club Zürich und gewann in der Saison 2002/2003 erneut den Schweizer-Meister-Titel. Danach führten ihn seine Stationen nach Deutschland, wo er zunächst Cheftrainer des 1. FC Köln und später des VfL Bochum wurde. Bochum führte er im Jahr 2006 sofort in die Bundesliga und hielt den Verein da drei Jahre.
Für Aufsehen sorgte Marcel Koller zuletzt in Österreich, wo er von November 2011 bis Oktober 2017 das Amt des Teamchefs der österreichischen Nationalmannschaft bekleidete. Unter Koller qualifizierte sich Österreich zum ersten Mal seit 1998 wieder auf sportlichem Weg für einen Grossanlass, die Europameisterschaft 2016 in Frankreich.
FCB-Sportdirektor Marco Streller äussert sich zum neuen Cheftrainer wie folgt: „Wir freuen uns, dass wir mit Marcel Koller und seinen beiden Assistenten sehr erfahrene Trainer verpflichtet haben, die den FCB – national wie auch international – wieder auf Kurs bringen sollen.“