Ce patronyme leur est venu en regardant une course de chevaux dont l'un des concurrents portait le nom de l'archiduc François-Ferdinand d'Autriche (Franz Ferdinand en allemand). Ce nom les a inspirés car il impliquait une notion de changement brutal (c'est l'assassinat de cet homme qui a lancé l'engrenage menant le monde vers la Première Guerre mondiale). Leur premier album sorti en 2004 a rapidement atteint la troisième position des meilleures ventes d'albums au Royaume-Uni et a remporté un Mercury Music Prize. En 2005 ils ont sorti un deuxième album, You Could Have It So Much Better.

Membres:
Alexander « Alex » Paul Kapranos (Huntley) : chanteur, guitariste ;
Nicholas « Nick » McCarthy : guitariste, claviériste ;
Robert « Bob » Hardy : bassiste ;
Paul Thomson : batteur, guitariste.
Andrew "Andy" Knowles : guitariste, deuxième batteur, claviériste

Robert Hardy quitte le Yorkshire et s'installe à Glasgow en 2000 afin d'étudier à la Glasgow School of Art. À l'origine il ne compte pas devenir musicien, même si le choix de l'université lui est en partie inspiré par l'aura des musiciens de la ville, particulièrement Belle and Sebastian. Alex Kapranos, ex-chanteur de The Karelia, dont il fait la connaissance au 13th Note Cafe, le persuade d'apprendre la basse et de former un groupe. Ensemble ils recrutent les autres membres de ce qui deviendra Franz Ferdinand, d'abord Nicholas McCarthy, chez qui ont lieu leurs premières répétitions. Celui-ci tient initialement le rôle de batteur, bien que les claviers soient son instrument de prédilection, jusqu'à ce qu'ils rencontrent le seul écossais du groupe, Paul Thomson, ancien batteur de Yummy Fur.

Franz Ferdinand commence à répéter dans un entrepôt désaffecté du quartier de Gorbals, situé sur la rive sud de la rivière Clyde, qu'ils surnomment ironiquement « le Château » (en français dans le texte). Après quelques réparations l’endroit devient idéal pour répéter et pour donner des concerts. Le Château est le cadre de nombreuses anecdotes, notamment quelques problèmes avec la police qui les accuse d'avoir ouvert un bar illégal, mais cet endroit n'a jamais été abandonné et est encore utilisé pour leurs répétitions. Fin 2002 le groupe se rend à Londres dans le but de trouver une maison de disque et après s'être mis en rapport avec Laurence Bell, président de Domino Recording Company, signe son premier contrat avec ce label indépendant dont le catalogue comprend également Pavement, The Pastels, Clinic, etc.