Fernand bracht zijn vroege jeugd door in Brugge, maar verhuisde later met zijn ouders naar Brussel. De zomer brachten zij in het Ardeense dorpje Fosset waar hij later vele landschappen zou schilderen. Op aandringen van zijn vader begon hij aan een studie rechten maar wisselde na een jaar voor een opleiding aan de Brusselse Academie voor Schone Kunsten waar James Ensor een van zijn medeleerlingen was. Hij maakte er ook kennis met Guillaume Van Strijdonck, Jean Delville, Egide Rombaux en Adolphe Crespin.
Tijdens een reis naar Parijs in 1877 onderging hij de invloed van Delacroix en in Engeland maakte hij kennis met de broederschap der Prerafaëlieten. En tijdens een bezoek aan het British Museum, raakte hij gefascineerd door een antiek bronzen hoofd van Hypnos, met een ontbrekende vleugel. Rond 1880 studeerde Khnopff een zestal maanden te Parijs in de werkplaats van de gevierde Jules Lefebvre. Hij werd hier een begaafd beoefenaar der Franse poëzie en vertaler van veel Nederlandse en Engelse meesterstukkenIn 1883 was hij medeoprichter van de Groupe des XX. Hij exposeerde ook op de Parijse Salons de la Rose-Croix van zijn vriend Joséphin Péladan, en bij de Weense Secession.
Tot zijn 42ste blijf hij bij zijn moeder Léonie wonen. Zijn zuster Marguerite, met wie hij een zeer intieme band had, was zijn andere favoriete model. In 1908 huwde hij Marthe Worms, een weduwe met twee kinderen, waarvan hij zich drie jaar later liet scheiden. Khnopff had een gesloten persoonlijkheid en was een eenling die moeilijk contact maakte. Een bekende uitspraak van hem was "on n'a que soi" (men heeft slechts zichzelf). Als er meerdere mensen op zijn schilderijen staan lijken ze ook nauwelijks contact te hebben. Uit de meeste doeken spreekt een mysterieuze, bevreemdende sfeer. Zijn personages vertonen vaak androgyne trekken. Vaak gebruikt hij twee soorten vrouwen in zijn werk: de femme fatale of de ideale vrouw (sfinx en engel). Ze zijn vaak onbestemd en lijken afwezig. Zijn wellicht bekendste meesterwerk is De liefkozing uit 1896, een afbeelding van Oedipus die zich tegen de sfinx aanvlijt.Vaak maakte hij foto’s die hij later uitwerkte in schetsen of direct in pastel. Er zijn bepaalde overeenkomsten tussen fotografie en de stijl van Khnopff. Hij werkte langzaam, maar met een zeer nauwgezette vaste hand. Zijn schilderijen en tekeningen zijn gevuld met kleine details, zoals de perfecte weergave van de huidtextuur. Hij vervaagde de lijnen van de figuren, net zoals pictorialistische fotografen dat deden. De vervagende figuren en landschappen staan voor de indruk van verlies en afwezigheid. Ook zijn kleurgebruik in pastel dragen bij aan deze dromerige sfeer. Zijn stijl inspireerden kunstenaars als Munch, Klimt en en Magritte.
Uitgever Edmond Deman vroeg hem geregeld om illustraties voor boeken waarmee hij de kost kon verdienen. In 1900 ontwierp hij, geholpen door de Belgische architect Edouard Pelseneer (1870-1947) een esoterisch multi-functioneel gebouw dat dienst deed als woning en atelier, maar ook als een Gesammtkunstwerk, een tempel en heiligdom. De decoratie bestond enkel uit de kleuren wit, blauw en goud. Zwart werd gebruikt voor de deuren en ramen. Het huis is in 1938 afgebroken.