Phipps a fait ses études à l'école Harrow et est entré dans le service diplomatique en 1858.
En 1873, il a été troisième secrétaire à Rio de Janeiro. L'ambassadeur, George Buckley Mathew, lui demande d'établir un rapport sur l'état des émigrants britanniques au Brésil.
En 1881, Phipps a été promu au rang de deuxième secrétaire, au consulat général à Budapest avec le grade de secrétaire de légation, puis en 1885 comme secrétaire à l'ambassade à Vienne. En 1892, nommé secrétaire de l'ambassade à Paris, il est promu l'année suivante, ministre plénipotentiaire sous l'ambassadeur en France, le marquis de Dufferin et Ava.
Lors de la conférence internationale sur la prévention du choléra, qui se tient à Paris en 1894, Phipps y participe comme délégué britannique. Nommé Compagnon de Bath lors de l'Anniversaire de la Reine en 1894, il est promu la même année, ambassadeur britannique au Brésil .
En 1900, Phipps est nommé envoyé extraordinaire et ministre plénipotentiaire à la Cour de Sa Majesté le Roi des Belges. Pour les services rendus dans le cadre de la Conférence de sucre, il est anobli comme Chevalier Commandeur de l'Ordre de Saint - Michel et St George (KCMG) en 1902. Ce fut cette Convention "sucre" à Bruxelles 5 Mars 1902, qui suscita la controverse en Grande-Bretagne et avec Henry Campbell-Bannerman, entre autres. Phipps pris sa retraite du service diplomatique en 1906. Il mourut en 1911.

Constantin Phipps était le seul fils de l'honorable Edmund Phipps, et petit-fils d'Henry Phipps, 1er comte de Mulgrave. Son grand-père maternel était le lieutenant-général Sir Colin Campbell. En 1863, il épousa Maria Miller Mundy, fille d'Alfred Miller Mundy, Hall Shipley, Derbyshire, et sa femme Maria Jane, la fille du contre-amiral Sir John Hindmarsh. Leur fils Eric Phipps est devenu diplomate à son tour, au service dans les années 1930 comme ambassadeur successivement à Berlin et à Paris. Lady (Maria) Phipps est morte le 30 Août 1902, et en 1904 il épousa Alexandra Wassilewna, veuve de Gomez Brandão de Rio de Janeiro. Celle-ci est morte en 1954.