James Clerk Maxwell 13 Haziran 1831 tarihinde İskoçya'nın başkenti Edinburgh'da avukat John Clerk Maxwell ve eşi Frances Maxwell'in çocukları olarak dünyaya gelmiştir. Babası Penicuik bölgesinin baronetliğini elinde bulunduran Clerk aileden olan varlıklı bir kişi olup, kardeşi 6. baronet unvanı almıştır. Asıl adı John Clerk olan babası, Middlebie, Kirkcudbrightshire kasabasında, soylulardan Maxwell ailesi ile olan bağlantısından kendisine miras kalmasından sonra Maxwell soyadını ekletmiştir. Maxwell'in anne ve babası o dönemde pek rastlanmayan bir biçimde 30'lu yaşlarına kadar tanışmamış dahası o doğduğunda annesi 40 yaşına yaklaşmıştır. Daha önce Elizabeth adlı bir kızları olmuş ancak ilk döneminde hayatını kaybetmiştir. Yaşayan tek çocuklarına dedesi ve diğer birçok aile büyüğünün anısına James adını koymuşlardır. Maxwell henüz küçükken ailesi Middlebie kasabasında 6.1 km² üzerine inşa ettirdikleri Glenlair House diye anılan eve taşınmıştır. Eldeki bütün işaretler Maxwell'in daha o yaşta bitmeyen bir merak duygusuna sahip olduğunu göstermiştir. 3 yaşında iken çevresinde hareket eden, ışık saçan, ses çıkaran her şeyi sorguladığı söylenmiştir.