1762年，和前任女朋友分手的亚当斯结识了艾比盖尔·史密斯。出生于1744年11月23日的艾比盖尔是牧师威廉·史密斯与伊丽莎白·昆西·史密斯的三个女儿中的第二个。当时，他和已与史密斯家的长女玛丽订婚的朋友理查德·克兰奇前往韦默思，立即就被这位娇小、羞怯，整天埋头看书的17岁少女吸引住了。当他知道了她对诗歌、哲学和政治了解是如此之多时，尤其是得知她的父母并不鼓励她读这类书籍之时——他们认为这类书不适合作一个妻子的人读——他感到十分惊讶。
其实，亚当斯从小就认识史密斯一家，只是他从未注意过这个比他小9岁的娇弱的小女孩。小时候，艾比盖尔是个多病的孩子，因身体过于虚弱而不能上学。可是，虽然完全没有受过正规教育，她却是第一夫人中最博学的妇女之一。
不久，亚当斯向艾比盖尔求婚，她答应了。同时，她的父亲也赞成这桩婚姻。史密斯太太却对女儿要与一个举止仍然散发着泥土气息的乡村律师度过一生感到惊骇，但最终她还是允诺了。1764年10月25日，28岁的亚当斯与19岁的艾比盖尔在马萨诸塞州韦默思的新娘父母家中结婚。
婚后，因为独立战争的爆发，亚当斯离家投身于抗英运动，造成了夫妻的长期分离，但夫妻之间热情洋溢的来信弥补了亚当斯因政府公务长期离家的空虚。而且，艾比盖尔对时事的观察十分敏锐，使亚当斯始终了解国内的发展势态。