Fundada por inmigrantes escoceses en 1772, su construcción fue supervisada por John Carlyle. Finalizada en la década de 1770, fue lugar de reunión de los masones. En 1799 y para conmemorar el fallecimiento de Washington, la campana de la iglesia tocó ininterrumpidamente cuatro días, celebrándose allí su funeral ya que "el camino de la Iglesia Episcopal era malo". En 1835 un incendio provocado por un rayo que cayó en el campanario la destruyó casi por completo, siendo reconstruida dos años después con su actual aspecto.