Fue fundada por José Gervasio Artigas el 12 de febrero de 1816. Es la única ciudad fundada por el prócer uruguayo y y que hoy se mantiene en pie manteniendo orgullosa este mandato. La historia dice que quizá desde 1758, existió el poblado de Las Víboras, compuesto de una capilla y varios ranchos en un entorno de cuatro cuadras destinado a desaparecer. Artigas desde Purificación, decretó entonces el traslado del pueblo hacia la desembocadura del Arroyo las Vacas. En principio se conoció como pueblo Carmelo, hasta que unos años después se tomó solo por Carmelo. Según la historia, no existe documento del porqué de su nombre, aunque la devoción por la Virgen del Carmen que hacía sus apariciones en el Monte Carmelo, puede explicar un tanto el motivo.

La ciudad cuenta con un puente giratorio, que constituye uno de sus puntos turísticos. Fue inaugurado el 1 de mayo de 1912. Es movido a tracción humana y su construcción lo transformó en el primero de esa índole en todo el país. Otros puntos turísticos lo constituyen la Rambla de los Constituyentes, la Playa Seré, el Balneario Zagarzazú, el Casino Hotel, la Reserva de Fauna, Four Seasons Resort Carmelo, entre otros. Otros atractivos de la ciudad y la zona lo constituyen sus buenos vinos, con bodegas como Irurtia, Zubizarreta, Cis, Cordano y actualmente funciona una "nuveau" bodega conocida como Bodega Narbona. Los vinos más característicos de la zona es la varietal Tannat, favorita de los extranjeros que visitan la ciudad. La bodega Irurtia es reconocida a nivel mundial siendo premiada varias veces en Francia y otros países de Europa.

Es una zona muy visitada y apreciada por el turismo argentino por su cercanía con Buenos Aires.

Se puede llegar por vía marítima o aérea, ya que hay un pequeño aeropuerto internacional. La cadena hotelera Four Seasons tiene un resort 5 estrellas en medio de un bosque, con una tranquilidad absoluta. También cuenta con un campo de golf. En un predio adyacente al hotel se encuentra un country privado llamado El Faro con puerto propio y casas muy suntuosas propiedad de famosos argentinos de la farándula, entre ellos la hija de Susana Giménez.