I primi abitanti della Val-d'Ajol potrebbero essere sia gli spagnoli in fuga dagli arabi (Poitiers 732), o le truppe di Carlo Magno di passaggio nella regione dove quest'ultimo aveva famiglia. Si stabilirono su un tumulo nel mezzo di una valle umida, l'attuale La Croix, con l'autorizzazione delle Signore di Remiremont.

La comunità crebbe e con il loro aiuto ottenne il permesso di costruire una chiesa in un luogo chiamato Laître (dove c'erano un cimitero e una cappella). Le Val dipende materialmente dalle Signore Canoniche di Remiremont, principesse del Sacro Romano Impero, sotto la protezione del Duca di Lorena, ma riferite direttamente al Papato. Spiritualmente l'arcidiocesi di Besançon gestisce la comunità. La parrocchia è servita dai monaci di Hérival.

Il territorio vede le truppe di Turenne, gli svedesi durante la Guerra dei Trent'anni, Carlo IV, duca di Lorena che tentano di riconquistare il suo ducato. Per la sovranità dell'arcivescovo di Besançon, Luigi XIV annetterà la Val per un po'. La popolazione nonostante tutto aumenta e richiede un ampliamento della chiesa. Gli abitanti colonizzano i granai, luoghi dove pascolavano gli animali e si creano tanti borghi. Il duca Leopoldo recupera il suo ducato 1704. Negli anni 1735 suo figlio Francesco III rinunciò a favore di un titolo austriaco. Stanislas gestisce il ducato fino a quando 1766, allora il Val diventerà francese.
Paese prevalentemente agricolo, la città verrà trasformata in una valle industriale dopo la guerra degli anni '70 con l'arrivo degli industriali alsaziani in fuga dall'occupazione tedesca. Principalmente la filatura e la tessitura beneficeranno della potenza idraulica di La Combeauté. L'altra faccia della medaglia, questa mancanza di diversità porterà al declino della popolazione dopo la seconda guerra mondiale.

Oggi la Val-d'Ajol vive di artigianato e piccole industrie. Unico ricordo del passato persiste la fiera di Andouilles il 3° lunedì di febbraio. Questa antica fiera (ufficializzata da Luigi Filippo nel 1831 e poi confermata dal prefetto dei Vosgi nel 1852) era una fiera del bestiame. Gli agricoltori hanno rinnovato il loro bestiame per la nuova stagione. Vittima della meccanizzazione, declinò dopo la seconda guerra mondiale. Questa fiera, a seguito della scommessa di un gruppo di persone dallo spirito rabelaisiano, ha trovato una seconda vita con la creazione di una confraternita gastronomica che vanta le qualità di una produzione locale: Andouille. Dal 1965 la Confrérie des Taste-Andouilles et Gandoyaux du Val-d'Ajol di Sapienti, Insegne e Gourmet ha riportato in vita questo evento. Ora attira da 30 a 000 persone in tre giorni il terzo lunedì di febbraio di ogni anno.