Quando la sua famiglia si trasferisce da Angoulème a Parigi, il giovane Charles Augustin segue le lezioni al Collège Mazarin e al Collège de France. Nel 1757 entra nella Società delle Scienze di Montpellier come membro aggiunto e scrive diversi testi di astronomia e matematica. Torna poi a Parigi, e nel 1760 viene ammesso alla Scuola del Genio di Mezières, dove entra in contatto con Bossut. Nel 1761 si diploma con il rango di "lieutenant en premier" del corpo del genio; dal 1764 al 1772 è di stanza in Martinica, dove dirige i lavori di costruzione del Fort Bourbon; questa esperienza sarà fondamentale per alcuni dei suoi lavori di meccanica.

Ritornato in Francia, nel 1773 scrive un'importante memoria di meccanica sull'influenza dell'attrito e della coesione in alcuni problemi di statica: questo lavoro viene però trascurato dagli ingegneri. L'anno seguente inizia a lavorare ad una memoria sugli aghi magnetici, che gli varrà il primo premio nella competizione dell'Accademia di Parigi per il 1777 e, su richiesta dell'allora ministro della guerra, partecipa al piano di riorganizzazione del Genio. Nel 1778 pubblica una memoria in cui affronta il problema del rendimento del lavoro umano .

Dal 1779 si dedica a esperimenti e ricerche sull'attrito con tali risultati da ottenere nuovamente il primo premio all'Accademia di Parigi nel 1781 con una memoria che gli ha dà grande successo.

Coulomb si inserisce a pieno titolo tra i precursori della meccanica applicata alle macchine: studia l'effetto di una macchina libera da urti e da attrito (concludendo che esso è continuamente proporzionale alla quantità di forza viva che sia stata ceduta dall'agente che ha provocato l'effetto) e il rapporto tra lavoro utile e affaticamento nell'opera svolta dagli animali e dagli uomini, cercando le condizioni per massimizzare l'effetto utile; propone anche una unità di misura per la "quantità d'azione".

L'ammissione all'Accademia del 1781 permette a Coulomb di risiedere a Parigi, dove si sposa, e dove può dedicarsi alle sue ricerche fisiche. I maggiori contributi innovativi di Coulomb sono quelli relativi all'elettricità. Tra il 1781 e il 1806 pubblica 15 memorie presso l'Accademia e presso l'Institut de France, che, dopo la rivoluzione, prende il posto della prima. La torsione, l'elettricità ed il magnetismo sono gli argomenti principali di queste memorie.

Nel 1784 pubblica la memoria più importante sulla torsione, in cui presenta una bilancia basata sulla forza di torsione e sull'elasticità dei fili di metallo che permette la misura precisa di forze di piccolissima intensità. Questo strumento gli permette di affrontare in maniera nuova lo studio dell'elettricità e del magnetismo. Coulomb ha indubbiamente un approccio molto diverso da quello degli altri scienziati del settore, anche dei francesi Du Fay e Nollet: in una serie di sette memorie presentate all'Accademia tra il 1785 ed il 1791 Coulomb estende il paradigma newtoniano dell'azione istantanea a distanza ai due nuovi domini dell'elettricità e del magnetismo. Coulomb pur mostrando sperimentalmente la validità della legge dell'inverso del quadrato non prova mai la proporzionalità con il prodotto delle cariche elettriche o delle intensità dei poli magnetici. Nella legge, in pratica, egli trova il denominatore ma non il numeratore. Non definisce mai, inoltre, l'unità di carica elettrica o di intensità di polo magnetico.

Le sue indagini lo portano ad individuare due tipi di sostanze: i conduttori e i dielettrici; a mostrare come la distribuzione di carica dipenda unicamente dalla mutua repulsione di cariche del medesimo segno e dalla geometria e posizione dei corpi; a stabilire che le cariche statiche si distribuiscono solo sulla superficie dei corpi conduttori qualunque sia la geometria e il materiale costituente i corpi medesimi; egli mostra inoltre che il modello ad uno e quello a due fluidi sono da un punto di vista matematico del tutto equivalenti.

Nel 1791, in seguito ad alcune riforme apportate dall'Assemblea Nazionale al corpo del Genio, Coulomb lascia il suo incarico con il grado di "lieutenent colonel", ma continua a lavorare nel comitato per la standardizzazione dei pesi e delle misure e all'Accademia fino alla sua abolizione 1'8 agosto del 1793. Nel dicembre del medesimo anno viene "purgato" e si ritira in una sua proprietà, La Justinière. Nel 1795 torna però a Parigi dove viene eletto all'Institut de France, come membro per la Fisica sprimentale. Nel 1802 diventa ispettore generale per l'istruzione pubblica, e si occupa soprattutto dei "lycées".