A făcut parte din echipajul de aprovizionare al vasului RMS Titanic în timpul călătoriei inaugurale și finale a acestuia, în aprilie 1912. A fost la bordul navei în timpul călătoriei de livrare de la Belfast la Southampton. S-a îmbarcat din nou în Southampton la 4 aprilie 1912. În calitate de brutar-șef, Joughin a primit un salariu lunar de 12 lire sterline (echivalentul a 1.500 de lire sterline astăzi, ajustat la inflație) și avea în subordine un personal de treisprezece brutari.
Când nava a lovit un iceberg în seara zilei de 14 aprilie, la ora 23:40, Joughin nu era de serviciu și se afla în patul său. Conform mărturiei sale, a simțit șocul coliziunii și s-a ridicat imediat. De pe punțile superioare se transmitea vestea că ofițerii pregăteau bărcile de salvare pentru lansare, iar Joughin și-a trimis cei treisprezece oameni pe puntea bărcilor cu provizii pentru bărcile de salvare: patru pâini de căciulă, aproximativ patruzeci de kilograme de pâine fiecare. Joughin a rămas în urmă pentru o vreme, dar apoi i-a urmat, ajungând pe puntea de bărci în jurul orei 00:30.
S-a alăturat ofițerului șef Henry Wilde lângă barca de salvare 10. Joughin a ajutat, împreună cu stewardesele și alți marinari, doamnele și copiii să treacă la barca de salvare, deși, după un timp, femeile de pe punte au fugit de barcă spunând că sunt mai în siguranță la bordul Titanicului. Șeful Baker a mers apoi pe puntea A și a adus cu forța femeile și copiii, aruncându-i în barca de salvare.
Deși a fost desemnat căpitan al bărcii de salvare 10, el nu s-a urcat la bord; aceasta era deja deservită de doi marinari și un steward. A coborât jos după plecarea bărcii de salvare 10 și „a băut un strop de lichior” (un pahar pe jumătate plin de lichior, după cum a precizat mai departe) în cabina sa. Apoi a urcat din nou la etaj după ce s-a întâlnit cu „bătrânul doctor” (probabil Dr. William O’Loughlin, foarte probabil ultima dată când cineva l-a văzut vreodată). Când a ajuns pe puntea pentru bărci, toate bărcile fuseseră coborâte, așa că a coborât în promenada de pe puntea A și a aruncat peste bord aproximativ cincizeci de șezlonguri, pentru a putea fi folosite ca dispozitive de plutire.
Joughin a intrat apoi în cămara de pe puntea A pentru a lua un pahar de apă și, în timp ce se afla acolo, a auzit un zgomot puternic, „ca și cum o parte a navei s-ar fi îndoit”. A ieșit din cămară și s-a alăturat mulțimii care alerga spre pupa punții. În timp ce traversa puntea puțului, nava a dat brusc o înclinare la babord și, conform spuselor sale, i-a aruncat pe toți cei aflați în puț în grămadă, cu excepția lui. Joughin s-a urcat pe partea de tribord a punții de pupa, prinzându-se de balustrada de siguranță, astfel încât să se afle în exteriorul navei în timp ce aceasta cobora la capătul ei. Când nava s-a scufundat în cele din urmă, Joughin a coborât cu ea ca și cum ar fi fost un lift, fără a-și băga capul sub apă (după spusele sale, capul său „s-ar putea să fi fost udat, dar nu mai mult”). El a fost, astfel, ultimul supraviețuitor care a părăsit RMS Titanic.
Potrivit propriei sale mărturii, el a continuat să vâslească și să calce în apă timp de aproximativ două ore. De asemenea, a recunoscut că abia a simțit frigul, cel mai probabil datorită alcoolului pe care îl băuse. (Cantitățile mari de alcool scad, în general, riscul de hipotermie.) Când s-a luminat de ziuă, a zărit colacul B răsturnat, cu ofițerul secund Charles Lightoller și aproximativ douăzeci și cinci de oameni care stăteau pe partea laterală a bărcii. Joughin a înotat încet spre ea, dar nu mai era loc pentru el. Cu toate acestea, un bărbat, bucătarul Isaac Maynard, l-a recunoscut și l-a ținut de mână în timp ce șeful Baker se ținea de partea laterală a bărcii, cu picioarele și picioarele încă în apă. A apărut apoi o altă barcă de salvare, iar Joughin a înotat până la ea și a fost urcat în ea, unde a rămas până când s-a îmbarcat pe RMS Carpathia, care venise să îi salveze. A fost salvat din mare doar cu picioarele umflate.
.