Albert Marius Andersen overtok stillingen som vaktmester ved Sel Hjelpefengsel etter faren. Dette arbeidet skjøttet han pliktoppfyllende og klokt fram til krigsutbruddet i 1940. Han flyttet så til Odden (Kræmarodden) nord for Otta, der han først bodde sammen med søsteren Ragnhild. Etter at hun falt fra i 1954, bodde han alene så lenge han kunne.
Albert Andersen døde 16. mai 1974 på Selsro Bygdeheim på Otta. Lensmann Jørgen Madslien i Sel skrev disse minneordene i Gudbrandsdølen:

Vaktmester Albert Andersen og gåva hans.
  • Da mange i bygda vår veit lite eller intet om vaktmester Albert Andersen, vil eg skrive litt i lokalpressa om han.
  • Albert Marius Andersen var fødd den 28. april 1887 i Sel. Faren var vaktmester Ole Andersen frå Skotte i Sel, og mora hette Ragnhild. Han voks opp i Sel hjelpefengsel, der faren var vaktmester, og han hadde 6 sysken, som alle er gått bort før han. Mange i bygda vil nok minnest dei framleis. Det var Thor Andersen som åtte Fevolden, Hans Andersen som ei tid budde i Lillehammer, Olø Andersen som åtte Uppigard Bu, Simen Wolrath som var skogforvalter i Nord Gudbrandsdal, Marit som var gift til Solhjem, og Ragnhild. Vaktmesteren var poståpner og, inntil jernbana kom til Otta, då posten vart flytta til Otta st. Da krigen kom i 1940 var Albert i fengslet og passa jobben sin så lenge han kunne. Så sette han dørene oppe så fangane kunne kome unna, og sjølv gjekk han bekkefaret oppover til fjellet for å berge seg. Han kom visst ikkje der som vaktmester meir. Han flytta til Odden, eit hus som han åtte nord for Otta. Han budde der så lenge han kunne greie seg sjølv. Så budde han ei tid hos slektninger, og kom så til Sellsro Bygdaheim.
  • Om Albert Andersen har eg mange gode minner. Han var svært bestemt når vi kom med fanger til han. Men etter nokre dagar trefte eg gjerne vaktmesteren og fangen i arbeidsrommet. Han var sjølv ein flink handverkar. Han tok ein lett og munter tone i samvære med fangane sine, og han var sikkert ein god arbeidsterapeut, sjølv om han vel helst ikkje kjende det ordet. Han hadde aldri mange fanger i den tid eg kjende tilhøva der. Det var berre 4 av dei over tjuge fengselscellene der som var i bruk. Derfor hadde han høve til å ta seg av kvar enkelt, og det gjorde han og.
  • Albert Andersen var i heile sitt liv ein mann som hadde små krav for sin eigen del. Han høyrde til ein generasjon som var nøydd til å spare i unge år, og så vart det vel ei vane. Han hadde alltid god orden i sakene sine, - ”det lærde eg tå om far” – sa han. Og han høyrde til ei slekt som har stor evne til å greie seg i livet, - vi kan segje at folk som høyrer til slekta hans har stor økonomisk evne, ved dugleik og sparsemd.
  • Da Albert Andersen kom til bygdaheimen, treffte han ein ny type fangar. Her var det ikkje fengselsmurane som sette stengje, men alderdomen. Han kom saman med eldre folk frå Sel, og mange frå Heidal, som er ein del av Sel nå. Sikkert høyrde han ofte at heidølene hadde tankane sine i det bygdelaget som dei var flytta vekk frå, og han tok nok ikkje fel i at dei ynskte seg til Heidal att. – ”Titt eg minnest ein gamal gard, med store tre og runnar.” – Så ein dag stod Albert Andersen framfor pulten min, og bad meg skrive testamente. Slik som testamentet vart skrive, vart det slik at alt han åtte skulle gå til Sel kommune til å gjera istand ein heim for eldre i Heidal, og berre dersom det ikkje lot seg gjere skulde det gå til utviding av Selsro. Albert Andersen gjekk bort den 16. mai i år. Han hadde meire att etter seg enn nokon skulde tru.