Dzimis Mazsalacā, bet vēlāk ģimene pārcēlās uz Rūjienu, kur tai bija koloniālpreču un grāmatveikals. Beidzis kādu privātskolu, Alksnis sāka strādāt tēva veikalā. Viņam nepatika tirgoties, bet apzīmēt ietinamos papīrus. Veikalā krājās skices ar apkārtnes ļaudīm un veikala apmeklētājiem. Tēvam dēla darbošanās nepatika, taču viņš piekāpās un atļāva dēlam doties uz Rīgu. Kur tas mācījās zīmēt vācu amatniecības skolā. Tālāk ceļš veda uz Mākslas akadēmiju Pēterburgā. 1892.gadā viņš ieguva trešās pakāpes mākslinieka grādu.
Šai laikā latviešu mākslinieki un konservatoristi Pēterburgā izveidoja savu pulciņu ar nosaukumu Rūķis. Tā organizēšanā nopelni bija Rihardam Zariņam, taču par garīgo vadoni izvirzījās Ādams Alksnis. Alkšņa pamatdoma bija, ka Pēterburgas latviešu māksliniekiem jāatgriežas savā dabiskajā vidē- dzimtajā zemē. Pats Alksnis iekārtoja sev darbnīcu Rūjienā, bet Rozentāls, sekodams viņa paraugam, apmetās Saldū. Etnogrāfiskajā izstādē, kas notika 1896.gadā Rīgā, latviešu mākslu reprezentēja desmit “rūķu”, to vidū Alksnis, Purvītis un Rozentāls.
Alksnis galvenokārt pievērsies zīmējumiem un akvareļiem. Eļļas tehnika viņam bija mazāk tuva, lai gan arī tur sastopami respektējami darbi- ģīmetnes, ainavu skices, viņa iemīļotie zirgi.
1897.gada otrā pusē Alksnis bija nolēmis doties sen iecerētā ceļojumā uz Rietumeiropas mākslas centriem. Pirms tam viņam izoperēja deguna polipus, notika nelaimīga asins saindēšanās, un 21.augustā viņš mira, nodzīvojis tikai 33 gadus.
Apglabāts Ternejas kapsētā. Kapu rotā tēlnieka Andra Vārpas veidots piemineklis. Ādama Alkšņa darbnīcā 1969.gadā gleznotājs Jānis Galzons (seniors) iekārtoja muzeju, 2000.gadā Valsts muzeju apvienība to nolikvidēja.