Среднее образование А. А. Марков получил в гимназии. Он не относился к числу лучших учеников; напротив, из гимназии неоднократно поступали жалобы на его неудачи по всем предметам, за исключением математики. Были предупреждения отцу, что эта неуспеваемость может повести к исключению сына из учебного заведения. Впрочем, в последних классах самому А. А. Маркову занятия в гимназии были настолько тягостны, что он подумывал об оставлении её и переходе в техническое учебное заведение. Увлечение математикой у А. А. Маркова началось в гимназические годы. Уже тогда он приступил к самостоятельному изучению высшей математики. Эти занятия, как ему казалось, привели его к открытию нового метода интегрирования линейных дифференциальных уравнений с постоянными коэффициентами. Метод, найденный А. А. Марковым, был, однако, не новым в науке, но это первое самостоятельное открытие привело к знакомству с университетскими профессорами и навсегда определило его дальнейшие занятия. Университет А. А. Марков окончил в 1878 г. с золотой медалью за научную работу "Об интегрировании дифференциальных уравнений при помощи непрерывных дробей". Через два года после этого он защитил магистерскую диссертацию и начал преподавать в Петербургском университете сначала в качестве приват-доцента, а с 1886 г.- в качестве профессора Педагогическая деятельность А. А. Маркова была пронизана желанием дать предельно ясное и одновременно безупречно строгое изложение предмета, без загромождения его материалом. Теорию он иллюстрировал мастерски подобранными примерами, разбираемыми, как правило, до числовых расчётов Уже через восемь лет после опубликования А. А. Марковым первой научной работы его научные заслуги были столь велики, что, по предложению П. Л. Чебышева, Академия наук избрала его в 1886 г. адъюнктом, через четыре года - экстраординарным академиком, а ещё через шесть лет - ординарным академиком.

Научное творчество А. А. Маркова весьма разнообразно. Первые годы он интересовался теорией чисел, дифференциальными уравнениями, теорией функций и другими вопросами, позднее он целиком занялся теорией вероятностей. Результаты, полученные им в каждой из названных областей, способны были создать ему имя крупного учёного. Многие его работы воспринимаются и теперь как классические произведения математики и всё ещё продолжают питать идеями, методами и постановками задач новые поколения исследователей. Однако самые значительные достижения А. А. Маркова принадлежат теории чисел и теории вероятностей и, пожалуй, в первую очередь последней из них. Если в теории чисел он способствовал развитию одного-двух её разделов, то в теории вероятностей его труды привели не только к значительному прогрессу существовавших до него направлений, но и к коренному преобразованию всей этой науки. Эти работы принесли ему всемирную известность не только среди математиков, но и среди физиков, техников, естествоиспытателей. Именно здесь во всей полноте вскрылись сила, разносторонность и своеобразные черты его дарования. Первые работы А. А. Маркова по теории вероятностей являются непосредственным продолжением и завершением исследований П. Л. Чебышева и относятся, во-первых, к установлению наиболее общих условий, при которых имеет место закон больших чисел, и, во-вторых, к доказательству центральной предельной теоремы теории вероятностей. П. Л. Чебышев сформулировал эту теорему, дал набросок метода её доказательства (метод моментов), но самого строгого доказательства не дал. А. А. Маркову удалось осуществить идеи П. Л. Чебышева и дать безупречное доказательство указанной теоремы в очень широких условиях. А. А. Марков шёл очень сложным и остроумным путём через разложение в непрерывные дроби интеграла особого вида. Конечно, может возникнуть вопрос: какова же роль этих положений, потребовавших так много труда и изобретательности от целого ряда первоклассных математиков, какое приложение они имеют за пределами узких интересов теории вероятностей? Закон больших чисел состоит в следующем: среднее значение очень большого числа случайных величин, принимающих свои значения независимо друг от друга, с практической достоверностью равно постоянной величине. В качестве другого примера рассмотрим давление газа на стенку сосуда. Это давление есть результат ударов о стенку отдельных молекул газа, двигающихся со скоростями, имеющими случайные значения. Таким образом, давление в каждой части поверхности сосуда должно быть подвержено случайным колебаниям, так как число и сила ударов являются делом случая. Но опыт учит, что давление на стенки сосуда распределяется равномерно. В чём же здесь причина? Закон больших чисел даёт нам на это ответ: так как давление складывается из огромного количества ударов отдельных частиц, то среднее значение этих отдельных давлений (а значит - и всё результирующее давление) с практической достоверностью является постоянной величиной. Закон больших чисел, таким образом, даёт нам представление о суммарном действии большого числа случайных величин.

Результаты отдельных измерений, отдельные значения случайных величин, вообще говоря, сильно отличаются от их среднего значения. Возникает вопрос: как часто случайная величина, имеющая различные значения, будет иметь какое-либо определённое значение? Так может возникнуть, например, вопрос: какая часть молекул газа, заключённого в сосуде, обладает данной скоростью? Ответ на такие вопросы даёт центральная предельная теорема теории вероятностей. Она показывает, что независимо от природы случайных величин вероятности принимаемых ими значений подчиняются одному и тому же вполне определённому закону. Благодаря этому артиллеристы овладели законом рассеяния полёта снарядов и уверенно ведут стрельбу, несмотря на то, что тысячи случайных причин отклоняют снаряд от цели. Дать доказательство этой теоремы - значит дать естествознанию и технике возможность предвидеть там, где господствует слепой случай и где, кажется, царит хаос.

О бинарных квадратичных формах положительного определителя, 1880 (магистерская диссертация) О некоторых приближениях алгебраических непрерывных дробей,1884 (докторская диссертация); Исчисление конечных разностей, Исчисление вероятностей, 1900