А. А. Шахматов — выдающийся языковед и историк конца XIX — начала XX в. Научные склонности Шахматова проявились очень рано: в 1881 г., семнадцатилетним юношей, он публикует в крупнейшем европейском славистическом журнале свою первую научную статью «К критике древнерусских текстов». В следующем году, будучи гимназистом выпускного класса, выступает как неофициальный оппонент на защите диссертации будущим академиком А. И. Соболевским, поразив московскую профессуру глубиной критического анализа.
Став студентом историко-филологического факультета Московского университета, Шахматов занимается научной деятельностью под руководством виднейших ученых-языковедов того времени Ф. Ф. Фортунатова и Ф. Е. Корша. Будучи студентом, А. А. Шахматов пишет «Исследование о языке новгородских грамот XIII и XIV вв.» (издано в 1886 г.), которое до сих пор -остается образцом научного описания и публикации древних текстов, критического анализа их языка с целью выявления особенностей местного диалекта. Весной 1894 г. Совет историко-филологического факультета Московского университета при защите диссертации сразу присуждает 29-летнему А. А. Шахматову ученую степень доктора наук. В 1899 г. ои становится самым молодым в истории русской филологии академиком.
Научные интересы А. А. Шахматова были сосредоточены в области истории и диалектологии русского и других славянских языков. Ему принадлежит серия авторитетных исследований по реконструкции древнейшей славянской и древнерусской системы звуков и форм, которые были обобщены в фундаментальном «Очерке древнейшего периода истории русского языка» (издан в 1915 г. в серии «Энциклопедия славянской филологии») и в «Курсе истории русского языка», прочитанном в 1908—1911 гг. в Петербургском университете.
А. А. Шахматов обосновал в своих реконструкциях древнего языкового состояния необходимость широкого привлечения диалектологических данных, которые после его работ становятся основным источником исторического изучения языка. Именно в свете диалектологических данных приобретают новое значение показания древних письменных памятников для восстановления особенностей живой древнерусской речи.
Особые заслуги принадлежат А. А. Шахматову в разработке проблем происхождения восточнославянских народов и их языков, чему он посвятил около двух десятков работ. Первая («К вопросу об образовании русских наречий») была опубликована в 1894 г., а последняя (брошюра «Древнейшие судьбы племени») увидела свет в 1919 г. Им была впервые создана стройная и логически .строгая концепция, опирающаяся на идею неразрывной связи истории языка с историей говорящего иа нем народа.
Хотя частные характеристики и выводы А. А. Шахматова в настоящее время не сохраняют своего значения (материал, на который он опирался на рубеже XIX—XX вв., был еще очень скудным), однако основы и принципы построения его концепции остаются актуальными и позволяют на новом материале разрабатывать поставленные А. А. Шахматовым проблемы.
Как историк, А. А. Шахматов особенно много занимался происхождением и составом русских летописей. Ему принадлежит прочно вошедшая в науку концепция русского летописания, раскрывающая сложные взаимоотношения разных редакций и списков дошедших до нас и даже неизвестных (но предсказанных ученым и позднее обнаруженных) летописей. Им установлено время создания и источники старейших летописных сводов, и в частности «Повести временных лет» — основного летописного сочинения, созданного монахом Киево-Печерского монастыря Нестором в начале XII в. Проблемам летописания посвящен ряд работ ученого, среди которых капитальные труды «Разыскания о древнейших русских летописных сводах» (1908) и «Повесть временных лет» (т. 1. Вводная часть. Текст. Примечания, 1916), где воспроизводится восстановленный текст «Повести» с выделением в нем текста «начального» свода (XI в.).
В последний период своей деятельности А. А. Шахматов читал в Петербургском университете курс современного русского литературного языка, а затем отдельно — курс синтаксиса русского языка. По рукописным материалам эти курсы были изданы посмертно. «Синтаксис русского языка» А. А. Шахматова оказал огромное влияние на последующее развитие отечественных синтаксических учений.