Действие мультфильма происходит в Лондоне в 1897 году. В город возвращается мышонок доктор Доусон, только что закончивший службу в Афганистане. Он встречает маленькую мышку Оливию, которая ищет великого мышиного сыщика с Бэйкер-стрит по имени Бэзил. Только он может помочь ей найти пропавшего отца. Доктор Доусон и Оливия вместе приходят в дом Бэзила, где великий мышиный сыщик тут же находит первые улики в этом запутанном деле. Мультфильм Великий мышиный сыщик снят по мотивам серии повестей Бэзил с Бэйкер-стрит Пола Кэлдоуна и Ив Титус, которые, в свою очередь, основаны на книгах сэра Артура Конана Дойля.