По прибытии в Кронштадт Колчак отправился к вице-адмиралу С. О. Макарову, готовившемуся к плаванью на ледоколе «Ермак» по Северному Ледовитому океану. Александр Васильевич обратился с просьбой принять его в состав экспедиции, однако получил отказ «по служебным обстоятельствам». После этого, некоторое время входя в личный состав судна «Князь Пожарский», Колчак в сентябре 1899 года перешёл на эскадренный броненосец «Петропавловск» и на нём отправился на Дальний Восток. Однако во время стоянки в греческом порту Пирей он получил приглашение из Академии наук от барона Э. В. Толля принять участие в упомянутой экспедиции. Из Греции через Одессу в январе 1900 года Колчак прибыл в Петербург. Начальник экспедиции предложил Александру Васильевичу руководить гидрологическими работами, а кроме того быть вторым магнитологом. Всю зиму и весну 1900 года Колчак готовился к экспедиции.

21 июля 1901 года экспедиция на шхуне «Заря» двинулась по Балтийскому, Северному и Норвежскому морям к берегам Таймырского полуострова, где предстояла первая зимовка. В октябре 1900 года Колчак участвовал в поездке Толля к фьорду Гафнера, а в апреле-мае 1901 года они вдвоем путешествовали по Таймыру. На протяжении всей экспедиции будущий адмирал вёл активную научную работу. В 1901 году Э. В. Толль увековечил имя А. В. Колчака, назвав его именем открытый экспедицией остров в Карском море и мыс. По итогам экспедиции в 1906 году был избран действительным членом Императорского Русского географического общества.

Весной 1902 года Толль принял решение направиться пешком к северу от Новосибирских островов вместе с магнитологом Ф. Г. Зебергом и двумя каюрами. Остальным же членам экспедиции из-за недостатка запаса продуктов предстояло пройти от острова Беннетта на юг, на материк, а в дальнейшем вернуться в Петербург. Колчак со своими спутниками вышли к устью Лены и через Якутск и Иркутск прибыли в столицу.

По прибытии в Санкт-Петербург Александр Васильевич доложил Академии о проделанной работе, а также сообщил о предприятии барона Толля, от которого ни к тому времени, ни позднее никаких вестей не поступило. В январе 1903 года было принято решение организовать экспедицию, целью которой являлось выяснение судьбы экспедиции Толля. Экспедиция проходила с 5 мая по 7 декабря 1903 года. В её составе было 17 человек на 12 нартах, запряжённых 160 собаками. Путь до острова Беннета занял три месяца, и был крайне тяжёлым. 4 августа 1903 года, достигнув острова Беннета, экспедиция обнаружила следы пребывания Толля и его спутников: были найдены документы экспедиции, коллекции, геодезические инструменты и дневник. Выяснилось, что Толль прибыл на остров летом 1902 г., и направился на юг, имея запас провизии лишь на 2-3 недели. Стало ясно, что экспедиция Толля погибла.