Александр Шаров родился в 1909 году в городе Киеве на Украине. Настоящее имя Александра – Шер Израилевич Нюренберг. В 1918 году семья переехала в Москву. Отец – Израиль Исаакович Нюренберг, историк, журналист и мама Фани Ефимовна Липец были репрессированы и погибли.
Свои школьные годы Шаров провел в Московской опытно-экспериментальной школе-коммуне имени Пантелеймона Николаевича Лепешинского. Затем поступил в МГУ и окончил факультет биологии, получив специальность генетика. Однако профессией стала не наука, а журналистика. Работал специальным корреспондентом отдела науки газеты «Известия».
В 1937 году Шер Израилевич взял псевдоним Александр Шаров.