Нарадзіўся ў брахманской сям’і. Атрымаў вышэйшую адукацыю ў галіне англійскай літаратуры, хіндзі і санскрыту ва Алахабадскім універсітэце. Затым вывучаў права ў Кембрыджскім універсітэце і школе права Гарвардскага ўніверсітэта.
У 40-я гады XX стагоддзя далучыўся да барацьбы за незалежнасць Індыі ад Вялікабрытаніі і ўступіў у Індыйскі нацыянальны кангрэс, якому заставаўся верным да канца жыцця. У 1952 годзе ўзначаліў урад Бхопал і заставаўся на гэтай пасадзе да 1956 года, калі Бхапал увайшоў у склад штата Мадх’я-Прадэш.
У 60-я гады XX стагоддзя Шанкар Шарма падтрымаў Індзіру Гандзі ў яе імкненні стаць лідарам Індыйскага нацыянальнага кангрэса. Уваходзіў у яе кабінет у якасці міністра сувязі ў 1974—1977 гадах. У 1971 і 1980 гадах выйграў выбары ў Лок Сабху (ніжнюю палату парламента Індыі) ад Бхапала.
У 1984 годзе стаў губернатарам штата Андхра-Прадэш. Падчас яго губернатарства ў гэтым штаце сікхскімі экстрэмістамі былі забітыя яго дачка Гітанжалі і зяць, Лаліт Макен, малады член парламента і перспектыўны палітык. Акрамя таго, 31 кастрычніка 1984 г. была забітая Індзіра Гандзі. Неўзабаве пасля гэтага, у 1985 годзе, у разгар канфлікту паміж цэнтральнай уладай Індыі і сікхскімі экстрэмістамі, Шанкар Шарма стаў губернатарам штата Пенджаб, дзе пераважна пражываюць сікхі. У 1986 годзе стаў губернатарам штата Махараштра. У 1987 годзе абраны віцэ-прэзідэнтам Індыі і старшынёй верхняй палаты парламента Радж Сабха.