Павел Михайлович Фитин родился 15(28) декабря 1907 года в селе Ожогино Курганской области. В 1920 году после окончания начальной школы работал в сельхозкоммуне в родном селе, здесь же вступил в комсомол. После окончания средней школы в 1928 году поступил на инженерный факультет Сельскохозяйственной академии им.Тимирязева, который окончил в 1932 году.
В 1932-1934 годах являлся заведующим редакции издательства «Сельхозгиз».
В 1934-1935 годах служил в Красной Армии. После демобилизации вновь работал до 1938 года в том же издательстве заместителем главного редактора.
В марте 1938 года был направлен по партнабору на учебу в высшую школу НКВД. После окончания специальных ускоренных курсов в Школе особого назначения, готовившей кадры для внешней разведки, в ноябре того же года направляется стажером в 5-й отдел ГУГБ НКВД СССР (внешняя разведка).
В связи с острой нехваткой разведывательных кадров, когда в отделениях 5-го отдела ГУГБ НКВД порой не было ни одного сотрудника, в конце того же года П.М.Фитин назначается заместителем начальника этого отдела, а в 1939 году возглавляет внешнюю разведку органов госбезопасности. В должности начальника внешней разведки работал до 1946 года.
Несмотря на молодость П.М.Фитина, которому к моменту назначения на руководящий пост исполнилось всего тридцать один год, выбор начальника разведки органов государственной безопасности оказался правильным. Его высокий интеллект и выдающиеся организаторские способности особенно ярко проявились в годы Великой Отечественной войны.
В предвоенный период, получая от источников резидентур за рубежом информацию о том, что Германия готовится к нападению на СССР, П.М.Фитин только с января по 21 июня направил Сталину свыше ста разведывательных донесений. Из них следовало, что война стоит на пороге, и необходимо предпринимать срочные меры по укреплению обороноспособности страны.
Возглавляя внешнюю разведку в годы войны, комиссар госбезопасности 3-го ранга Фитин сделал все зависящее от него для того, чтобы обеспечить политическое руководство страны достоверной политической информацией о стратегических замыслах германского командования, сведениями о перспективах открытия «второго фронта» в Европе, документальными материалами о планах союзников СССР по антигитлеровской коалиции в послевоенный период.
В частности, в 1943 году из лондонской резидентуры советской разведки был получен перехваченный британским разведывательным органом план германского наступления на Курской дуге, что позволило руководству СССР предпринять необходимые контрмеры и разгромить врага.
Возглавляемая П.М.Фитиным внешняя разведка внимательно отслеживала и регулярно информировала Кремль о сепаратных переговорах А.Даллеса с гитлеровцами в Швейцарии.
П.М.Фитин внес важный вклад в овладение Советским Союзом секретами ядерного оружия. По заданию Центра еще в сентябре 1941 года источник лондонской резидентуры Д.Маклейн сообщил о ведущихся в Великобритании и США работах по созданию атомной бомбы. В июле 1943 года решением ГКО на возглавляемую П.М.Фитиным разведку органов госбезопасности была возложена задача по получению на регулярной основе всей информации по атомной проблеме. В результате к концу 1945 года от резидентур в Англии, США и других странах была получена необходимая документальная информация, позволившая нашей стране в кратчайший срок создать собственное ядерное оружие и тем самым положить конец монополии США в этой области.
Исследователи считают, что под руководством Фитина советская разведка достигла выдающихся результатов. «Предел мечтаний любой разведки мира» — так назвал директор ЦРУ Аллен Даллес добытые советскими разведчиками данные в период Второй мировой войны.
В 1946 году П.М.Фитина направили заместителем уполномоченного МГБ в Германию, где он находился до 1947 года.
В 1947 году П.М.Фитин назначается на пост заместителя начальника управления госбезопасности по Свердловской области.
В 1951 году назначен министром госбезопасности Казахской ССР.
С марта по июль 1953 года он начальник УМВД по Свердловской области.
За большие заслуги в деле обеспечения государственной безопасности нашей страны генерал-лейтенант Фитин награжден двумя орденами Красного Знамени, орденом Красной Звезды, орденом Красного Знамени Тувы, многими медалями, а также нагрудным знаком «Заслуженный работник НКВД».
Тем не менее, в ноябре 1953 года П. М. Фитина уволили из органов безопасности по служебному несоответствию даже без пенсии, так как он не имел необходимой выслуги лет.
После отставки Фитин работал Главным контролёром Министерства госконтроля СССР (апрель 1954 — апрель 1958 года), старшим контролёром Комиссии советского контроля СМ СССР (апрель 1958 — август 1959 года). Он был одним из немногих, кто встретил организатора военной разведки и контрразведки П. А. Судоплатова после его возвращения из заключения, в котором он провёл 10 лет
В последние годы жизни Фитин работал директором фотокомбината Союза советских обществ дружбы и культурных связей с зарубежными странами (с августа 1959 года, последнее упоминание — в июле 1963 года).
Увлекался рыбалкой, играл в теннис.
Павел Михайлович Фитин скончался 24 декабря 1971 года в городе Москве. Похоронен на Введенском кладбище, ныне в муниципальном округе Лефортово Юго-Восточного административного округа города Москвы.
