O Dicionário Houaiss da Língua Portuguesa regista as duas palavras:

I. Penalização

«sobrecarga penosa. Ex.: "a dupla jornada de trabalho impõe uma dura p. às donas de casa"»

II. Penalidade 

«1 sistema de penas ditadas pela lei; 2 caráter da pena; Ex.: "a p. para esse tipo de delito é pecuniária"; 3 pena, castigo correspondente a um delito ou crime; Ex.: "o estudo abrangia vários aspectos da fraude, inclusive as p. previstas"»

Acresce que penalização é um substantivo deverbal, isto é, deriva de um verbo, que no caso é penalizar, mediante a junção do sufixo -ção, que em geral significa «acção ou resultado dela». Tendo em conta que a palavra penalização é não só a acção de penalizar mas também o resultado dessa acção, poder-se-ia considerá-la um sinónimo perfeito de penalidade. Não é bem assim, porque o uso destes vocábulos parece depender também do contexto situacional: no português europeu, aplica-se uma penalidade quando nos referimos aos domínios jurídico e futebolístico; mas num concurso de televisão, fala-se numa «penalização de cinco pontos», podendo esta expressão ser interpretada quer como o acto de descontar pontuação ou esse mesmo desconto. Em suma, eu diria que penalidade é a situação penal, isto é, a pena aplicada a quem infringe leis ou normas, podendo estas reportar-se ao foro criminal. Já penalização é o «acto de penalizar» e, ao mesmo tempo, a pena correspondente a um valor (pecuniário ou não) que é retirado a alguém devido a falta ou incumprimento de qualquer regra ou procedimento, sem carácter criminal.