Em uma loja de CDs, Júnior separou 5 CDs de música brega, ...

Alternativa B, 590.

A ordem importa? NÃO. então é combinação.

Precisa-se garantir ao menos um estilo de cada, o que importa:

Entenda o que é combinação:
http://pt.wikipedia.org/wiki/Combina%C3%A7%C3%A3o_%28matem%C3%A1tica%29

C(5,1)*(4,1)*(3,3)>> 5*4*1 >> 20
C(5,1)*(4,2)*(3,2)>> 5*6*3 >> 90
C(4,1)*(3,1)*(5,3) >> 4*3*10 >> 120
C(4,1)*(3,2)*(5,2) >> 4*3*10 >> 120
C(3,1)*(5,1)*(4,3) >>  3*5*4 >> 60
C(3,1)*(5,2)*(4,2) >> 3*10*6 >> 180

20+90+120+120+60+180 = 590

Questão de martírio, pois demora pra ser respondida. Responder a questão e garantir que ela está correta, com certeza, leva uns 20 minutos.

Acredito que a maneira mais simples de resolver essa questão seja calcular o total de maneiras de se escolher 5 CDs dentre os 12 (C12,5), por meio de uma combinação já que a ordem não importa, e depois calcular os casos desfavoráveis.

n = C(12,5) - C(9,5) - C(8,5) - C(7,5).

n = 792 - 126 - 56 - 21

n = 589

A segunda parcela diz respeito aos casos de escolha entre CDs brega e forró: C(9,5)

A terceira parcela diz respeito aos casos de escolha entre CDs brega e funk: C(8,5)

A quarta parcela diz respeito aos casos de escolha entre CDs forró e funk: C(7,5)

Finalmente, deve-se considerar que houve uma dupla retirada do caso em que os 5 CDs brega são escolhidos. Esse caso foi contemplado uma vez na segunda parcela e uma vez na terceira parcela. Logo, soma-se 1 ao resultado.

N = 589 + 1 = 590

Esse examinador é um pai, ainda treina os candidatos para ESA!