Luca vai ao shopping com determinada quantia. Com essa quan...

30 Canetas representam 100% do que Luca poderia comprar. E, 40 Lápis, igualmente, representam 100%. Se ele comprou 24 lápis significa  dizer que utilizou 60% do dinheiro (regra de três simples): 

40L - 100%    4x = 240    /    X=60% do dinheiro de luca.
24L -  X

Se Luca já gastou 60%, e deseja guardar 10% para voltar de ônibus, sobram 30% para comprar canetas, assim:

30C  - 100%    X = 90/10    /   X = 9 Canetas   
X       -  30%

Letra A

Se Lucas gastasse todo o seu dinheiro, poderia comprar 40 lápis ou 30 canetas, ou seja, com 100% do seu dinheiro seria possível fazer isso:

X = 40 lápis

ou

X = 30 canetas

Como Lucas guarda 10% do seu dinheiro para voltar de ônibus, sobra então 0,9*X, (X - 10% de X) , sendo possível comprar:

0,9*X = 0,9*40 = 36 lápis

ou

0,9*X = 0,9*30 = 27 canetas

Como ele já comprou 24 lápis, ele poderia ainda comprar mais 12 lápis (36 - 24 = 12 lápis) com o restante do dinheiro ou a quantidade Y de canetas conforme mostra a regra de três simples abaixo:

36 lápis ....... 27 canetas
12 lápis ........ Y canetas

36*Y = 12*27
36*Y = 324
Y = 9 canetas.

Logo, Lucas poderia comprar 9 canetas com o restante do dinheiro, sendo a letra (a) o gabarito da questão.
 

L= lápis
C= caneta

100=40L, ou seja, L=10/4

100=30C, ou seja, C=10/3

Luca tirou 10 para o busão, logo sobrou 90.

90=24L+xC

Substituindo L e C, temos:

90=24(10/4) + x(10/3)

90=240/4 + 10x/3

90= 60 +10x/3

90 – 60 = 10x/3

30 = 10x/3

90 = 10x

x = 9

Consegui encontrar a resposta de outra forma:

Ele tem dinheiro para comprar 40 lápis OU 30 canetas. Perceba que o rapaz também guarda 10% para a passagem.

10% de 40  = 4 e 10% de 30 = 3.  Deixa isso aqui de lado por uns segundos...

Ele comprou 24. Pegue o total (40 ou 30) e diminua por 7.

40 - 24 - 7 = 9

Achei mais fácil definir o valor total com um número que seja tanto múltiplo de 30 como de 40 (120 reais) 

Então cada lapis vale 120/40 = '3'  e cada caneta vale 120/30 = '4'

120 - 12(10% que ele guardou) = 108

(108 reais) - (os lápis que ele comprou 24*3 = 72) = 36

36 Reais que sobrou para ele comprar canetas e como cada caneta custa 4

36/4 = 9 canetas

Letra A