Caso duas pessoas decidam transacionar para prevenir litígio...

Art. 848 do Código Civil: Sendo nula qualquer das cláusulas da transação, nula será esta.

Sobre o erro da alternativa E:

Art. 844. A transação não aproveita, nem prejudica senão aos que nela intervierem, ainda que diga respeito a coisa indivisível.

A - Art. 848. Sendo nula qualquer das cláusulas da transação, nula será esta.

B -  Art. 843. A transação interpreta-se restritivamente, e por ela não se transmitem, apenas se declaram ou reconhecem direitos.

C - Art. 842. A transação far-se-á por escritura pública, nas obrigações em que a lei o exige, ou por instrumento particular, nas em que ela o admite; se recair sobre direitos contestados em juízo, será feita por escritura pública, ou por termo nos autos, assinado pelos transigentes e homologado pelo juiz.

D - Art. 841. Só quanto a direitos patrimoniais de caráter privado se permite a transação.

E - Art. 844. A transação não aproveita, nem prejudica senão aos que nela intervierem, ainda que diga respeito a coisa indivisível.

Erro da letra D está na palavra "transmitir":

D) servirá para transmitir direitos de ordem patrimonial.  

De fato, conforme o art. 841 do CC, "Só quanto a direitos patrimoniais de caráter privado se permite a transação". Ocorre que, de acordo com o art. 843 do CC, os referidos direitos patrimoniais apenas se declaram ou reconhecem ("A transação interpreta-se restritivamente, e por ela não se transmitem, apenas se declaram ou reconhecem direitos").

que onda

A) será nulo, se qualquer das cláusulas for nula (CORRETA)

Art. 848. Sendo nula qualquer das cláusulas da transação, nula será esta.

B) deverá ser interpretado da forma que beneficiar o mais prejudicado. 

Art. 843. A transação interpreta-se restritivamente, e por ela não se transmitem, apenas se declaram ou reconhecem direitos.

C) deverá ser formalizado por meio de escritura pública. 

Art. 842. A transação far-se-á por escritura pública, nas obrigações em que a lei o exige, ou por instrumento particular, nas em que ela o admite; se recair sobre direitos contestados em juízo, será feita por escritura pública, ou por termo nos autos, assinado pelos transigentes e homologado pelo juiz.

D) servirá para transmitir direitos de ordem patrimonial.  

A alternativa está incompleta.  Só quanto a direitos patrimoniais de caráter privado se permite a transação. Art. 841. Só quanto a direitos patrimoniais de caráter privado se permite a transação.

E) aproveitará, mas não prejudicará terceiros que não tomarem parte da transação. 

Art. 844. A transação não aproveita, nem prejudica senão aos que nela intervierem, ainda que diga respeito a coisa indivisível.