Indique a opção correta....

Questão de Matemática da banca ESAF aplicada no concurso MPOG (2006). Confira a resolução completa abaixo:

Indique a opção correta.