A soma de dois números racionais é igual a 5/4 e a diferença entre eles é 1/4...

Com tais informações, montemos um sistema de duas equações:
{x+y= 5 (-1) => multiplique por -1 para isolar o x
4
{x-y= 1
4
{-x-y= -5/4
{x-y= 1/4 => com dois x com sinais opostos, cortamos, ficando assim:
-y-y= -5/4 + 1/4
-2y= -1 (-1) => multiplicamos por -1 pois o 1º termo ñ pode ficar negativo
2y= 1
y= 1
2
Conhecendo o valor de y, substitua-o em qq uma das duas equações do sistema para encontrar agora o valor de x:
x-y=1/4
x-1/2= 1/4
x= 1/4+1/2
x= 3/4

O que queremos é o produto desses dois números, logo:
1/2 x 3/4 = 3/8