Hola,
En el planteamiento que tienes se han comprado x1 libros, pagando por cada uno x2 euros. Del mismo modo se han comprado y1 revistas, pagando por cada una y2 euros.
Éstas son las variables a contemplar.
tienes que el precio total es 729, por tanto, si por los libros se ha pagado:
x1*x2 (x1 libros a x2 euros el libro)
y por las revistas
y1*y2 (igual que con lso libros se han comprado y1 revistas y cada una vale y2 euros, por lo tanto el precio total de las revistas es y1*y2)
y el precio total pagado:
x1*x2 + y1*y2 = 729 primera relación
También sabes que el precio de la revista (y2) es el cuadrado del precio del libro (x2), por lo tanto:
y2^2 = x2 (segunda realción)
A partir de éste putno, puedes reemplazar y obtener:
x1*y2^2+y1*y2=729
Lo cual resulta ser una ecuación cuadrática en varible y2, aplicando la fórmula de toda la vida de ecuaciones de segundo grado.....
De todas formas, la información de que dispones no es suficiente para encontrar precios concretos, como mucho encontrarás relaciones.