Переведем все длины выражения в сантиметры для удобства сравнения:

1) 5 дм 8 см = 58 см, 7 дм 1 см = 71 см
58 * 71 = 4118 см²

2) 37 см = 37 см, 7 дм 3 см = 73 см
37 * 73 = 2701 см²

3) 8 дм = 80 см, 80 см = 80 см
80 * 80 = 6400 см²

4) 77 см = 77 см, 7 дм 7 см = 77 см
77 * 77 = 5929 см²

5) 5 дм 3 см = 53 см, 6 дм = 60 см
53 * 60 = 3180 см²

6) 42 см = 42 см, 40 дм = 400 см
42 * 400 = 16800 см²

Сравнение площадей:
1) 4118
2) 2701
3) 6400
4) 5929
5) 3180
6) 16800

Наибольшая площадь у выражения "40 дм * 42 см" (16800).