Обозначим сторону исходного квадрата как х. Тогда площадь исходного квадрата равна х^2.

После того, как от него отрезали полосу шириной 20 см, новая сторона квадрата будет равна (х-20) см. Площадь этого квадрата будет равна (х-20)^2.

У нас дано, что разность площадей равна 3500:
х^2 - (х-20)^2 = 3500
х^2 - (x^2 - 40x + 400) = 3500
х^2 - x^2 + 40x - 400 = 3500
40x - 400 = 3500
40x = 3900
x = 97.5

Итак, исходная сторона квадрата была 97.5 см.

Проверим:
Площадь исходного квадрата: 97.5^2 = 9506.25
Площадь квадрата после отрезания полосы: (97.5-20)^2 = 77.5^2 = 6006.25
9506.25 - 6006.25 = 3500

Проверка верна. Исходные размеры куска стекла были 97.5 см x 97.5 см.