Для решения задачи сначала определим, как размер файла зависит от разрешения и степени сжатия.

Исходный скан с разрешением 200 dpi:

После сжатия на 20% файл имеет размер 10 Мбайт. Это означает, что размер несжатого изображения $безсжатия$ составляет:
$$S_{200}=\frac{10\text{Мбайт}}{1-0.2}=\frac{10}{0.8}=12.5\text{Мбайт}$$

Найдем размер несжатого изображения с разрешением 400 dpi:

Разрешение увеличилось в 2 раза $400dpiпосравнениюс200dpi$, поэтому размер несжатого изображения будет в 2 раза больше:
$$S<em>400=2\cdot S</em>200=2\cdot 12.5\text{Мбайт}=25\text{Мбайт}$$

Теперь найдем степень сжатия, необходимую для достижения размера файла 35 Мбайт:

Пусть $x$ — это степень сжатия. Тогда размер файла после сжатия будет:
$$S<em>\text{сжатие}=S</em>400\cdot (1-x)=25\cdot (1-x)$$Мы хотим, чтобы этот размер равнялся 35 Мбайт:
$$25\cdot (1-x)=35$$

Решим уравнение:
$$1-x=\frac{35}{25}=1.4x=1-1.4=-0.4$$

Это означает, что создание файла размером 35 Мбайт невозможно, так как необходимо "расжать" изображение, что не имеет смысла в контексте сжатия.

Таким образом, ответ на ваш вопрос "на сколько процентов необходимо сжать полученное изображение, чтобы размер файла составил 35 Мбайт" не имеет решения в рамках условием задания, так как изображение не может занимать больше места в сжатом виде чем в несжатом.

Но если требовалось бы найти на сколько процентов необходимо увеличить файл от 25 Мбайт чтобы достичь 35 Мбайт, то получится следующее:

$$x\cdot 25=35⟹x=\frac{35}{25}-1=1.4$$ Это значит, что нужно увеличить размер файла на 40%, то есть ответ в контексте вашей задачи:
$$\text{Ответ:}40.$$