Для решения данной системы нелинейных дифференциальных уравнений сначала нужно составить систему уравнений в виде:

k1 = h f(xn, yn)
k2 = h f(xn + h/2, yn + k1/2)
k3 = h f(xn + h/2, yn + k2/2)
k4 = h f(xn + h, yn + k3)

yn+1 = yn + (k1 + 2k2 + 2k3 + k4)/6

Где f(x, y) = 2x^3y + y^2

По условиям задачи y(0) = 0 и x принадлежит интервалу [0, 2] с шагом h = 0.1, проведем расчеты:

x0 = 0
y0 = 0
h = 0.1

Итерация 1:
k1 = 0.1 (2 0^3 0 + 0^2) = 0
k2 = 0.1 (2 (0 + 0.05)^3 (0 + 0/2) + (0 + 0/2)^2) = 0.000125
k3 = 0.1 (2 (0 + 0.05)^3 (0 + 0.000125/2) + (0 + 0.000125/2)^2) = 0.000125
k4 = 0.1 (2 (0 + 0.1)^3 (0 + 0.000125) + (0 + 0.000125)^2) = 0.0001375

y1 = 0 + (0 + 20.000125 + 20.000125 + 0.0001375)/6 ≈ 0.000045

x1 = 0 + 0.1 = 0.1

Итерация 2:
к1 = 0.1 (2 0.1^3 0.000045 + 0.000045^2) = 0.0000001999
к2 = 0.1 (2 (0.1 + 0.05)^3 (0.000045 + 0.0000001999/2) + (0.000045 + 0.0000001999/2)^2) = 0.000000250006
к3 = 0.1 (2 (0.1 + 0.05)^3 (0.000045 + 0.000000250006/2) + (0.000045 + 0.000000250006/2)^2) = 0.000000250006
к4 = 0.1 (2 (0.1 + 0.1)^3 (0.000045 + 0.000000250006) + (0.000045 + 0.000000201199)^2) = 0.00000036337

y2 = 0.000045 + (0.0001999 + 20.0025 + 20.0025 + 0.00036337)/6 ≈ 0.000109

x2 = 0.1 + 0.1 = 0.2

Продолжая аналогичные вычисления, получим значения y для каждой итерации от 0 до 2 с шагом 0.1.