Пусть сторона, выходящая из вершины, равна √7, а сторона, противолежащая углу, равна √21. Так как угол между этими сторонами прямой, то треугольник АВС является прямоугольным.

Обозначим сторону, выходящую из вершины, как AC = √7, а сторону, противолежащую меньшей стороне, как BC = √21. Тогда AB = √(7 + 21) = √28 = 2√7 по теореме Пифагора.

Теперь найдем косинус угла В в треугольнике АВС. Используем косинус как отношение сторон в прямоугольном треугольнике:
cos(B) = BC / AB = √21 / 2√7 = √21 / (2√7) = √3 / 2

Таким образом, квадрат косинуса угла, лежащего в треугольнике АВС напротив меньшей стороны, равен 3/4.