А почему это должно быть в программе. В программе обычно бывает теория. Например, для таких задач обычно применяют метод множителей Лагранжа. Если же у вас не было теории, подходящей для таких задач, значит вам предлагают решить задачу непосредственно, рассуждениями и самостоятельными доказательствами.
Вообще-то эта задача состоит из нескольких шагов: 1) находим локальные экстремумы функции (grad f=0) и проверяем, что они удовлетворяют неравенству; 2) находим условные экстремумы для задачи {f \to extr? g=0), для чего применяют метод множителей Лагранжа (то есть находят экстремумы функции L=f-a*g); 3) подставляют найденные точки в функцию и выбирают наибольшее и наименьшее значение.
1) находим локальные экстремумы функции (grad f=0) и проверяем, что они удовлетворяют неравенству;
2) находим условные экстремумы для задачи {f \to extr? g=0), для чего применяют метод множителей Лагранжа (то есть находят экстремумы функции L=f-a*g);
3) подставляют найденные точки в функцию и выбирают наибольшее и наименьшее значение.