Например, хорошей идеей является выбор в качестве потенциальных членов полинома (т.н. опорных функций) степеней входных переменных, а также их парных и тройных произведений (ковариаций):
{X1, X2, X3, ..., X1^2, X2^2, X3^2, ..., X1X2, X1X3, ..., Xn-1Xn, X1X2X3, ...}
Следующим шагом является построение линейной комбинации всех опорных функций с переменными коэффициентами. Алгоритм определяет значения этих коэффициентов путем минимизации квадратичной суммы (по всем примерам) отклонений между действительными выходами и предсказаниями модели.
Описание линейной и нелинейной регрессии можно легко найти в любом справочнике по математике, поэтому здесь мы ограничимся лишь описанием основ метода, необходимых для понимания работы МГУА.
Главной проблемой при использовании регрессии является правильный выбор множества опорных функций. Насколько сложными они должны быть? Например, если Вы строите модель, являющуюся функцией одной переменной, какой должна быть максимальная степень полинома? Должна ли она быть равна 10, или модель должна оценивать члены такие как X^13, или можно ограничить рассмотрение членами порядка X^5 и ниже? МГУА работает лучше, чем регрессия, отвечая на эти вопросы без перебора всех возможных вариантов.
