Почему линейная модель без преобразования признаков не решит задачу разделения точек внутри и снаружи круга

Что проверяют

Понимаете ли вы, что ограничение здесь в классе модели, а не в данных, оптимизаторе или числе эпох. Это хрестоматийный пример про линейную разделимость, и по ответу видно, отличает ли кандидат недообучение от переобучения и знает ли, чем именно лечится нелинейная граница.

Как отвечать

Линейный классификатор строит границу вида w1*x + w2*y + b = 0, то есть прямую, а в многомерном случае гиперплоскость. Она делит плоскость на две полуплоскости. Круг полуплоскостью не является: какую прямую ни проведи, часть внутренних точек окажется снаружи. Модель сойдётся к почти нулевым весам и даст качество на уровне доли большего класса.

Дальше главное: модель линейна по параметрам, а не по исходным координатам. Добавляем признаки, и та же логистическая регрессия справляется:

X["x2"] = X["x"] ** 2
X["y2"] = X["y"] ** 2   # граница w1*x2 + w2*y2 + b = 0 это уже окружность

Эквивалентный взгляд: метод опорных векторов с радиальным ядром делает то же самое неявно, не материализуя признаки. Есть и альтернатива: модели, которые строят нелинейную границу сами, ансамбли деревьев приближают окружность ступеньками, небольшая нейросеть задаёт её гладко.

Скажите и про диагностику: если метрика плоха и на обучении, и на валидации одновременно, это недообучение, и добавление данных не поможет.

Где спотыкаются

Предлагают больше данных, больше итераций или другой оптимизатор. Ни один из этих рычагов не расширяет класс гипотез: прямая останется прямой, ошибка на обучающей выборке не опустится.

Второе: добавляют единственный признак радиуса и молча предполагают, что круг центрирован в начале координат. Для произвольного центра нужны ещё и линейные слагаемые, тогда модель найдёт центр сама, выделив полный квадрат.

Третье: забывают про масштабирование после возведения в квадрат и про утечку. У квадратов другой разброс, и регуляризация штрафует признаки неравномерно, а нормировщик, обученный до разбиения выборки, завышает оценку качества.