Jeszcze inny model regresji zdarza się kiedy mamy do czynienia z danymi które mogą nie być tak liniowe, ale bardziej rozproszone. W takich przypadkach regresja liniowa może nie być najlepszym sposobem opisu danych i predykcji nowych wartości. Zakrzywiona lub nieliniowa linia może lepiej pasować do takich danych.
Równanie wielomianu stopnia n wynosi:
y = β0 + β1X1 + β2X2^2 + β3X3^3 + … + βnXn^n
import pandas as pd
import numpy as np
import matplotlib as mpl
import matplotlib.pyplot as plt
import statsmodels.api as sm
%matplotlib inline
Nasze dane to fikcyjne ceny za wynajęcie sali konferencyjnej o różnej ilości miejsc:
data = pd.read_csv(r'C:\Users\Desktop\en\poly.csv');data.head()
X = data[['miejsca']].values
y = data[['cena']].values
Zobaczmy jak wygląda dopasowanie funkcji linearnej do danych:
from sklearn.linear_model import LinearRegression
lin_reg = LinearRegression()
lin_reg.fit(X, y)
plt.scatter(X, y, color = 'm')
plt.plot(X, lin_reg.predict(X), color = 'g')
plt.title('Linear Regression')
plt.xlabel('miejsca')
plt.ylabel('cena')
plt.show()
lin_reg.predict(140)
Predykcja ceny na 140 miejsc wyszła 1056 czyli mniej niż realne ceny, powinniśmy użyć innego modelu do tych danych. Wizualnie widać że dane nie są linearne – ceny nie wzrastają w takim samym stopniujak ilość miejsc w sali – więc spróbujmy funkcji polynomialnej z różnymi stopniami (2,3,4):
from sklearn.preprocessing import PolynomialFeatures
poly_reg2 = PolynomialFeatures(degree = 2)
X_poly2 = poly_reg2.fit_transform(X)
lin_reg_2 = LinearRegression()
lin_reg_2.fit(X_poly2, y)
poly_reg3 = PolynomialFeatures(degree = 3)
X_poly3 = poly_reg3.fit_transform(X)
lin_reg_3 = LinearRegression()
lin_reg_3.fit(X_poly3, y)
poly_reg4 = PolynomialFeatures(degree = 4)
X_poly4 = poly_reg4.fit_transform(X)
lin_reg_4 = LinearRegression()
lin_reg_4.fit(X_poly4, y)
Nasza wartość zwiększa macierz X do X_poly gdzie każda kolumna zawiera wartości potęgi x:
X_poly2[:3]
plt.scatter(X, y, color = 'y')
plt.plot(X, lin_reg_2.predict(X_poly2), color = 'r')
plt.plot(X, lin_reg_3.predict(X_poly3), color = 'g')
plt.plot(X, lin_reg_4.predict(X_poly4), color = 'b')
plt.title('Polynomial Regression')
plt.xlabel('miejsca')
plt.ylabel('cena')
plt.show()
print ('degree 2:', lin_reg_2.predict(poly_reg2.fit_transform(140)))
print ('degree 3:', lin_reg_3.predict(poly_reg3.fit_transform(140)))
print ('degree 4:', lin_reg_4.predict(poly_reg4.fit_transform(140)))
Predykcja ceny sali ze 140 miejscami używając modelu polynomialnego dała nam ceny – 1067-1072 czyli wartości bardziej przybliżone do realnych cen.
