利用Python实现最小二乘法与梯度下降算法

导入所需库生成模拟数据查看所生成数据的图像求代价函数的偏导1. 通过最小二乘法求a，b我们知道当在a,b处的偏导为0时，代价函数e达到最小值，所以得到二元一次方程组Σ(axi+b-yi)*xi=0该方程组是关于未知数为a,b的二元一次方程组，通过求解该方程，得到a，b通过sympy库解方程组，得出了a= 3.01182977621975，b= -1.00272253325765，已经与我们真实的a，b很接近了，下面进行作图2. 通过梯度下降算法求a，b我们注意到最小二乘法最后一步要求p个方程组，是非常大的计算量，其实计算起来很难，因此我们就有了一种新的计算方法，就是梯度下降法，梯度下降法可以看