python矩阵操作

矩阵转置使用np包或者numpy中的np包 import np #import numpy as np np.transpose(list) ##对矩阵转置 np.transpose([list]).tolist() ##返...

LDA线性判别分析

LDA线性判别分析

LAD概括LAD主要用于在高维数据的分类中,将数据按照线性模型进行降维;使得数据得到很好的分类同时避免数据过度拟合,与PAC不同的是 LAD主要用于有监督的学习,用于对目标分类;约束条件则是类间的协方差最大,同类内的协方差最小化PA...

梯度上升算法实现

梯度上升算法概念例如我们存在一个函数 f(x)=X2+4x要求它的极值,主要就是求偏导为0的那个点的坐标像这种简单的函数直接使f(x)‘为0就行 但在真实的情况中函数没有我们想象的这么简单,那就只能让我们一步一步的逼近极值点 ...

logistic回归

logistic回归

概念 logistics回归是一种二分类的算法,它利用sigmoid函数将样本数据映射在[0,1]空间 假设我们的一个样本有n个属性x 1…x n,那就需要有n个参数构成的矩阵,将其构造成一个线性模型 对每一个样本我们都可以使用这...

高斯消元法

高斯消元法介绍 高斯消元法主要用在解线性方程,当前实现的仅仅是有唯一解的一个算法 x1 x2 x3 val 1 2 3 5 3 4 4 7 3 4 5 6 将线性方程变成一个上三角矩阵的过程1 2 3 3...

最小二乘python实现

最小二乘python实现

什么是最小二乘法通常用来对改定数据集D做线性回归,找到一条最逼近整个数据集的直线;在这里我只使用了一个属性到y的映射,其实也有多个属性可以同时进行映射,就需要用到降维的思想,例如我们有一对刮南瓜、西瓜、黄瓜;既可以使用三个坐标系将它们...