Q1:描述PCA的具体步骤
Q2:动手实现一个K-means项目
Answer1:
Answer2:
from numpy import *
import numpy as np
#加载数据
def loaddata(filepath):
datamat=[]
data=open(filepath)
for line in data.readlines():
curline=line.strip().split('\t')
ldata=list(map(float,curline))
datamat.append(ldata)
return datamat##二维点
#计算欧几里得距离
def distanct(vecA,vecB):
return sqrt(sum(power((vecA-vecB),2)))##两个向量即两个点之间的距离
##构建质心 ，本例子构建4个质心
def randcent(datamat,k):#参数一个为表数据一个为质心的个数
n=shape(datamat)[1]#2列，看一下维度
center=mat(zeros((k,n)))#初始化质心,不加mat array类型，加了为matrix类型，大部分情况两者可以通用，建议用array 类型，简便快捷
"""
两者一个直观的区别就是array 相乘必须用.dot(),而矩阵就可以直接用数学符号*
"""
# print (center)
for j in range(n):
minj=min(mat(datamat)[:,j])
maxj=max(mat(datamat)[:,j])
rangej=float(maxj-minj)
center[:,j]=minj+rangej*np.random.rand(k,1)#rand 生成指定类型的数组
return center
##k-means聚类算法
"""
算法的主要步骤
1.初始化一个矩阵来放数据的分类结果和距离
2.boolean 判断循环条件，收敛的条件是每一次迭代，样本的簇不再变化
3.计算每一个样本到所有簇的距离，找到归属的簇和最短距离放入 矩阵中
4.while 循环结束后，更新新的簇（质心）坐标
"""
def kmens(datamat,k,distmens=distanct,createcent=randcent):#距离，初始的质心,默认参数,传入函数名
m=shape(datamat)[0]
n=shape(datamat)[1]
clusterassment=mat(zeros((m,n)))#生成一个80行两列的矩阵，用于存放样本属于哪一个质心及到这个质心的距离
creatcluster=createcent(datamat,k)#创造质心
clusterchanged=True #用来判断是否收敛
while clusterchanged:
clusterchanged=False
for i in range(m):
mindist=inf#初始化最小距离正无穷
minindex=-1#初始化索引
for j in range(k):#计算到每个初始化质心的距离
distji=distmens(creatcluster[j,:],mat(datamat)[i,:])
if distji<mindist:
mindist=distji
minindex=j#这样一来就找到了每一个样本对应属于的质心，另外也算出了距离接下来把数据存放到矩阵当中
if clusterassment[i,0]!=minindex:
clusterchanged=True#如果分配发生变化，那么需要继续迭代
clusterassment[i,:]=minindex,mindist**2#第一维存的是属于的质心编号，第二维是欧式距离的平方
print ("createcluster\n",createcent)
for cent in range(k):#接下来就是将分配到同一个簇的点，重新计算中心距离，作为新的质心
clumndata=mat(datamat)[nonzero((clusterassment[:,0].A==cent))[0]]
"""
首先将属于统一个质心的非零数对应得行索引取出，
然后取出datamat上得数值
"""
newcenter=mean(clumndata,axis=0)#按照列求均值
creatcluster[cent,:]=newcenter
return creatcluster,clusterassment#整个循环结束，拿到 质心位置及数据源属于得质心类别和距质心距离的平方组成的矩阵
def main():
filepath='testSet.txt'
datamat=loaddata(filepath)
creatcluster, clusterassment=kmens(datamat,4)
print("final cluster\n", creatcluster#换行符
print("result of classification\n",clusterassment)
if __name__=='__main__':
main()
时间飞快，9个训练营的项目，就剩一个了，我相信大家结合这几个项目肯定对机器学习有了初步实践了，是不是有点感觉了，接下来我会把第九个项目搞定，然后开启新的征程，尽量找到kaggle 上比较好的质量高的开源项目，再整体撸一遍实践项目，然后转入下一征程-----tensorflow,hadoop,spark 加油！keeping moving, keep coding ,坚持锻炼身体和敲代码，身体和灵魂都在路上！
网友评论