模式识别上机作业.doc

1、 1 模式识别上机作业 队别：研究生二队 姓名：孙祥威 学号： 112082 2 作业一： 1 ( 0, 0), (0,1) ， 2 (1, 0), (1,1) 。用感知器固定增量法求判别函数，设1 (1,1,1)w ， 1k 。写程序上机运行，写出判别函数，打出图表。 解答： 1、 程序代码如下： clc,clear w=0 0 1; 0 1 1; -1 0 -1; -1 -1 -1; W=1 1 1; rowk=1; flag=1; flagS=zeros(1,size(w,1); k=0; while flag for i=1:size(w,1) if isempty(find(flag

2、S=0) flag=0; break; end k=k+1; pb=w(i,:)*W; if pb=0 flagS(i)=0; W=W+rowk*w(i,:); else flagS(i)=1; end end end W,k wp1=0 0; 0 1; wp2=1 0; 1 1; plot(wp1(:,1),wp1(:,2),o) 3 hold on plot(wp2(:,1),wp2(:,2),*) hold on y=-0.2:1/100:1.2; plot(1/3*ones(1,size(y),y,r-) axis(-0.25 1.25 -0.25 1.25) 2、判别函数。计算得到增

3、广权矢量为 * ( 3,0,1)Tw ，故判别函数表达式为： 13 1 0x 3、分类示意图： 图 1 感知器算法分类结果图 作业二 ： 在下列条件下，求待定样本 (2,0)Tx 的类别，画出分界线，编程上机。 1、二类协方差相等； 2、二类协方差不 等。 训练样本号 k 1 2 3 1 2 3 特征 1x 1 1 2 -1 -1 -2 4 特征 2x 1 0 -1 1 0 -1 类别 1 2 解答： 经计算，两类的协方差矩阵不相等。 设 12( ) ( )PP ，计算时相关项直接略去。 1、计算时，参考书中 P96 页式（ 4-1-31）等。程序代码如下： clc,clear,close a

4、ll D1=1,1,2;1,0,-1; D2=-1,-1,-2;1,0,-1; u1=mean(D1,2); u2=mean(D2,2); c1=zeros(size(D1,1),size(D1,1); for i=1:size(D1,2) c1=c1+D1(:,i)*D1(:,i); end c1=c1/size(D1,2)-u1*u1; c2=zeros(size(D2,1),size(D2,1); for i=1:size(D2,2) c2=c2+D2(:,i)*D2(:,i); end c2=c2/size(D2,2)-u2*u2; I=eye(size(c1,1),size(c1,1

5、); ic1=c1I; ic2=c2I; W1=-0.5*ic1; W2=-0.5*ic2; w1=ic1*u1; w2=ic2*u2; w10=-0.5*log(det(c1)-0.5*u1*ic1*u1; w20=-0.5*log(det(c2)-0.5*u2*ic2*u2; syms x1 x2; x=x1;x2; fprintf(决策界面方程为： ) D=x*(W1-W2)*x+(w1-w2)*x+(w10-w20); pretty(D) fprintf(（ 2， 0）代入决策面方程的值为： ) value=subs(D,x1,x2,2 0) figure ezplot(D) 5 ho

6、ld on plot(D1(1,:),D1(2,:),bo) plot(D2(1,:),D2(2,:),ks) plot(2,0,rp) 运行结果显示， 决策面方程为： 1 1 248 18 0x x x。 2、 计算结果。从程序运行结果可以看出， (2,0)Tx 带入决策界面方程值为96， 可见属于第一类 1 。见下图： 图 2 两类协方差不等 分类结果图 图中，黑 色方块为第二类 2 ，蓝色圆圈为第一类 1 ，红色五角星即为要判断类别的 (2,0)Tx 。 绿色交叉的两条直线即为 决策面曲线。 左上和右 下为第一类，右上和左下为第二类。 作业三 ： 有训练集资料矩阵如下表所示，现已知， 9

7、N 、 1 2 3 3N N N 、 2n 、3M ，试问， ( 2,2)TX 应属于哪一类？ 训练样本号 k 1 2 3 1 2 3 1 2 3 特征 1x 0 2 1 -1 -2 -2 0 0 1 6 特征 2x 0 1 0 1 0 -1 -2 -1 -2 类别 1 2 3 要求：用两种解法： a、三类协方差不等； b、三类协方差相等。编程上机，画出三类的分界线。 解答： 经计算，三 类的协方差矩阵不相等。设 1 2 3( ) ( ) ( )P P P ，计算时相关项直接略去。 1、计算时，参考书中 P96 页式（ 4-1-31）等。程序代码如下： clc,clear,close all

8、D1=0 2 1;0 1 0; D2=-1 -2 -2;1 0 -1; D3=0 0 1;-2 -1 -2; X=-2 2; u1=mean(D1,2); u2=mean(D2,2); u3=mean(D3,2); c1=zeros(size(D1,1),size(D1,1); for i=1:size(D1,2) c1=c1+D1(:,i)*D1(:,i); end c1=c1/size(D1,2)-u1*u1; c2=zeros(size(D2,1),size(D2,1); for i=1:size(D2,2) c2=c2+D2(:,i)*D2(:,i); end c2=c2/size(D

9、2,2)-u2*u2; c3=zeros(size(D3,1),size(D3,1); for i=1:size(D3,2) c3=c3+D3(:,i)*D3(:,i); end c3=c3/size(D3,2)-u3*u3; I=eye(size(c1,1),size(c1,1); ic1=c1I; ic2=c2I; ic3=c3I; W1=-0.5*ic1; W2=-0.5*ic2; W3=-0.5*ic3; w1=ic1*u1; w2=ic2*u2; 7 w3=ic3*u3; w10=-0.5*log(det(c1)-0.5*u1*ic1*u1; w20=-0.5*log(det(c2)

10、-0.5*u2*ic2*u2; w30=-0.5*log(det(c3)-0.5*u3*ic3*u3; syms x1 x2 real; x=x1;x2; D12=x*(W1-W2)*x+(w1-w2)*x+(w10-w20); D13=x*(W1-W3)*x+(w1-w3)*x+(w10-w30); D23=x*(W2-W3)*x+(w2-w3)*x+(w20-w30); fprintf(一、二类决策界面方程为： ) pretty(D12) fprintf(一、三类决策界面方程为： ) pretty(D13) fprintf(二、三类决策界面方程为： ) pretty(D23) DD1=x*

11、W1*x+w1*x+w10; DD2=x*W2*x+w2*x+w20; DD3=x*W3*x+w3*x+w30; value=; fprintf(（ num2str(X(1) , num2str(X(2) ）代入 1-2决策面方程的值为： ) v1=subs(DD1,x1,x2,X) fprintf(（ num2str(X(1) , num2str(X(2) ）代入 1-3决策面方程的值为： ) v2=subs(DD2,x1,x2,X) fprintf(（ num2str(X(1) , num2str(X(2) ）代入 2-3决策面方程的值为： ) v3=subs(DD3,x1,x2,X) V

12、=v1 v2 v3; fprintf(可见（ num2str(X(1) , num2str(X(2) ）属于第 num2str(find(V=max(V) 类。 n) figure hold on h=ezplot(D12); set(h,Color,r) h=ezplot(D13); set(h,Color,b) h=ezplot(D23); set(h,Color,y) plot(D1(1,:),D1(2,:),ko) plot(D2(1,:),D2(2,:),ks) plot(D3(1,:),D3(2,:),kp) plot(X(1),X(2),r*) title(分界线及样本点分布 )

13、 1-2类决策面方程为： 8 22121 1 2 296 3 3 6 1 8 2 4 0140737488355328 xxx x x x 1-3类决策面方程为： 21 2 1 2 26 6 1 2 6 6 0x x x x x 2-3类决策面方程为： 22 21 2 1 1 2251 2 6 2 7 2 4 1 8 02251799813685248 xx x x x x 2、计算结果。 从程序运行结果可以看出， (2,0)Tx 带入三个判决函数 （略去 ()iP 相关项 ） 计算的值分别为 -95.3521、 -17.3521、 -29.3521，可见属于第二类2 。 分类界面参见 下图：

14、 图 3 三 类协方差不等 分类结果图 作业四 ： 样本 1 2 3 4 5 6 7 8 1x 0 2 1 5 6 5 6 7 2x 0 2 1 3 3 4 4 5 用对分法编程上机，分成两类画出图形。 解答： 9 1、程序代码如下： clc,clear,close all ExampleData=0,0,2,2,4,4,5,6,6,7,-4,-2,-3,-3,-5,1,0,0,-1,-1,-3; 6,5,5,3,4,3,1,2,1,0,3,2,2,0,2,1,-1,-2,-1,-3,-5; Data=0,2,1,5,6,5,6,7; 0,2,1,3,3,4,4,5; N=size(Data,

15、2); Data=1:N;Data; G1=Data; G2=;N1=size(G1,2); N2=size(G2,2); X1=mean(G1,2);X1=X1(2:end); X2=0;0; E=N1*N2/N*(X1-X2)*(X1-X2); RE=; ZY=; LE=E; while LE=E LE=E; n1=size(G1,2); e1=; for i=1:n1 g1=G1; g2=G2; g2=g2 g1(:,i); g1(:,i)=; nn1=size(g1,2); nn2=size(g2,2); x1=mean(g1,2);x1=x1(2:end); x2=mean(g2,2

16、);x2=x2(2:end); ee1=nn1*nn2/N*(x1-x2)*(x1-x2); e1=e1;ee1; end E=max(e1); RE=RE;E; I=find(e1=E); nzy=G1(1,I); ZY=ZY;nzy; if LE=E 10 G2=G2 G1(:,I); G1(:,I)=; end end RE=(1:length(RE) ZY RE figure plot(G1(2,:),G1(3,:),o) hold on plot(G2(2,:),G2(3,:),*) 2、 对分法聚类 结果。两类的标 样本 号分别为： 第一类： 1、 2、 3 第二类： 4、 5、 6、 7、 8 3、 对分法聚类结果 示意图： 图 4 对分法聚 类结果图 作业五 ： 已知十个样本，每个样本 2 个特征，数据如下： 样本 1 2 3 4 5 6 7 8 9 10 1x 0 1 2 4 5 5 6 1 1 1