1实验目
(1)掌握错误率Bayes分类器决策规
(2)掌握Parzen窗法
(3)掌握Fisher线性判方法
(4)熟练运matlab相关知识
2实验原理
(1)错误率Bayes分类器决策规
果特征空间中观察某(机)量x ( x1 x2 … xd )T已知类状态先验概率:类条件概率密度根Bayes公式状态验概率 :
基决策规:果 x 属验概率类
(2)掌握Parzen窗法
估计点X:
估计概率密度基公式设区域 RN hN 棱长 d 维超立方体立方体体积
选择窗函数落入该立方体样数点 x 概率密度
中核函数:满足条件:
(3)Fisher线性判方法
Fisher线性判分析基思想:通寻找投影方(线性变换线性组合)高维问题降低维问题解决求变换维数具性质:类样聚集起类样远
Fisher线性判分析通定训练数确定投影方W阈值y0确定线性判函数然根线性判函数测试数进行测试测试数类
线性判函数般形式表示成
中
根Fisher选择投影方W原原样量该方投影兼顾类间分布分开类样投影密集求评价投影方W函数:
面公式Fisher准求佳法线量解该式较重外该式种形式运算称线性变换中式量逆矩阵d维d×d维d维量
量Fisher准函数达极值解Fisher准d维X空间投影维Y空间佳投影方该量分量值原d维特征量求加权权值
讨线性判函数加权量W确定方法讨Fisher准函数极d维量计算方法判函数中项尚未确定般采种方法确定
者 已知时
W0确定规分类:
3实验容求
(1)实验象
Datasetf1TXT 女生身高体重数
Datasetm1TXT男生身高体重数
训练样集
Dataset1txt 328学身高体重性数
Dataset2txt 124学身高体重性数
测试样集
(2)基求:
(1) Datasetf1TXTDatasetm1TXT数作训练样集建立Bayes分类器测试样数该分类器进行测试调整特征分类器等方面素考察分类器性影响加深学容理解感性认识(试验直接设计线性分类器方法基概率密度估计贝叶斯分离器进行较)
(2) 试验非参数估计体会参数估计适情况估计结果方面异
4实验结果分析
(1)Bayes分类器实验结果分析
ADataset1txt 328学身高体重性数测试样集:
A1先验概率:男05女05时:
身高分类错误数: 15 身高分类错误率: 1210
体重分类错误数: 15 体重分类错误率: 1210
实验结果:
A2先验概率:男075女025时:
身高分类错误数: 19 身高分类错误率: 1532
体重分类错误数: 14 体重分类错误率: 1129
BDataset2txt 124学身高体重性数测试样集:
B1先验概率:男05女05时:
身高分类错误数: 16 身高分类错误率: 1290
体重分类错误数: 21 体重分类错误率: 1694
实验结果:
B2先验概率:男075女025时:
身高分类错误数: 31 身高分类错误率: 2500
体重分类错误数: 35 体重分类错误率: 2823
结果分析:
Dataset1txt样数集中男女先验概率(071vs029)Dataset2txt样数集中男女先验概率(066vs034)
实验结果发现身高分类错误率体重分类错误率样集越特征应分类错误率越假设先验概率(05vs05)分类错误率假设先验概率(075vs025)分类集算假设先验概率实际相结果准确
程序框图
Bayes分类器源程序实验代码:
clear all
load datasetf1txt
load datasetm1txt
样分析
figure
for i1250
if(i<79)
plot(datasetf1(i2)datasetf1(i1)'r+')
end
plot(datasetm1(i2)datasetm1(i1)'k*')
hold on
end
title('样数')
xlabel('体重(Kg)')ylabel('身高(cm)')
legend('男生''女生')
fidfopen('dataset1txt''r')
test1fscanf(fid'f f s'[3inf])
testtest1'
fclose(fid)
Fmean mean(datasetf1)
Mmean mean(datasetm1)
Fvar std(datasetf1)
Mvar std(datasetm1)
preF 05
preM 05
error 0
Nerror 0
身高决策
figure
for i 1124
PFheight normpdf(test(i1)Fmean(11)Fvar(11))
PMheight normpdf(test(i1)Mmean(11)Mvar(11))
pFemale preF*PFheight
pMale preM*PMheight
if(pFemale
if (test(i3)'f')
Nerror Nerror +1
end
else
plot(itest(i1)'r+')
if (test(i3)'M')
Nerror Nerror +1
end
end
hold on
end
error Nerror124*100
title('身高错误率Bayes分类')
xlabel('测试序号')ylabel('身高(cm)')
sprintf('s d s 02fs''身高分类错误数:'Nerror'身高分类错误率:'error'')
体重决策
figure
error 0
Nerror 0
for j 1124
PFweight normpdf(test(j2)Fmean(12)Fvar(12))
PMweight normpdf(test(j2)Mmean(12)Mvar(12))
pwFemale preF*PFweight
pwMale preM*PMweight
if(pwFemale
if (test(j3)'f')
Nerror Nerror +1
end
else
plot(jtest(j2)'r+')
if (test(j3)'M')
Nerror Nerror +1
end
end
hold on
end
error Nerror124*100
title('体重错误率Bayes分类')
xlabel('测试序号')ylabel('体重(kg)')
sprintf('s d s 02fs''体重分类错误数:'Nerror'体重分类错误率:'error'')
(2)Parzen窗法实验结果分析(先验概率05vs05)
ADataset1txt中78女生250男生 328学身高体重性数测试样集结果:
女生数:84 男生数:244 拒分数:0
女生错分数:4 男生错分数:33 总错分数:37
女生分类错误率: 00800 男生分类错误率:01320 总分类错误率:01128
BDataset2txt中40女生84男生 124学身高体重性数测试样集:
女生数:41 男生数:83 拒分数:0
女生错分数:15 男生错分数:6 总错分数:21
女生分类错误率: 03000 男生分类错误率:00240 总分类错误率: 01694
结果分析:
Parzen窗法分类结果较准确样集越错误率越
Parzen窗法源程序代码:
clc
clear all
[FH FW]textread('datasetf1txt''ff')
[MH MW]textread('datasetm1txt''ff')
FA[FH FW] MA[MH MW]
N1max(size(FA))
h17
hn1h1(sqrt(N1))
VN1hn1^2
N2max(size(MA))
h27
hn2h2(sqrt(N2))
VN2hn2^2
[tH tW]textread('dataset1txt''ff*s')
X[tH tW]
[M N]size(X)
szeros(M1)
error0
errorgirl0
errorboy0
errorrate0
errorgirlrate0
errorboyrate0
girl0
boy0
bad0
for k1M
A[X(k1) X(k2)]
xA
p05p属女生先验概率1p男生先验概率
pp0
for i1N1
fa[FA(i1) FA(i2)]
n1sqrt(2*pi)*exp(05*abs((xfa)*(xfa)')(hn1^2))
pppp+n
end
p11VN1*pp'
y11N1*p1女生条件概率密度函数
qq0
for j1N2
ma[MA(j1) MA(j2)]
m1sqrt(2*pi)*exp(05*abs((xma)*(xma)')(hn2^2))
qqm+qq
end
q1sum(1VN2*qq')
y21N2*q1男生概率密度函数条件概率
gp*y1(1p)*y2g判函数
if g>0
if k<50
s(k1)0判女生
girlgirl+1
else
errorboyerrorboy+1
end
else if g<0
if k<50
errorgirlerrorgirl+1
else
s(k1)1判男生
boyboy+1
end
else
s(k1)2判指等0时情况
badbad+1
end
end
end
errorgirl
errorboy
bad
girlerrorboy+girl
boyboy+errorgirl
errorerrorgirl+errorboy
errorgirlrateerrorgirl50
errorboyrateerrorboy250
errorrateerrorM
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
该内容是文档的文本内容,更好的格式请下载文档