近邻法的基本思想是在测试样本x的k个近邻中,按出现的样本类别来作为x的类别,即先对x的k个近邻一一找出它们的类别,然后对x类别进行判别,即在N个训练样本中,找出x的k个近邻。 设N个样本中,来自w1类的样本有N1个,来自w2类的样本有N2个,........,来自wc类的样本有Nc个;k1,k2,......,kc是k个近邻中分别属于w1,w2,.......,wc类的样本数。定义判别函数为:gi(x)=ki,i=1,2,.....,c;决策规则为:若gj(x)=maxki,则决策x属于wj类。