Redigerer K-NN (avsnitt)

== Dimensjonsreduksjon ==
Dersom datasettet man skal kjøre ''k-''NN på har for mange attributter, vil det føre til algoritmen får det vanskelig å klassifisere rett. Irrelevante/uviktige attributter kalles støy. Man kan løse problemet med støy med dimensjonsreduksjon. Dette gjør man ved å bruke en metrikk som: ''information gain'', ''mutual information'' eller ''chi-square'' for å nevne noen. Dette er matematiske funksjoner som vise hvor mye attributter betyr for beskrivelsen av en klasse. Ved å bruke disse til å finne de viktigste attributtene kan man redusere mengden attributter helt ned til 1-10% av original mengden uten å miste mye informasjon.<ref>Sebastiani, F. (2002). Machine Learning in Automated Text Categorization. Retrieved May 13, 2014, from http://nmis.isti.cnr.it/sebastiani/Publications/ACMCS02.pdf</ref>

''k-''NN er utsatt for [[apofeni#overtilpasning|''overfitting'']]. Dette betyr at dersom en bruker for mange attributter til å beskrive dokumentene, kan det bli for detaljert. Dette kan påvirke effektiviteten til algoritmen på dokumenter utenfor treningssettet da det er for spesifikt koblet mot treningssettet og dermed får problemer med nye dokumenter utenfor det.