الگوريتم k نزديکترين همسايه knn - Artificial Intelligence

civil engineer · ۰۴-۱۵-۱۳۹۳, ۰۲:۴۱ بعد از ظهر

نقل قول:

نوشته اصلي بوسيله Reyhane

الگوريتم K نزديکترين همسايه KNN

نزديکترين همسايه يک الگوريتم تعليم با سرپرستي است. در حالت کلي از اين الگوريتم به دو منظور استفاده ميشود: براي تخمين تابع چگالي توزيع دادههاي تعليم و براي طبقه بندي دادههاي تست بر اساس الگوهاي تعليم.

تخمين چگالي توزيع دادهها با استفاده از الگوريتم Kn نزديکترين همسايه
براي تخمين p(x) از روي n نمونهي تعليم توسط الگوريتم k نزديکترين همسايه ميتوانيم يک سلول به مرکزيت x ايجاد کرده و اجازه دهيم اين شعاع اين سلول تا حدي گسترش پيدا کند که kn نمونهي تعليم را در بر گيرد. اين نمونه ها kn نزديکترين همسايه هاي x هستند.
در حالت کلي k را به صورت kn در نظر ميگيريم که kn تابعي تعريف شده از n است.
منبع

با سلام
کد های برنامه الگوریتم knn رو دارید؟

mortezaaa · ۰۴-۱۸-۱۳۹۳, ۰۲:۰۳ بعد از ظهر

تو خود matlab پیاده سازی شده.
این هم کد خودمه که برای سایزهای متوسط سریعتر کار میکنه

كد:

function pred = knnClassify (train_data, train_label, test_data, k)

n1 = size(train_data,1);
n2 = size(test_data,1);

XX = sum(test_data.^2,2);
YY = sum(train_data.^2,2);
XY = test_data*train_data';

distances = XX*ones(1,n1) + ones(n2,1)*YY' - 2*XY;

[~,idx] = sort(distances, 2);
idx = idx(:,1:k);

pred = mode(train_label(idx),2);