در این شبکه (پچل) وزنهای اولیه مقادیر کوچک اتفاقی انتخاب می شوند سپس بعد از به دست آوردن خروجی های هر لایه برای هر ورودی خطا برای هر لایه محاسبه می شود و وزن به روز می شود
در این الگوریتم اگر وزنهای اولیه خیلی بزرگ باشند،توابع فعالیت لایه آخر به حالت اشباع می روند ،'f بسیار کوچک می شود و اصلاح وزنها واقعا کند می شود
اگر وزنهای اولیه خیلی کوچک باشند ، ورودی های خطی بسیار کوچک می شوند و اصلاح وزنها باز هم کند می شود
معمولا وزنهای اولیه را در فاصله [1,1-]یا [0.5,0.5-] انتخاب می کنند
البته Widrow و Nguyen هم یک پیشنهاد برای انتخاب این وزنها داده اند
ابتدا همه وزن ها به صورت تصاوفی در بازه[0.5,0.5-] انتخاب می شوند بعد برای تعداد واحد های ورودی n و تعداد واحد های لایه مخفی p، داریم
وزنهای اولیه لایه مخفی را به صورت زیر تغییر می دهیم
كد:
w new(i,j) = ((beta * (w old(i,j)))/||w old(i,j)||)
بعد