როდის გამოვიყენოთ l1 და l2 რეგულაცია?

როდის გამოვიყენოთ l1 და l2 რეგულაცია?
როდის გამოვიყენოთ l1 და l2 რეგულაცია?
Anonim

პრაქტიკული თვალსაზრისით, L1 მიდრეკილია კოეფიციენტების ნულამდე შემცირებას, ხოლო L2 კოეფიციენტების თანაბრად შემცირებას. ამიტომ, L1 არის სასარგებლო მახასიათებლის შერჩევისთვის, რადგან შეგვიძლია ჩამოვაგდოთ ნებისმიერი ცვლადი, რომელიც დაკავშირებულია კოეფიციენტებთან, რომლებიც ნულამდე მიდიან. L2, მეორეს მხრივ, სასარგებლოა, როდესაც გაქვთ კოლინარული/კოდამოკიდებული ფუნქციები.

რას იყენებს რეგულაცია რა არის L1 და L2 რეგულაცია?

L1 რეგულაცია იძლევა გამომავალს ორობით წონებში 0-დან 1-მდე მოდელის მახასიათებლებისთვის და მიღებულია ფუნქციების რაოდენობის შესამცირებლად უზარმაზარ განზომილებიანი მონაცემთა ნაკრებისათვის. L2 რეგულაცია ანაწილებს შეცდომის ტერმინებს ყველა წონაში, რაც იწვევს უფრო ზუსტ მორგებულ საბოლოო მოდელებს.

რა განსხვავებაა L1 და L2 რეგულაციას შორის?

მთავარი ინტუიციური განსხვავება L1 და L2 რეგულაციას შორის არის ის, რომ L1 რეგულაცია ცდილობს შეაფასოს მონაცემების მედიანა, ხოლო L2 რეგულაცია ცდილობს შეაფასოს მონაცემთა საშუალო, რათა თავიდან იქნას აცილებული ზედმეტი მორგება. … ეს მნიშვნელობა ასევე იქნება მონაცემთა განაწილების მედიანა მათემატიკურად.

რა არის L1 და L2 რეგულაცია ღრმა სწავლაში?

L2 რეგულაცია ასევე ცნობილია როგორც წონის დაქვეითება, რადგან ის აიძულებს წონას ნულისკენ (მაგრამ არა ზუსტად ნულისკენ). L1-ში გვაქვს: ამაში, ჩვენ ვაჯარიმებთ წონების აბსოლუტურ მნიშვნელობას. L2-ისგან განსხვავებით, აქ წონა შეიძლება ნულამდე შემცირდეს. აქედან გამომდინარე, ძალიან სასარგებლოა, როდესაც ჩვენ ვცდილობთ შეკუმშვასჩვენი მოდელი.

როგორ მუშაობს L1 და L2 რეგულაცია?

რეგრესიის მოდელს, რომელიც იყენებს L1 რეგულარიზაციის ტექნიკას, ეწოდება ლასო რეგრესია და მოდელს, რომელიც იყენებს L2-ს, ეწოდება ქედის რეგრესია. ამ ორს შორის მთავარი განსხვავებაა საჯარიმო ვადა. ქედის რეგრესია ზარალის ფუნქციას ამატებს კოეფიციენტის „კვადრატულ სიდიდეს“ჯარიმის ტერმინად.

გირჩევთ: