რა არის აქტივობის რეგულატორი კერაში?

რა არის აქტივობის რეგულატორი კერაში?
რა არის აქტივობის რეგულატორი კერაში?
Anonim

რეგულაზატორები საშუალებას გაძლევთ დააწესოთ ჯარიმები ფენის პარამეტრებზე ან ფენის აქტივობაზე ოპტიმიზაციის დროს. ეს ჯარიმები ჯამდება დაკარგვის ფუნქციაში, რომელსაც ქსელი ოპტიმიზებს. რეგულარიზაციის ჯარიმები გამოიყენება ფენის საფუძველზე.

რა არის აქტივობის რეგულატორი?

აქტივობის რეგულატორი მუშაობს, როგორც ქსელის გამომავალიფუნქცია და ძირითადად გამოიყენება ფარული ერთეულების დასარეგულირებლად, ხოლო წონის_რეგულატორი, როგორც სახელი ამბობს, მუშაობს წონებზე. (მაგ. მათი გაფუჭება).

როდის გამოვიყენო აქტივობის რეგულატორი?

თუ გსურთ, რომ გამომავალი ფუნქცია გაიაროსსაწყისზე (ან გქონდეთ კვეთა უფრო ახლოს), შეგიძლიათ გამოიყენოთ მიკერძოების რეგულატორი. თუ გსურთ გამომავალი იყოს უფრო მცირე (ან უფრო ახლოს 0-თან), შეგიძლიათ გამოიყენოთ აქტივობის რეგულატორი.

როგორ გამოვიყენო Keras რეგულატორი?

შრეზე რეგულატორის დასამატებლად, თქვენ უბრალოდ გაქვთ, რომ გადასცეთ სასურველი რეგულარიზაციის ტექნიკა ფენის საკვანძო სიტყვის არგუმენტს 'kernel_regularizer'. Keras-ის რეგულარიზაციის განხორციელების მეთოდებს შეუძლიათ უზრუნველყონ პარამეტრი, რომელიც წარმოადგენს რეგულარიზაციის ჰიპერპარამეტრის მნიშვნელობას.

რა არის ბირთვი და მიკერძოება?

Dense კლასი

Dense ახორციელებს ოპერაციას: გამომავალი=აქტივაცია (წერტილი (შეყვანა, ბირთვი) + მიკერძოება) სადაც აქტივაცია არის ელემენტის მიხედვით გააქტიურების ფუნქცია, რომელიც გადაცემულია აქტივაციის არგუმენტად, ბირთვი არის წონის მატრიცა, რომელიც შექმნილიაფენით დამიკერძოება არის ფენის მიერ შექმნილი მიკერძოების ვექტორი (გამოიყენება მხოლოდ იმ შემთხვევაში, თუ use_bias არის True).

გირჩევთ: