Jak uczą się modele AI

Po czym poznać, jak uczył się model AI?
Dział zatytułowany „Po czym poznać, jak uczył się model AI?”Po danych, na których się uczył. Przykłady z etykietą to uczenie nadzorowane, dane bez etykiet - nienadzorowane, a nagroda - uczenie przez wzmacnianie. Trzem sytuacjom z tabeli albo z własnego dnia przypiszesz jedną z tych etykiet. Warstw sieci tu nie liczymy, o nich była poprzednia lekcja.
Nikt nie wpisał “rozpoznawaj twarz”. Poszły przykłady
Dział zatytułowany „Nikt nie wpisał “rozpoznawaj twarz”. Poszły przykłady”Otwierasz galerię. Telefon pyta: “to ta sama osoba?”. Nikt nie napisał listy cech (odległość oczu, kształt ucha). System dostał stos zdjęć z podpisem i dopasował wagi (liczby w modelu ustawione w treningu) tak, żeby na nowym zdjęciu też trafić.
To jest uczenie maszynowe: zamiast instrukcji “jeśli-to” model ogląda dane i sam wyciąga wzorzec. Poprzednia lekcja powiedziała, że ML się uczy. Ta mówi, z czego.
Model może się uczyć z trzech rodzajów sygnału. Żaden z nich nie jest lepszą metodą od pozostałych.
Trzy sygnały, nie trzy ligi
Dział zatytułowany „Trzy sygnały, nie trzy ligi”Nadzorowane (supervised) - jest poprawna odpowiedź
Dział zatytułowany „Nadzorowane (supervised) - jest poprawna odpowiedź”Model dostaje przykład i poprawną odpowiedź do niego (etykietę). Mail + “spam”. Zdjęcie + “kot”. Opis mieszkania (metraż, dzielnica, piętro) + cena, za jaką się sprzedało.
Po treningu zgaduje etykietę dla nowego przypadku. Tak uczy się filtr spamu na ręcznie oznaczonych wiadomościach i rozpoznawanie twarzy na podpisanych zdjęciach.
Haczyk: jeśli etykiety są błędne, model nauczy się błędu. Model nie “wie”, że ktoś klikał spam na oślep.
Nienadzorowane (unsupervised) - nikt nie podpisał
Dział zatytułowany „Nienadzorowane (unsupervised) - nikt nie podpisał”Dostaje stertę bez karteczek i sam szuka w niej grup: klientów o podobnych zakupach albo transakcji, które nie pasują do reszty.
Nie przewiduje gotowej etykiety, bo jej nie było. Wiąże to, co w danych siedzi obok siebie. Nazwę grupy i tak potem nadaje człowiek.
Przez wzmacnianie (reinforcement learning) - punkt za ruch
Dział zatytułowany „Przez wzmacnianie (reinforcement learning) - punkt za ruch”Nie dostaje pary “wejście - etykieta”. Dostaje środowisko i wynik: plus za wygraną, minus za wpadnięcie do rowu. Próbuje, dostaje sygnał, zmienia strategię.
Gry (historycznie AlphaGo w Go, Silver i in., Nature 2016), robot, który uczy się nie przewracać, a później - dostrajanie asystenta, żeby ludzie woleli jedną odpowiedź od drugiej. Szczegół “jak z surowego uzupełniacza zdań zrobić pomocnego chatbota” wraca przy modelach językowych.
Angielskich skrótów nie musisz pamiętać. Wystarczy zapytać: skąd model wiedział, że trafił?
Jedna wpadka, którą widać z zewnątrz
Dział zatytułowany „Jedna wpadka, którą widać z zewnątrz”Model może wykuć zbiór treningowy na pamięć i zawieść przy pierwszym nowym przypadku (przeuczenie). Z Twojej strony to wygląda tak: “w demo działało, na moim pliku nie”. Często winny nie jest “głupi model”. Twoje dane wyglądają inaczej niż te, na których model się uczył. Bywa też, że prawdziwych przykładów było za mało, a powtórzeń za dużo.
Jakość danych waży więcej niż wybór metody: śmieci na wejściu dają śmieci na wyjściu. Uprzedzenie w etykietach nie jest osobnym typem uczenia - to ta sama ściana danych, co w Ograniczeniach.
Sieci i deep learning były na poprzedniej stronie. Tu zostawiasz jedno pytanie: jaki sygnał dostał?
Ćwiczenie: 5 minut, trzy etykiety
Dział zatytułowany „Ćwiczenie: 5 minut, trzy etykiety”Najpierw zapisz własną etykietę w tabeli, dopiero potem czytaj dalej.
| Sytuacja | Twoja etykieta |
|---|---|
| Tysiąc maili ręcznie oznaczonych “spam / nie spam” | |
| Sklep ma historię zakupów bez gotowych grup i wiąże podobnych klientów | |
| Program gra w szachy i dostaje punkt za wygraną |
Potem porównaj: 1 nadzorowane, 2 nienadzorowane, 3 wzmacnianie.
Zaliczenie: trzy własne etykiety na kartce i liczba trafień. 2/3 zalicza.
Gdzie łatwo się pomylić: “grupowanie klientów” łatwo wrzucić do nadzorowanego, bo “przecież to inteligentne”. Nikt jednak nie podpisał grup z góry - dlatego to nienadzorowane.
Jeśli nic nie zgrzyta i zostaje czas: wymyśl czwartą sytuację z własnego dnia i wklej do chatbota:
Sytuacja: [wklej jedno zdanie]. Odpowiedz tylko etykietą: nadzorowane, nienadzorowane albo wzmacnianie. Jedno zdanie: jaki sygnał dostał model. Jeśli z opisu nie wynika, jakich danych użyto, napisz "za mało danych".Punktem odniesienia jest Twoja etykieta, bo model też może się pomylić.
Teraz wiesz
Dział zatytułowany „Teraz wiesz”- Typ uczenia bierze się z danych: etykieta, brak etykiety, albo nagroda za ruch.
- Chatbot nie “uczy się Ciebie” w trakcie bieżącej rozmowy. Wagi są z wcześniejszego treningu.
- Gdy demo działa, a Twój przypadek nie, najpierw pytaj o dane i przeuczenie, nie o “czy AI jest zła”.
Następny krok: Typy AI - wąska, ogólna, superinteligencja. Która z nich w ogóle istnieje.
Częste pytania
Czy chatbot uczy się z tej rozmowy, którą teraz piszę?
Nie w tej rozmowie. Odpowiedź wychodzi z wag - liczb w modelu ustawionych wcześniej, w treningu. Twoja rozmowa może trafić do logów albo do przyszłego treningu u dostawcy - to decyzja firmy i ustawień konta, nie "nauka na żywo". Żeby model na stałe zmienił zachowanie, ktoś musi go wytrenować albo dostroić osobno.
Czy więcej danych zawsze pomaga?
Nie, gdy dane są złe albo gdy model wykuł zbiór na pamięć i pada na nowym przypadku. Ilość bez jakości powiela błąd. Przy uczeniu nadzorowanym liczy się też, czy etykiety są prawdziwe.
Skąd w filtrze spamu bierze się uprzedzenie, skoro nikt nie wpisał reguły?
Reguły wyszły z przykładów. Jeśli w etykietach "spam" częściej lądowały maile w jednym języku albo z jednej dzielnicy, model powtórzy ten wzorzec. Nikt nie musiał pisać "dyskryminuj" - wystarczyły krzywe dane. Ścianę danych rozpisują Ograniczenia.
made with ❤️ by aitomate.pl - Łukasz Podgórski