overfitting = зубрёжка
Jan. 2nd, 2010 05:42 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
jayrandomИдея стандартизовать/унифицировать экзаменационные требования по всей стране вынуждает переходить на тесты, которые считаются более объективным способом оценки знания. Собственно, это способ исключить влияние экзаменатора из процесса тестирования, либо вообще заменить его машиной.
Когда ученик не синтезирует ответ сам, а выбирает его из конечного набора вариантов, падает мерность материала, на котором проверяется знание ученика. И тестирование человека становится неотличимым от тестирования машины, обладающей знанием. А эту область я волей случая был вынужден изучать в течении лет.
При обучении машины знанию используется некоторый набор примеров, на базе которых она пытается выстроить подходящую модель, чтобы в дальнейшем, опираясь уже на построенную модель, принимать относительно неё решения. Одна из ошибок, допускаемая при обучении машины, называется overfitting и заключается в придании обучающим примерам чрезмерного веса/внимания, из-за чего страдает предсказательная сила модели.
Человеческий аналог оверфиттинга - это зубрёжка. В результате зубрёжки человек очень хорошо помнит те примеры, на которых он обучался (например, запоминает страницами текст учебника), но не понимает их. В результате зубрёжки у него в голове не возникает модели с хорошей предсказательной силой, и поэтому он не способен делать из неё выводы.
Когда ученик не синтезирует ответ сам, а выбирает его из конечного набора вариантов, падает мерность материала, на котором проверяется знание ученика. И тестирование человека становится неотличимым от тестирования машины, обладающей знанием. А эту область я волей случая был вынужден изучать в течении лет.
При обучении машины знанию используется некоторый набор примеров, на базе которых она пытается выстроить подходящую модель, чтобы в дальнейшем, опираясь уже на построенную модель, принимать относительно неё решения. Одна из ошибок, допускаемая при обучении машины, называется overfitting и заключается в придании обучающим примерам чрезмерного веса/внимания, из-за чего страдает предсказательная сила модели.
Человеческий аналог оверфиттинга - это зубрёжка. В результате зубрёжки человек очень хорошо помнит те примеры, на которых он обучался (например, запоминает страницами текст учебника), но не понимает их. В результате зубрёжки у него в голове не возникает модели с хорошей предсказательной силой, и поэтому он не способен делать из неё выводы.
Лет 10-15 назад при приёме на работу/учёбу неанглоязычных иностранцев, их/нас обязательно подвергали тестированию по одной из "зарекомендовавших себя" систем тестирования знания языка (TOEFL, IELTS, и т.д.). Когда я брал в библиотеке материалы для подготовки, меня восхитил размер сегмента рынка, работающий на повышение оценки по TOEFL клиента (я выбрал для себя TOEFL как имеющий наиболее широкий охват, отсюда такой фильтр). Не улучшение понимания языка, а именно решение прикладной задачи: повысить численную оценку за тест любой ценой. Приёмчики, которые рекомендовались в тех патентованых материалах, действительно работали, и как я впоследствии понял, имели сильный уклон в overfitting: учить язык с их помощью можно было очень условно, но оценка действительно повышалась.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2010-01-02 11:40 pm (UTC)Во-вторых возражения. Зубрёжка это по-моему не оверфиттинг, это, действительно, решение прикладной задачи. Различие между пониманием и непониманием -- штука тонкая, не зря говорят "Выучи, потом поймёшь". Если надо будет :-) В случае с изучением языка разница вообще носит ускользающий характер; понимаем ли мы, в сущности, английский?
Я сам сдавал IELTS и думаю, что он мне очень помог. После Moscow English особенно.
Оверфиттинг это, по-моему, другое. Бывает такой тип комплексов: "Меня родители научили никогда не путать "одеть" и "надеть". Никогда-никогда-никогда. Что угодно, убить-украсть-замучать, но только никогда не путать "одеть" и "надеть"!!"
no subject
Date: 2010-01-03 10:07 am (UTC)TOEFL мне тоже очень помог с английским, но я не совсем об этом. Мне попадались книжки, заявленная цель которых была - не подтянуть уровень знания языка, а подтянуть TOEFL score. Каковая и достигалась при помощи всяких "приёмчиков". Приёмчики для TOEFL'а наверное не работали при сдаче IELTS'а, поэтому приёмчики - это оверфиттинг к конкретной системе тестирования.
Одеть и надеть - это, действительно, хороший пример оверфиттинга собственно к языку. Ещё исключения из правил правописания тоже, наверное, "требуют" от ученика оверфиттинга, т.к. заранее известно, что они не гармонируют с правилом/моделью.