ОЦЕНКА КАЧЕСТВА ЭЛЕКТРОННЫХ УЧЕБНЫХ ПОСОБИЙ В
ИНФОРМАЦИОННО-ОБРАЗОВАТЕЛЬНОЙ СРЕДЕ "CHOPIN"

Д.В. Смолин., А.А. Цхай
Алтайский государственный технический университет, каф. ЮНЕСКО
http://altnet.ru/~mcsmall/index.htm

 

В 1997-1999 годах на кафедре ИСЭ Алтайского Государственного технического университета была разработана оболочка информационно-образовательной среды "Chopin" , предназначенная для разработки и поддержки авторских образовательных курсов в режиме "один преподаватель - много студентов", а также в режиме "компьютер-студент". Часть принципов и методов, примененных в разработке можно считать новыми для данной предметной области. В статье изложен подход, примененный для оценки качества электронных учебных пособий в составе информационно-образовательной среды.

Введение

В настоящее время много говорится об информационной технологии образования см например [1,2,3]. Процесс изучения предмета рассматривается как последовательность этапов, каждый из которых направлен на достижение конкретной цели. Выработаны стандартные показатели качества прохождения таких этапов. Сформировались психологические и педагогические теории, позволяющие выстраивать последовательность этапов обучения максимально близко к современным представлениям о структуре мышления. Вместе с тем, вопросы оценки качества некоторой образовательной технологии в целом, еще мало изучены см например [4]. Трудность построения методик оценки объясняется несколькими причинами:

  • Различием в личностных характеристиках обучаемых
  • Различием в способе (манере) обучения
  • Различием в результатах обучения у разных обучаемых и д.р.

Важным обстоятельством является также то, что каждая образовательная технология требует затрат различных ресурсов. Термин "ресурсы" понимается здесь в широком смысле. Ресурсы могут быть материальными, ментальными и д.р. Специфика образовательной технологии как раз и состоит в наличии особого рода ресурсов. В последнее десятилетие в психологии значительное внимание уделяется депрессии и вызывающим ее причинам, депрессивным состояниям и их последствиям. Установлено что значительная умственная нагрузка в течении продолжительного времени может стать причиной депрессии. Депрессивное состояние отрицательно сказывается на различных личностных характеристиках и может продолжаться годами.

Электронные учебные пособия (ЭУП): показатели качества и алгоритм оценки.

Обобщая, можно сказать что оценивать качество образования и качество образовательной технологии следует с учетом произведенных затрат. При применении одной и той же технологии на различных обучаемых мы неизбежно получим различные результаты. Вместе с тем, из практики известно, что ряд технологий, позволяет получать стабильно высокий результат с малым процентом неудач. Основная идея статистического метода оценки может быть заимствована из классической теории тестирования. Каждый тест имеет ряд характеристик, рассчитываемых на основе результатов его прохождения. Количественное выражение этих характеристик позволяет сравнивать тесты между собой и устанавливать отношения "лучше - хуже". Рассмотрение количественных характеристик тестов имеет смысл только при указании входной выборки - то есть подробного описания контингента тестируемых, а также при указании цели теста. Устанавливать отношения типа "лучше-хуже" для тестов, направленных на различные объекты тестирования не имеет смысла. По аналогии с классической теорией тестирования [5,6,7,8,9] предлагается выдвинуть ряд показателей качества для ЭУП в целом, а также для отдельных элементов пособия. Минимальной единицей считается электронный урок. Знания о последовательности проведения уроков, обеспечивающие оптимальное обучение образуют электронный авторский курс (ЭАК). Электронным учебным пособием считается совокупность базы знаний (ЭАК), элементов предъявления (электронных уроков, которые могут быть реализованы отдельными программами) и технических модулей, обеспечивающих функционирование программной системы. Логика такого разделения состоит в следующем: каждая минимальная единица учебного пособия служит достижению определенной учебной подцели, которую невозможно или нецелесообразно декомпозировать. Электронное представление этой информационной единицы может быть удачным или не удачным, интуитивно понятным или чрезмерно сложным. К настоящему моменту существуют целые педагогические теории, посвященные тому, как должна выглядеть минимальная единица представления информации при обучении на компьютере. Часто они направлены на выяснение размеров, цвета, положения на экране символов и графики. Теории такого рода указывают на то, что то или иное цветовое сочетание, абстракции и т.п. положительно или отрицательно воздействуют а психику обучаемого и поэтому их лучше применять или не применять. Практика показывает, что безусловно это направление отрицать нельзя, но оценивать качество исходя только из подобных соображений неверно. Дело в том, что в зависимости от текущего психофизиологического состояния, различных обучаемые будут реагировать на стимулы по-разному. Поэтому конкретная реализация элемента предъявления информации должна строится на основе разработанных ранее психологических и педагогических теорий, а его оценка на основе статистики применения на четко заданной выборке. Таким образом, обобщая, можно сказать, что показатели качества электронного урока дают объективное представление о его удачности, в то время как показатели качества электронного курса в целом - о соответствии подобной структуры знаний заявленным целям обучения. В качестве основных показателей качества электронного учебного пособия в целом предлагается использовать следующие характеристики:

  • Валидность
  • Надежность
  • Трудность
  • Экономичность и избыточность
  • Интегрированность
  • Практичность

Валидность учебника - способность учебника соответствовать заявленным целям обучения. Необходимо различать несколько видов валидности

Таблица 1. Виды валидности ЭУП

Вид валидности
Что характеризует
Способ определения
Содержательная соответствие содержимого учебника заявленным целям обучения Оценивается предметными специалистами экспертно
Очевидная валидность с точки зрения обучаемого Оценивается обучаемыми экспертно
Сопоставительная Способность учебника обучать Отношение среднего значения результатов тестирования к модельному среднему значению (с учетом шкалы измерения)

Валидность ЭУП необходимо рассматривать с учетом произведенных при обучении затрат. Надежность - способность учебника показывать одинаково стабильные результаты при применении на нескольких, но примерно одинаковых выборках. Способность учебника мало менять свою стабильность при применении на различных выборках. Надежность можно определить как вероятность того, что средние результаты обучения отклоняться от идеальных не более чем на заданную величину. Трудность характеризует затраты на обучение по данному учебнику. Очевидно, что данный критерий многомерный. Свертка в один затруднена или невозможна. К основным затратным статьям следует отнести: материальные, временные, физические и умственные. Экономичность учебника - способность достигать поставленных целей за минимальное число шагов. Характеризуется распределением числа шагов, необходимых для достижения поставленных целей в разных выборках. Избыточность учебника - мера наличия в учебнике такой информации, овладение которой прямо не служит достижению поставленных целей обучения. Интегрированность учебника - степень его интеграции с другими учебниками. Степень зависимости результатов обучения по данному ЭУП от применения или не применения какого-либо другого учебника. Определяется через соответствующий коэффициент корреляции. Практичность учебника. Оценивается преподавателями и обучаемыми экспертно. Для объективизации результатов опроса возможно применение критерия знаков. Для оценки качества уроков в учебнике предлагаются следующие характеристики:

  • Валидность урока
  • Трудность
  • Связность
  • Избыточность
  • Необходимость

Валидность и трудность для урока имеют смысл аналогичный валидности и трудности учебного пособия в целом. Связность урока характеризует меру его зависимости от других уроков, т.е. влияние усвоения одного урока на способность усвоить другой. Для тестов значимая корреляция между заданиями - это плохо. Для уроков, решение этого вопроса не однозначно. Для учебника связность информационных единиц - хорошо, а для справочника - плохо. Связность удобно представлять матрицей парных корреляций. Избыточность урока - мера информации, содержащейся в уроке, но не служащей прямо достижению учебных целей. Избыточная информация - это та, добавление которой уже не приводит к росту оценки по тесту. Часто урок получается избыточным при попытке достичь несколько разнородных целей, предъявить несколько не связанных единой целью информационных единиц: например грамматику и страноведческую информацию или наличие материала (картинки например) вообще без четкой цели. Избыточность можно оценить через средние характеристики (время внимания и т.п.). Смысл характеристики "необходимость урока" поясним примером. Если урок вообще исключить из ЭУП, то каков будет результат по данной учебной цели, не обучится ли слушатель как-нибудь на других уроках (для этого специально не предназначенных). Общий алгоритм оценки ЭУП может быть представлен следующими этапами:

1. Проведение предварительного тестирования
2. Обучение по ЭУП
3. Проведение заключительного тестирования
4. Определение показателей качества ЭУП

4.1. Внешняя валидность
4.2. Очевидная валидность
4.3. Сопоставительная валидность

4.3.1. Определение вида и параметров распределения выходных результатов
4.3.2. Определение вида и параметров распределения модельных результатов
4.3.3. Расчет валидности

4.4. Надежность
4.5. Трудность
4.6. Экономичность
4.7. Интегрированность
4.8. Практичность

5. Фиксация результатов в паспорте ЭУП

Пример оценки качества ЭУП Рассмотрим расчет основных характеристик качества на примере. В 1998-1999 г на кафедре ИСЭ было создано ЭУП "Вкладные операции". Пособие узко специализировано и предназначено для обучения контролеров-кассиров Алтайсбербанка. Учебной целью является знание одной из служебных инструкций и умение ее применять. Пособие рассчитано на недельный курс самообучения. По желанию обучаемого текст пособия (около 100 с.) может быть распечатан. Считается, что эффективность обучения должна составлять не менее 68%, а разброс средних результатов обучения не превышает 10%. Методика применения пособия подразумевает входной и заключительный контроль, результаты нормированы в интервал [0..1] и представлены в таблице 2. Пороговое значение 0.5. Объем статьи позволяет привести только небольшую часть выборки (10 случаев). Все приведенные выкладки могут быть распространены на большее число случаев.

Таблица 2. Результаты контроля при использовании ЭУП "Вкладные операции"

Заключительный контроль
Фамилия
Результат
1. А-в
0,759
2. П-в
0,804
3. И-в
0,801
4. С-в
0,756
5. П-в
0,728
6. С-а
0,707
7. Ф-я
0,747
8. Я-я
0,734
9. М-а
0,720
10. Г-а
0,773
Итого Среднее
0,753
Ст. отклонение
0,033

Таблица 3. Результаты расчета валидности в нескольких испытаниях

Сопоставительная валидность
1.
1,0
2.
0,862
3.
0,907
4.
0,938
5.
0,936
Среднее
0,929
Ст. отклонение
0,050

Расчет валидности Измерительную шкалу считаем интервальной. Распределение считаем нормальным, поскольку среднее значение, мода и медиана приблизительно совпадают. Из описания ЭУП можно заключить, что распределение его результатов должно иметь следующие характеристики: нормальное, заключено в интервале [0..1], 68% в интервале [0.5..1], значит s=0.25 (интервал в 2s=1-0.5=0.5), следовательно, среднее значение должно быть 0.75. Валидность учебника: V=1, поскольку (0.753-0.5)/(0.75-0.5)>1. Расчет надежности В процессе разработки ЭУП проводились статистические испытания. Результаты расчета валидности представлены в таблице 3. Валидность распределена нормально вокруг значения 0.929. Стандартное отклонение 0.050. Отклонению средних результатов от идеальных на 10% соответствует варьирование валидности в интервале [0.9..1] . Вероятность, что валидность попадет в этот интервал составляет более 99%. Трудность Согласно приведенным данным трудность ЭУП составила: 40 учебных часов, практически все обучаемые дополнительно работали с текстом инструкции по 30-40 минут в день. Затраты на распечатку составили 70 р. на одного обучаемого. Материал инструкции требует запоминания большого объема частных положений. Текстовая структура ЭУП соответствует инструкции, ни один из уроков не может быть пропущен, поэтому оценивать экономичность не имеет смысла. ЭУП содержит несколько графических изображений и схем, не содержащихся в оригинальном тексте инструкции. Схемы занимают 4 экрана (всего экранов 100). Статистические испытания в процессе разработки показали, что наличие или отсутствие картинок значимо не влияет на результаты обучения, однако существенно влияет на очевидную и внешнюю валидность. Таким образом избыточность можно оценить в 4%. Практика показывает, что небольшая избыточность (до 10%) неизбежна и даже полезна. Программа непрерывной профессиональной подготовки контролеров кассиров включает ряд других ЭУП, применявшихся в разное время на тех же группах. Проведенные расчеты выявили наличие значимой корреляции с результатами обучения по ЭУП "операционно-кассовая работа". Таким образом, можно утверждать, что эти два ЭУП являются интегрированными и возможно, их состав дублирует друг друга. Оценка практичности производилась экспертно. Преподаватели оценили удобство интерфейса, возможность создания твердой копии инструкции. Как существенная проблема для неизбежной модификации назван объем ЭУП. Модификация ЭУП размером более 50 экранов на практике существенно затруднена. Приведенные показатели качества позволяют заполнить соответствующие графы паспорта ЭУП, отобразить ЭУП в многомерном пространстве признаков и установить отношения близости или удаленности с аналогичными ЭУП. Подобная абстракция позволяет практически реализовать библиотеку электронных учебных пособий (в отличие от электронной библиотеки пособий) и в каждом случае выбирать оптимальный учебник.

Литература

1. А.А. Муравьев Особенности технологического подхода в обучении. Новые технологии в науке и образовании. Новосибирск 1998 г. стр. 5-7

2. Н.В. Силкина Системный подход как методологическая база исследования дополнительного образования. Новые технологии в науке и образовании.
Новосибирск 1998 г. стр. 73-80

3. В.В. Анюшин, Е.С. Анкипович, Г.А. Горенкова, Е.С. Мухина, Н.А. Пропой, Л.Н. Чаиркина. Организация учебной деятельности студентов в рамках модульно-рейтинговой системы обучения. Новые технологии в науке и образовании. Новосибирск 1998 стр. 90-92

4. Бовтенко М.А. Теоретические основания лингвометодической оценки качества программного обеспечения обучения языку. Диссертация на соискание ученой степени кандидата филологических наук новосибирский государственный технический университет. - Новосибирск: Б.и., 1998.

5. В.А Дюк Компьютерная психодиагностика. С.-Петербург "Братство" 1994, 355 стр.

6. В.А Коккота Лингводидактическое тестирование Москва высшая школа 1989

7. А.Н. Майоров Тесты школьных достижений: конструирование, проведение, использование. - СПб.: Образование и культура, 1996. - 304 с.

8. В.С. Аванесов Методические указания по научной организации педагогического контроля в ВУЗе. - М.: Московский институт стали и сплавов 1988 г.

9. А. Анастази Психологическое тестирование., М.: "педагогика" 1982 в 2-х томах.

 

Сайт управляется системой uCoz