Scientific journal
Modern problems of science and education
ISSN 2070-7428
"Перечень" ВАК
ИФ РИНЦ = 0,940

BASICS FOR DESIGNING THE ADAPTIVE TESTING SYSTEM AS A TOOL FOR FORMING MATHEMATICAL LITERACY OF SECONDARY SCHOOL STUDENTS

Snegurova V.I. 1 Podkhodova N.S. 1
1 Herzen State Pedagogical University of Russian
The article describes an approach to building an adaptive testing system as a tool for increasing the level of mathematical literacy. An approach to identifying the bases of an adaptive test is proposed. The expediency of identifying such a basis for the development of adaptive tests as activity components of mathematical content is substantiated: figurative-graphic; algorithmic; logical and abstract. The structure of each component includes elements (skills) that underlie the development of tests and levels of mastery of the activity components. The experiments carried out have confirmed the discrepancy between the levels of mastering different activity components in the same student. This means that the need to develop educational material in mathematics aimed at improving mathematical literacy, taking into account the development of each activity component. The formation of elements of the selected components can occur in different students when solving mathematical problems of different levels of complexity. Three levels of difficulty were identified. A study aimed at testing the assumption that the use of adaptive tests, designed on the basis of the identified bases, has a positive effect on the development of the ability to solve complex educational and cognitive mathematical problems, that is, problems in the solution of which elements of different components of mathematical content are used, was experimentally confirmed in 2020 year.
adaptive test
testing
educational testing
mathematical literacy
components of mathematical content

В течение последних десятилетий произошли определенные изменения в системе оценки образовательных результатов обучающихся основной и средней школы: основной задачей оценки и ее критерием выступает не только овладение обязательным минимумом содержания, но и способность к решению учебно-познавательных и учебно-практических задач. Основным ориентиром становится формирование у учащихся функциональной грамотности, которая трактуется как способность обучающихся применять знания и умения для решения повседневных задач в ситуациях, которые отличаются от учебных.

Одним из компонентов функциональной грамотности является математическая грамотность, которая трактуется в одних исследованих как способность человека мыслить математически, формулировать, применять и интерпретировать математику для решения задач в разнообразных практических контекстах, в других – как способность человека определять и понимать роль, которую математика играет в мире, делать обоснованные суждения, а также использовать и заниматься математикой таким образом, чтобы удовлетворить потребности жизни человека как конструктивного, заинтересованного и мыслящего гражданина [1, с. 84].

Одним из признанных в международном образовательном сообществе средств оценки математической грамотности служат специально сконструированные задания, предлагаемые в рамках международных исследований PISA.

Практически все страны рассматривают результаты PISA как показатель математической грамотности учеников. И если этот показатель недостаточно высок у учащихся какой-нибудь страны, то в системе образования этой страны происходят преобразования, направленные на повышение этого показателя [2]. Эти преобразования могут быть связаны как с изменениями в содержании самого процесса обучения математике, так и с изменениями в номенклатуре и текстах измерительных диагностических материалов.

Традиционно в качестве основного направления такой работы рассматривается увеличение числа предлагаемых учащимся заданий, аналогичных заданиям PISA.

Является ли такой путь целесообразным? Вряд ли. Ведь математическая деятельность вообще и деятельность, направленная на решение задания PISA, включает в себя разнообразные компоненты. И, вероятно, грамотное решение проблемы предполагает выявление у учащихся тех болевых точек в овладении определенными компонентами, которые в совокупности приводят к низким результатам при решении задач PISA, и дальнейшей работы по повышению уровня владения этими компонентами.

В результате анализа заданий, направленных на оценку математической грамотности, можно выделить:

- математическое содержание, которое используется в заданиях;

- контекст, в котором представлено это математическое содержание, заданное в разных формах представления;

- деятельность ученика, направленную на анализ и установление связи между выделенными выше составляющими задания.

В свою очередь, математическое содержание заданий охватывает такие составляющие, как:

- количественные характеристики;

- изменения и зависимости;

- пространственные формы, их свойства, отношения между ними, измерение фигур;

- элементы теории вероятности и обработки данных.

Кроме того, анализ заданий позволил выделить специфику познавательных умений, которые являются фокусом заданий, а именно:

- установление связи между разными формами представления информации;

- отражение в задачной ситуации практической проблемы, связанной с величинами и их оценкой;

- перевод ситуации на математический язык (математическое моделирование);

- применение математических понятий, фактов, процедур рассуждения и обоснования для решения математической задачи;

- интерпретация и оценка полученного математического результата, а также его использование.

Анализ процесса и результата решения этих заданий позволяет сделать вывод, что они во многом определяются индивидуальными особенностями обучающихся и связаны с уровнем владения ими разными компонентами математического содержания, а также умением выделять математическое содержание и способы его преобразования, устанавливать связи между разными способами представления информации.

Указанные содержательные составляющие и умения позволяют выделить ряд деятельностных компонентов математического содержания, которые лежат в основе конструирования заданий PISA:

- графический (образно-графический);

- алгоритмический;

- логический;

- абстрактный компонент.

В свою очередь, каждый из выделенных деятельностных компонентов включает в качестве структурных элементов умения. Так, например, элементами образно-графического компонента с учетом установления связей между способами представления информации являются:

- умение воспринимать информацию, представленную в образно-графическом виде;

- умение осуществлять перевод информации, представленной в графической форме, в другую (вербальную, символьную) и обратно;

- умение преобразовывать график в графическую или иконическую форму;

- умение выполнять различные преобразования информации, представленной в вербальном или символьном виде, используя в качестве посредника график.

Любое выделенное умение может проявляться при решении задач, одинаковых с точки зрения математического содержания, но отличающихся друг от друга уровнем сложности.

Мы выделили три уровня сложности задач: минимальный, основной (или базовый) и повышенный (или продвинутый).

Для того чтобы определить, какому уровню сложности соответствует та или иная задача, нами были использованы ряд показателей:

- уровень продуктивности задания: наличие или отсутствие алгоритма его решения;

- количество данных, которые могут быть использованы при решении (в том числе избыточных);

- количество действий, которые необходимо последовательно выполнить при преобразовании условия к требованию задачи, а также количество шагов в алгоритме (если таковой существует);

- количество способов и методов решения данной задачи, в том числе отличающихся используемыми при решении математическими фактами;

- количество форм представления информации (вербальная, символьная, образно-графическая), используемых в задаче;

- необходимость в процессе анализа условия и решения перевода информации из одной формы представления в другую.

На основе использования этих показателей можно дать обобщенную характеристику задач каждого уровня сложности.

Задачи первого уровня сложности – репродуктивные задачи, алгоритм или способ решения которых известен. При их решении или не требуется обоснований, или эти обоснования предельно просты и факт, необходимый для обоснования, очевиден. Количество шагов при решении или обосновании не превосходит трех. Выражения, которые содержатся в условии, включают в себя не более трех операций, а функции – не более двух помимо основной.

Задачи второго уровня сложности – это частично продуктивные задачи, которые требуют переноса известного алгоритма или способа решения в частично измененную ситуацию. При их решении требуется небольшое (в 3–5 шагов) обоснование. Выражения, которые содержатся в условии, включают в себя четыре-пять операций, а функции – три-четыре помимо основной.

Задачи третьего уровня – это продуктивные задачи, при решении которых требуется перенос алгоритма или способа решения в новую ситуацию. Способ решения таких задач неочевиден. Они предполагают наличие нескольких способов решения, основанных на разных методах и разных математических фактах.

Любой выделенный выше компонент и его структурный элемент (умение) могут проявляться при решении задач разных уровней сложности. И возможно, у разных учеников разные компоненты проявляются при решении задач разных уровней сложности.

Таким образом, возникает предположение, что для развития у учащихся деятельностных компонентов математического содержания, которые лежат в основе конструирования заданий, направленных на овладение математической грамотностью и проверку ее сформированности, необходимо разработать индивидуальные маршруты для каждого ученика. Этого можно добиться, обеспечив учащимся возможность прохождения индивидуальной траектории, которая способствовала бы обучению каждому из выделенных деятельностных компонентов на оптимальном для обучающегося уровне сложности. Одним из вариантов реализации такого обучения является использование обучающих компьютерных адаптивных тестов. Они разрабатываются традиционно как система индивидуального тестирования, ориентированная на эффективную оценку способностей ученика [3–5]. Для того чтобы система компьютерных адаптивных тестов являлась не только эффективным средством обучения компонентам математического содержания, но и способствовала формированию математической грамотности, ее разработку целесообразно организовать с учетом способов представления информации, всех деятельностных компонентов, уровней сложности. Необходимость учета способов представления информации была показана на предыдущем этапе нашего исследовании ранее [6]. На данном этапе необходимо ответить на следующие вопросы исследования:

1. Проверить или опровергнуть справедливость предположения о сформированности разных деятельностных компонентов математического содержания у разных учащихся на разных уровнях сложности.

2. Выявить влияние использования адаптивных тестов, сконструированных на основе деятельностных компонентов математического содержания с учетом уровня сложности, на развитие умения решать комплексные учебно-познавательные математические задачи,

Выделение первого вопроса исследования обусловлено необходимостью выявления причин низкого уровня сформированности умения решать учебно-познавательные задачи, связанные с математикой, у разных учащихся. Интуитивно понятно, что разные деятельностные компоненты у разных учащихся сформированы по-разному, однако экспериментальных исследований, подтверждающих обоснованность дифференциации на основе этого основания, нам обнаружить не удалось.

Второй вопрос исследования соответствовал нашему предположению о том, что направленное и точечное воздействие на формирование определенных компонентов математического содержания в соответствии с уровнем их сформированности оказывает более продуктивное воздействие на результативность решения учебно-познавательных математических задач.

Материалы и методы исследования

Для проверки сформулированного нами предположения о сформированности разных деятельностных компонентов математического содержания у разных учащихся на разных уровнях сложности (первый исследовательский вопрос) был проведен первый эксперимент, в котором принимали участие 513 учащихся девятнадцати десятых классов шести различных школ Санкт-Петербурга и Ленинградской области. Эксперимент проводился пять раз, с интервалом в 5–7 лет на содержание разных тем школьного курса математики, в 1996, 2003, 2009, 2015 и 2018 гг.

Учащимся предлагались задания трех уровней сложности, предполагающие демонстрацию умений выделенных компонентов: образно-графического, алгоритмического, абстрактного и логического. Фиксировалась успешность выполнения ими заданий разного уровня сложности, соответствующих разным деятельностным компонентам математического содержания.

По результатам исследования каждому учащемуся ставился в соответствие профиль вида: . Индекс показывает, на каком уровне сформирована та или иная компонента. Например, профиль показывает, что графическая компонента сформирована на втором уровне, уровень сформированности абстрактно-логической компоненты соответствует второму, но было выполнено хотя бы одно задание, соответствующее третьему уровню; алгоритмическая компонента сформирована на первом уровне.

Приведем примеры полученных ситуаций. В таблице указаны уровни сложности, на которых сформированны выделенные компоненты математического содержания для некоторых учащихся.

Результаты исследования сформированности компонентов математического содержания

 

ГК

ЛК

АлК

У р о в н и с л о ж н о с т и

1 ученик

1

2–3

0–1

2 ученик

0–1

1–2

1

3 ученик

1–2

2

0–1

4 ученик

3

2

1

5 ученик

3

2–3

1

6 ученик

2–3

2

0

Проявление различий у разных учеников в сформированности разных компонентов свидетельствует о целесообразности дальнейшего развития умений в рамках выделенных компонентов для каждого ученика, учитывая и опираясь на индивидуальное для него состояние сформированности элементов (умений) выделенных компонентов.

В 2020 г. был проведен второй эксперимент исследования, направленный на проверку предположения о том, что использование адаптивных тестов, сконструированных на базе выделенных оснований, оказывает положительное влияние на развитие умения решать комплексные учебно-познавательные математические задачи, то есть задачи, решение которых требует привлечения элементов разных компонентов математического содержания (и второй исследовательский вопрос).

В исследовании приняли участие 113 человек (учащихся десятых классов) двух ОУ. Для организации обучения из учащихся были сформированы две группы, 56 и 57 чел. Уровень успеваемости учащихся контрольных и экспериментальных групп был примерно одинаковым. Первая группа учащихся (контрольная) на протяжении полугодия обучалась без использования адаптивных тестов, а вторая группа (экспериментальная) обучалась с использованием системы адаптивных тестов. Каждый тест состоял из 36 заданий (по 3 задания на каждый из четырех компонентов трех уровней сложности) с кратким ответом в форме числа или предполагающих множественный выбор. Всего было составлено 5 тестов. По ходу эксперимента фиксировалась индивидуальная траектория прохождения теста каждым учащимся. В конце обучения всем учащимся была предложена контрольная работа с одинаковым содержанием для контрольной и экспериментальной групп.

Для статистической проверки гипотезы о повышении результатов обучения при использовании адаптивных тестов был использован критерий Пирсона.

Результаты исследования и их обсуждение

В результате первого эксперимента исследования оказалось:

- почти 60 % учащихся справляются с задачами на проявление алгоритмического компонента, уровень сложности которых более чем на 1 ниже, чем уровень сложности решаемых ими математических задач на проявление абстрактно-логического компонента;

- примерно 10 % учащихся справляются с задачами на проявление алгоритмического компонента, уровень сложности которых более чем на 1 ниже, чем уровень сложности решаемых ими математических задач на проявление образно-графического компонента;

- примерно 10 % учащихся справляются с задачами на проявление образно-графического компонента, уровень сложности которых более чем на 1 ниже, чем уровень сложности решаемых ими математических задач на проявление абстрактно-логического компонента;

- хуже всего оказался сформированным алгоритмический компонент: у 85 % учащихся алгоритмический компонент сформирован не выше первого уровня. Этот уровень сформированности алгоритмического компонента предполагает осознанное воспроизведение известного алгоритма в стандартной ситуации.

В исследовании мы рассматривали и переходные уровни сформированности компонентов: 0–1, 1–2 и 2–3. Учитывая это, возможны 216 различных профилей сформированности компонентов. Из 513 участников исследования случаи одинакового уровня всех трех компонентов (например, 2–2–2) встретились всего 6 раз. В то же время одинаковых профилей было диагностировано не более 6. Как правило, в каждой отдельной группе (классе) с количеством учащихся не более 30, совпадающих профилей не встречалось.

Второй эксперимент показал статистически более высокие результаты (с вероятностью ошибки (с достоверностью 95 %)) выполнения контрольной работы учащимися экспериментальной группы при использовании адаптивных тестов в процессе обучения.

Заключение

Результаты экспериментального исследования и данные, полученные в ходе статистической проверки, позволили сформулировать вывод о том, что разные ученики владеют разными деятельностными компонентами на разных уровнях, а также что систематическое использование адаптивных тестов, сконструированных по трем основаниям, позволяет большинству учащихся повысить уровень сформированности умения решать комплексные математические задачи, при решении которых используются элементы разных деятельностных элементов компонентов математического содержания. В качестве этих оснований были выбраны следующие:

1) способы представления информации;

2) деятельностные элементы компонентов математического содержания и их элементы;

3) уровень сложности математической задачи.

Дальнейшее исследование планируется продолжить, рассматривая в качестве результата повышение успешности решения заданий PISA и аналогичным им.

Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 19-29-14080 «Электронная система адаптивного тестирования образовательных результатов по математике, информатике и предметам естественнонаучного цикла на основе когнитивных особенностей обучающихся».