дипломная работа

1.6 Модель оценки эффективности обучения Д. Киркпатрика

Как уже неоднократно упоминалось выше, проблема оценки эффективности обучения все еще остается актуальной для многих компаний, занимающихся развитием своего персонала.

Интересно, что вокруг предложенного Киркпатриком подхода не умолкают споры, еще в конце 1950-х годах, он сформулировал ныне известные 4 уровня оценки эффективности, однако его модель оценки тренингов остается одной из базовых, а его книги - наиболее цитируемыми. Киркпатрик рассматривает оценку как неотъемлемую часть цикла проведения обучения, который включает 10 этапов:

1. Определение потребностей.

2. Постановка целей.

3. Определение предметного содержания.

4. Выбор участников обучения.

5. Формирование оптимального расписания.

6. Подбор соответствующего помещения.

7. Подбор соответствующих преподавателей.

8. Подготовка аудиовизуальных средств.

9. Координация программы.

10. Оценка программы.

Киркпатрик считает, что в большинстве случаев оценка ограничивается использованием анкет по окончании тренинга - изучением непосредственной реакции слушателей на обучение. Он называет эти анкеты "листами для улыбки" (smile-sheets), имея в виду, что чаще всего участники используют анкеты для выражения благодарности.

Четыре уровня, по Кирктпатрику, определяют последовательность проведения оценки обучения. Он пишет: «Каждый уровень важен и влияет на следующий за ним уровень. При переходе от уровня к уровню процесс оценки становится более трудным и требует больше времени, но при этом позволяет получить более ценную информацию» .

· Уровень 1 - Реакция (Reaction)

· Уровень 2 - Научение (Learning)

· Уровень 3 - Поведение (Behavior)

· Уровень 4 - Результаты (Results)

1. Реакция

Оценка на этом уровне определяет, как участники программы реагируют на нее. Сам Киркпатрик называет это оценкой удовлетворенности потребителей. В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Зачастую руководство определяет необходимость участия в какой-либо образовательной программе. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам.

· Во-первых, люди так или иначе делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга.

· Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. Позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

2. Научение

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки).

3. Поведение

На этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен. Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. В этих случаях кроме оценки реакции и научения рекомендуется проверить наличие следующих условий:

· Желание участников изменить поведение.

· Наличие у участников знаний о том, что и как делать.

· Наличие соответствующего социально-психологического климата.

· Поощрение участников за изменение поведения.

Говоря о социально-психологическом климате, Киркпатрик имеет в виду прежде всего непосредственных руководителей участников обучения. Он выделяет пять видов "климата": запрещающий, обескураживающий, нейтральный, поддерживающий, требующий. Позиция руководителя, соответственно, меняется от запрета на изменение поведения до требования изменить поведение после окончания тренинга. Киркпатрик считает, что единственный способ создания позитивного климата - вовлечение руководителей в разработку учебных программ.

4. Результаты

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров. Результаты не следует измерять в деньгах.

По мнению Киркпатрика, оценка на этом уровне - самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

· если возможно, использовать контрольную группу (не проходившую обучение),

· проводить оценку через некоторое время, чтобы результаты стали заметны,

· проводить оценку до и после программы (если это возможно),

· провести оценку несколько раз в ходе программы,

· сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации (автор считает, что проведение оценки на 4 уровне не всегда целесообразно в связи с ее высокой стоимостью).

К принципиальным недостаткам данного подхода относится тот факт, что выделенные информационные блоки не связаны между собой, кроме этого отсутствуют механизмы обратной связи, позволяющие управлять процессом генерации и передачи знаний.. Остальные трудности связаны с неразработанностью процедурного уровня сбора информации и ее обработки. Вследствие этого:

1) обобщенные числовые характеристики объективно не отражают состояния и отношения в измеряемой эмпирической системе;

2) используемые измерительные техники не обладают свойствами валидности, чувствительности и надежности;

3) не учитывается влияние внешних факторов;

4) не ясно, как выделить «чистый эффект» от обучения».

То, что произошло с американцем Дональдом Кирпатриком, бывает довольно редко. Полвека назад он предложил концептуальный подход к оценке тренинговых программ, который стал классическим. Любой специалист по оценке сегодня просто обязан знать четыре уровня оценки "по Киркпатрику".

Интересно, что вокруг предложенного Киркпатриком подхода не умолкают споры, однако его модель оценки тренингов остается одной из базовых, а его книги – наиболее цитируемыми. Классик и ныне здравствует, хотя уже отошел от активного бизнеса. Он сделал блестящую карьеру; написал несколько книг, ставших бестселлерами и принесших ему мировую известность; был президентом одного из самых авторитетных профессиональных объединений тренеров и консультантов в мире – American Research and Development Society (ARSD). Сегодня Дональд Киркпатрик продолжает заниматься общественной работой и поддерживает контакты с профессиональным сообществом. Он продолжает публиковать статьи и выступать с лекциями и семинарами на крупнейших форумах.

Итак, что же предложил Киркпатрик?..

Киркпатрик рассматривает оценку как неотъемлемую часть цикла проведения обучения, который включает 10 этапов :

1. Определение потребностей.
2. Постановка целей.
3. Определение предметного содержания.
4. Выбор участников обучения.
5. Формирование оптимального расписания.
6. Подбор соответствующего помещения.
7. Подбор соответствующих преподавателей.
8. Подготовка аудиовизуальных средств.
9. Координация программы.
10. Оценка программы.

1. Оправдать существование отдела обучения, показав, какой вклад делает этот от-дел в достижение целей и задач организации.
2. Принять решение о том, продолжать или прекратить тренинговую программу.
3. -Получить информацию о том, как улучшить тренинговую программу в будущем.

Сам Киркпатрик считает, что в большинстве случаев оценка проводится для того, чтобы понять, как повысить эффективность тренинга, какими способами можно его улучшить . В связи с этим предлагается ответить на следующие 8 вопросов:

1. В какой мере содержание тренинга соответствует потребностям участников?
2. Является ли выбор преподавателя (Киркпатрик использует здесь слово "лидер", которое по-русски имеет совершенно другое значение) оптимальным?
3. Использует ли преподаватель наиболее эффективные методы для поддержания интереса участников, передачи им знаний, формирования у них навыков и установок?
4. Являются ли условия для проведения обучения удовлетворительными?
5. Устраивает ли участников расписание занятий?
6. Способствуют ли аудиовизуальные средства улучшению коммуникации и поддержанию интереса участников?
7. Была ли координация программы удовлетворительной?
8. Что еще может быть сделано для улучшения программы?

Отметим, что все вопросы кроме первого и последнего сформулированы автором как закрытые (предполагающие ответы "да" или "нет"). С точки зрения формулирования вопросов задания для проведения оценки такая форма вопросов хороша далеко не всегда. Однако мы придерживаемся авторского текста.

Киркпатрик считает, что в большинстве случаев оценка ограничивается использованием анкет по окончании тренинга – изучением непосредственной реакции слушателей на обучение. Он называет эти анкеты "листами для улыбки" (smile-sheets), имея в виду, что чаще всего участники используют анкеты для выражения благодарности. Более сложная и глубокая оценка не проводится, потому что

• ее не считают срочной или важной,
• никто не знает, как ее провести,
• руководство не требует этого,
• люди чувствуют себя в безопасности и не видят нужды "копать" глубже,
• есть много вещей, которые для них более важны или которыми они предпочитают заниматься.

Четыре уровня Четыре уровня, по Кирктпатрику, определяют последовательность проведения оценки обучения (тренинга). Он пишет: "Каждый уровень важен и влияет на следующий за ним уровень. При переходе от уровня к уровню процесс оценки становится более трудным и требует больше времени, но при этом позволяет получить более ценную информацию. Ни один из уровней не может быть пропущен просто потому, чтобы сконцентрировать на том, что тренер считает наиболее важным" (надо заметить, что многие специалисты не согласны с этим утверждением Киркпатрика). Вот знаменитые четыре уровня по версии автора:

• Уровень 1 – Реакция (Reaction)
• Уровень 2 – Научение (Learning)
• Уровень 3 – Поведение (Behavior)
• Уровень 4 – Результаты (Results)

Реакция

Оценка на этом уровне определяет, как участники программы реагируют на нее. Сам Киркпатрик называет это оценкой удовлетворенности потребителей . В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Дел в том, что участие в таких тренингах бывает обязательным. У людей просто нет выбора. Руководство компании определяет необходимость данного тренинга и обязывает сотрудников принимать в нем участие. Казалось бы, в этом случае, нужно говорить о реакции руководства. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам .

• Во-первых, люди так или иначе делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга.
• Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. По мнению Киркпатрика, позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

Научение

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Киркпатрик утверждает, что изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки).

Поведение

На этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен . Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. Киркпартик рекомендует в этих случаях кроме оценки реакции и научения проверить наличие следующих условий :

1. Желание участников изменить поведение.
2. Наличие у участников знаний о том, что и как делать.
3. Наличие соответствующего социально-психологического климата.
4. Поощрение участников за изменение поведения.

Говоря о социально-психологическом климате, Киркпатрик имеет в виду прежде всего непосредственных руководителей участников обучения. Он выделяет пять видов "климата": запрещающий, обескураживающий, нейтральный, поддерживающий, требующий. Позиция руководителя, соответственно, меняется от запрета на изменение поведения до требования изменить поведение после окончания тренинга. Киркпатрик считает, что единственный способ создания позитивного климата – вовлечение руководителей в разработку учебных программ .

Результаты

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров.

Киркпатрик настаивает на том, что результаты не следует измерять в деньгах . Он считает, что перечисленные выше изменения могут, в свою очередь, приводить к увеличению прибыли. Киркпатрик пишет: " Меня разбирает смех, когда я слышу, что профессиональные тренеры должны уметь показывать выгоду для клиента в терминах возврата на инвестиции в тренинг. То же самое я думаю о связи между тренинговыми программами и прибылью. Вы только представьте себе все факторы, которые влияют на прибыль! И можете добавить их к списку факторов, влияющих на возврат на инвестиции".

По мнению Киркпатрика, оценка на этом уровне – самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

• если возможно, использовать контрольную группу (не проходившую обучение),
• проводить оценку через некоторое время, чтобы результаты стали заметны,
• проводить оценку до и после программы (если это возможно),
• провести оценку несколько раз в ходе программы,
• сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации (автор считает, что проведение оценки на 4 уровне не всегда целесообразно в связи с ее высокой стоимостью).

Как построена книга Киркпатрика Kirkpatrick, D. L. (1998). Evaluating training programs: the four levels. San Francisco: Berrett-Koehler Publishers, Inc.

Книга разделена на две неравные части. Первая – описание 4-уровневой модели, теория (примерно 70 страниц). Вторая часть (около 200 страниц) – подробный разбор нескольких конкретных случаев (case studies) и примеры инструментов, используемых для проведения оценки на разных уровнях.

По материалам информационного бюллетеня компании «Процесс Консалтинг» (processconsulting.ru/bulletin1.pdf)

Модель Киркпатрика

1) реакции. Участники тренинга положительно реагируют на тренинг непосредственно после его завершения;

участники тренинга положительно реагируют на его завершение 🙂

2) знания. Участники выучили материал тренинга;

3) поведения. Участники применяют на работе то, что они изучили на тренинге;

4) ROE. Тренинг имеет положительные результаты для организации;

Критика модели Киркпатрика:

Существует несколько доводов, критикующих модель Киркпатрика. Во-первых, последние исследования, совершенные Элвудом Холтоном и Джорджем Аллигером, бросают тень сомнения на иерархический аспект модели. Их исследования показали, что корреляции между уровнями иерархии Киркпатрика либо малы, либо несущественны. Во-вторых, когда с тренинговой программой что-то не так (низкий трансфер), модель не определяет причину проблемы и что с ней делать. В-третьих, модель не учитывает другие переменные, такие как мотивация участников, само-эффективность или условия организации. В-четвертых, модель не обладает высокой степенью точности. Например, второй уровень, «знания», не определяет – декларативные это знания или процедурные. Также, сложно измерить первый уровень, «реакции»: участники могут тренинг ненавидеть, получать от него удовольствие, он им может нравиться, показаться приятным, скучным, интересным. Но самый главный аргумент, заключается в том, что по модели Киркпатрика, оценка любого тренинга должна основываться на одних и тех же переменных. Современный взгляд на оценку эффективности тренинга предполагает, что методы оценки должны выбираться исходя из целей оценки.

Оценка обучения проводится для того, чтобы понять, как повысить его эффективность, какими способами можно его улучшить.

В связи с этим предлагается ответить на следующие восемь вопросов:

· В какой мере содержание тренинга соответствует потребностям участников?

· Является ли выбор преподавателя оптимальным?

· Использует ли преподаватель наиболее эффективные методы для поддержания интереса участников, передачи им знаний, формирования у них навыков и установок?

· Являются ли условия для проведения обучения удовлетворительными?

· Устраивает ли участников расписание занятий?

· Способствуют ли аудиовизуальные средства улучшению коммуникации и поддержанию интереса участников?

· Была ли координация программы удовлетворительной?

· Что еще может быть сделано для улучшения программы?

Оценка обучения имеет четыре уровня:

1. Реакция (Reaction)

2. Научение (Learning)

3. Поведение (Behavior)

4. Результаты (Results)

Оценка на первом уровне - реакция определяет, как участники программы реагируют на нее. В случае, когда обучение проводится внутри фирмы, реакция участников не всегда интерпретируется как удовлетворенность потребителей. Дел в том, что участие в таких тренингах бывает обязательным. У людей просто нет выбора. Руководство компании определяет необходимость данного тренинга и обязывает сотрудников принимать в нем участие. Казалось бы, в этом случае, нужно говорить о реакции руководства. Киркпатрик подчеркивает, что и в этом случае реакция участников является очень важным критерием успешности тренинга, как минимум, по двум причинам. Во-первых, люди делятся своими впечатлениями от тренинга со своим руководством, и эта информация уходит выше. Следовательно, она влияет на принятие решений о продолжении тренинга. Во-вторых, если участники не будут реагировать позитивно, то у них не будет мотивации к научению. По мнению Киркпатрика, позитивная реакция не гарантирует успешного освоения новых знаний, умений и навыков. Отрицательная же реакция на тренинг почти наверняка означает уменьшение вероятности научения.

Научение определяется как изменение установок, улучшение знаний и совершенствование навыков участников в результате прохождения ими программы обучения. Киркпатрик утверждает, что изменение поведения участников в результате тренинга возможно только тогда, когда произойдет научение (изменятся установки, улучшатся знания или усовершенствуются навыки). Поведение - н а этом уровне происходит оценка того, в какой степени изменилось поведение участников в результате обучения. Киркпартик указывает на то, что отсутствие изменений в поведении участников не означает, что тренинг был неэффективен. Возможны ситуации, когда реакция на тренинг была позитивной, научение произошло, но поведение участников в дальнейшем не изменилось, поскольку для этого не были соблюдены необходимые условия. Поэтому отсутствие изменения поведения участников после тренинга не может быть поводом для принятия решения о прекращении программы. Киркпартик рекомендует в этих случаях кроме оценки реакции и научения проверить наличие следующих условий:

· Желание участников изменить поведение.

· Наличие у участников знаний о том, что и как делать.

· Наличие соответствующего социально-психологического климата.

· Поощрение участников за изменение поведения.

К результатам относятся изменения, которые произошли в связи с тем, что участники прошли обучение. В качестве примеров результатов Киркпатрик приводит увеличение производительности, улучшение качества, уменьшение количества несчастных случаев, увеличение продаж, снижение текучести кадров. Киркпатрик настаивает на том, что результаты не следует измерять в деньгах. Он считает, что перечисленные выше изменения могут, в свою очередь, приводить к увеличению прибыли. Оценка на этом уровне – самая сложная и дорогостоящая. Вот несколько практических рекомендаций, которые могут помочь в оценке результатов:

· если возможно, использовать контрольную группу (не проходившую обучение),

· проводить оценку через некоторое время, чтобы результаты стали заметны,

· по возможности, проводить оценку до и после программы,

· провести оценку несколько раз в ходе программы,

· сопоставить ценность информации, которую удастся получить с помощью оценки и стоимость получения этой информации.

Когда тренинг эффективен?

Сотрудникам HR -департамента и руководителям большинства компаний уже не надо объяснять важность и значимость обучения персонала .

Трудности теперь возникают на этапе оценки реальной эффективности корпоративных бизнес тренингов .

Главная цель бизнес-тренингов: улучшение бизнес-показателей организации путем совершенствования навыков, умений и поведения ее сотрудников.

Кроме того, наличие у работодателя программы обучения персонала, является важным факторов при поиске кандидатом нового места работы. Так как если кандидат собирается повышать свою квалификацию в области продажи услуг, например, то лучше же сделать это за счет работодателя?
Но как менеджерам по персоналу определить, действительно ли имеющиеся программы тренингов и профессионального развития являются эффективными. И в самом ли деле позволяют достичь целей организации? Дональд Киркпатрик (Donald Kirkpatrick) еще в начале 60-х прошлого века представил четырехуровневую модель для оценки качества программ обучения, тренингов, семинаров.

На первом уровне измеряется эмоциональная реакция участников бизнес тренинга на программу обучения.

Казалось бы, оценка программы тренинга на этом уровне не имеет особой важности, так как позитивная реакция участников тренинга еще не будет гарантировать успешного освоения новых навыков и умений.

Но отрицательная реакция участников может свести к минимуму мотивацию персонала к развитию.

Киркпатрик подымает значимость оценки этого уровня, так как дальнейшая работа по улучшению программ тренингов становится практически бессмысленной, если на этом этапе не удалось заинтересовать сотрудников.

Следствием этого будет усложнение оценки результатов работы бизнес тренера, и на следующих уровнях потребует значительно больших усилий и ресурсов HR.

На первом уровне будет достаточно дать анкеты участникам бизнес тренинга в конце обучения, затем собрать и обработать.

На втором уровне модели Киркпатрика оцениваются результаты пройденного участниками тренинга.

Заказчику обучения, HR, необходимо понять в какой мере участникам тренинга удалось усвоить именно те навыки и умения, ради которых и проводили данный курс и готовили программу обучения.

Для оценки этого уровня можно применять специально разработанные тесты и задания по определению степени развития этих самых навыков, лучше предварительно оцифровав их (например по шкале от 1 до 10).

Затем сравнивать результаты участников до начала тренингов и после их завершения согласно выбранной шкале.

Было до тренинга: +2, а после него стало +5.

что ж, значит было за что бороться HR, и что-то получил "продажник" на самом деле!

Следует помнить и о методе простого наблюдения за поведением участников во время выполнения заданий и проведения бизнес игр со стороны тренера.

Затем это наблюдение финиширует описанием в отчете кратких характеристик участников.

Но, новые знания сотрудника практически не несут никакой ценности для компании без умения и желания их использовать. А вот с этим порой много сложнее.

Почему, так как само по себе таящееся знание в голове сейлз менеджера не влияет на эффективность его продаж.

Поэтому важно чтобы произошло «осознание», то есть была усвоена ни только информация, полученная непосредственно от тренера, но и был бы получен собственный опыт по завершению тренинга.

Разрешить эту проблему может только третий уровень модели Киркпатрика.

Вполне возможно привлечение и клиентов к оценке эффективности тренинга.

Например, оценивая тренинг продаж можно использовать анкеты клиента или произвести анализ изменений характера записей в книге жалоб и предложений в случае прохождения тренинга направленного на повышение клиентоориентированности услуг.

На четвертом уровне модели Киркпатрика оценивается воздействие обучения на бизнес-результаты организации.Это расчетный уровень, требующий предварительного расчета перед тренингом, например расчета рентабельности продаж для всего отдела продаж (сейлзменов - продажников ). А затем тот же расчет по той же методике, но уже после программы обучения.

Этот этап и метод важен для топ менеджмента, так как именно на этом уровне производится конечная оценка эффективности вложений в мероприятия по обучению.

Измерение изменений результатов деятельности компании производится как по качественным показателям (изменение имиджа компании, узнаваемости бренда, улучшение психологического климата и др.), так и по количественным (снижение на Н% текучести кадров, увеличения на Р% объема продаж и др.). Оценка на таком уровне самая сложная и высокая по стоимости.

Модель Киркпатрика уже долгое время используется многими HR менеджерами для оценки и улучшения программ обучения и профессионального развития.

Она позволяет учесть интересы трех ключевых заинтересованных групп. Топ менеджерам компаний модель помогает принимать решения: «Стоит ли тренинг инвестированных в него затрат средств и ресурсов? Или следует направить в следующий раз их на другие цели?». Сотрудник сможет выяснить, как обучение повлияет на эффективность его работы или окажет влияние на карьеру. Бизнес тренер же сможет оценить реальную эффективность своих тренингов и работы выразив результат в полученной прибыли заказчика.