hilo

Как очистить базу данных опроса перед анализом, за 5 шагов

Приложение на английском языке.

Проверка идёт в вашем браузере, и файл не покидает ваш компьютер.

Шаг 1

Проверить, что файл читается верно

Прежде чем обращаться к данным, быстро проверьте структуру: сколько строк и столбцов, одинаково ли число столбцов во всех строках и содержит ли первая строка названия переменных. Разделитель или кавычка внутри ответа либо одинарные кавычки выгрузки из SPSS разрывают строку и незаметно сдвигают остальные значения.

Шаг 2

Найти повторяющиеся наблюдения

Если наблюдение загружено дважды, оно учитывается дважды во всех процентах. Найдите одинаковые строки и отдельно повторяющиеся идентификаторы: если у двух разных строк один идентификатор, одна загружена неверно или у двух людей один номер. Удалите копии, но не выбирайте вслепую, какая из двух строк с одним идентификатором верна: обратитесь к источнику.

Шаг 3

Проверить пустые, почти пустые столбцы и столбцы с одним значением

Столбец без единого ответа обычно означает вопрос, который никто не увидел из-за фильтра формы. В столбце, который более половины оставили пустым, любое среднее рассчитывается на очень немногих наблюдениях. А столбец с одним значением во всех наблюдениях, например год опроса, ничего не даёт. Решите, что делать с каждым.

Шаг 4

Выявить коды отсутствия ответа и неподходящие значения

99 или −1, означающие «нет ответа» и попадающие в среднее как ответ, незаметно портят его. То же происходит со столбцом чисел, где кто-то написал «не знаю» (достаточно одного раза, чтобы программа прочитала столбец как текст), и с десятичными, записанными через запятую и через точку, 3,5 и 3.5, из которых в зависимости от языка программы одни читаются как числа, а другие как текст. Оставьте пустым то, на что не ответили, перенесите текстовые ответы в другой столбец и используйте один десятичный разделитель.

Шаг 5

Исправить в источнике, проверить снова и задокументировать

Исправляйте в копии исходного файла, а не в оригинале: удалите копии, разберитесь с идентификаторами, оставьте пустым то, на что не ответили, унифицируйте десятичный разделитель и уберите ненужные столбцы. Оставьте одну строку на наблюдение и один столбец на переменную. Сохраните исправленную версию под другим именем и запишите, что вы изменили (какие строки удалили и почему, какие коды сделали пустыми), чтобы это можно было объяснить и повторить.

Другие способы

Это можно сделать вручную в таблице (фильтры, сортировка и сводные таблицы для подсчёта странных значений), в OpenRefine для очистки и преобразования или скриптом на R или Python.

HILO удобен для первой быстрой проверки: он работает в браузере, ничего не нужно устанавливать, не требует регистрации, и файл не покидает ваш компьютер. Другой инструмент лучше, если нужно исправлять данные внутри программы, оставить очистку в повторяемом скрипте или работать с очень большими базами.

Проверьте свою базу

Загрузите Excel или CSV и через несколько секунд посмотрите список найденного в HILO.

Обновлено

Другие руководства

Как измерить согласованность кодировщиков

Каппа Коэна за 5 шагов: кодировать раздельно, составить таблицу, подсчитать согласие, вычесть случайность и сообщить результат.

Как объединить две базы данных опроса

Выбрать между сложением и сопоставлением по идентификатору, проверить, что они измеряют одно и то же, объединить и проверить результат, за 5 шагов.

Как кодировать открытые ответы опроса

Прочитать выборку, составить категории, распределить ответы, проверить и перенести в базу, за 5 шагов.

Как операционализировать цели проекта через ваши переменные

Записать цели, составить перечень переменных, сопоставить их, определить показатели и признать, чего не хватает, за 5 шагов.

Как построить проект по логической рамке или теории изменений

Определить проблему, упорядочить логическую цепочку, объяснить каждое звено, определить показатели и записать допущения, за 5 шагов.

Как кодировать качественное интервью

Прочитать, отметить фрагменты, начать с имеющихся категорий, упорядочить кодовую книгу и извлечь цитаты, за 5 шагов.

Как проверить диссертацию, курсовую или отчёт перед сдачей

Выбрать, что проверять, собрать сказанное о каждой теме, проверить связность, исправить на месте и построить схему структуры, за 5 шагов.

Как связать программу с задачами ЦУР

Выбрать цели, прочитать задачи, увидеть, где их рассматривает документ, оценить насколько и решить, чего не хватает, за 5 шагов.

Как проверить соответствие документа списку требований

Составить список, проверить его, найти каждый пункт в документе, отличить выполненное от неполного и исправить, за 5 шагов.

Как быстро проверять рефераты, практические работы и экзамены

Определить понятия, создать папку курса, собрать каждое понятие в каждой работе, прочитать фрагменты и подготовить обратную связь, за 5 шагов.

Вероятностная выборка: как рассчитать объём выборки

Что это такое, её виды и пошаговый калькулятор: совокупность, уровень доверия, погрешность, страты и готовый абзац для методологии.