Скачать книгу

значений в наборе данных.

      4. Работа с несбалансированными данными:

      – Несбалансированность данных возникает, когда один класс или категория значительно более распространены, чем другие в наборе данных.

      – Несбалансированные данные могут привести к предвзятым прогнозам, когда сеть склоняется в пользу класса большинства.

      – Методы устранения несбалансированных данных включают передискретизацию класса меньшинства, недовыборку класса большинства или использование алгоритмов, специально разработанных для несбалансированных данных, таких как SMOTE (метод синтетической избыточной выборки меньшинств).

      5. Инженерия функций:

      – Проектирование признаков включает в себя преобразование или создание новых объектов из существующего набора данных для повышения предсказательной силы сети.

      – Такие методы, как полиномиальные признаки, термины взаимодействия или преобразования, специфичные для предметной области, могут применяться для получения более информативных признаков.

      – Проектирование функций требует знания предметной области и понимания проблемы.

      Правильное представление данных, масштабирование признаков, обработка отсутствующих данных, работа с несбалансированными данными и продуманное проектирование признаков являются важными шагами в подготовке данных для обучения нейронной сети. Эти процессы гарантируют, что данные находятся в подходящей форме, чтобы сеть могла эффективно учиться и делать точные прогнозы.

      Методы предварительной обработки данных

      Предварительная обработка данных играет жизненно важную роль в подготовке данных к обучению нейронной сети. Он включает в себя ряд методов и шагов по очистке, преобразованию и нормализации данных. В этой главе мы рассмотрим некоторые распространенные методы предварительной обработки данных, используемые в нейронных сетях:

      1. Очистка данных:

      – Очистка данных включает в себя обработку отсутствующих значений, выбросов и несоответствий в наборе данных.

      – Отсутствующие значения могут быть вменены с использованием таких методов, как среднее условное исчисление, медианное условное исчисление или условное исчисление на основе статистических моделей.

      – Выбросы, которые представляют собой экстремальные значения, отклоняющиеся от большинства данных, могут быть обнаружены и либо удалены, либо обработаны с помощью таких методов, как Winsorization или замена статистически правдоподобными значениями.

      – Несогласованные данные, такие как конфликтующие записи или проблемы с форматированием, могут быть устранены путем проверки и стандартизации данных.

      2. Нормализация и стандартизация данных:

      – Нормализация и стандартизация данных – это методы, используемые для масштабирования числовых признаков до аналогичного диапазона.

      – Нормализация масштабирует данные до диапазона от 0 до 1, в то

Скачать книгу