
Кажется, что из каждого утюга говорят про Data Science? Вам не кажется! Об этом действительно говорят, в том числе что это, без сомнения, профессия будущего. За последние годы количество вакансий в этой области выросло в несколько раз. В этой статье я расскажу вам о том:
Приступим к разбору.
Data Scientist – кто это?

Data Scientist — это эксперт по анализу массивов данных. Обычно имеет математический склад ума, понимает как работает статистический анализ и умеет видеть и находить закономерности. По большому счету у них нет определенной специализации для работы, так как массивы данных существуют в любой сфере. Задача Data Scientist заключается в том, чтобы с помощью анализа данных создавать модели для совершенствования рабочих процессов.
Чем занимаются и что делают Data Scientist?

Вне зависимости от специфики бизнеса, каждый специалист по Big Data занимается примерно одинаковыми вещами:
- Сбор больших массивов данных и видоизменение их для удобной работы;
- Решение бизнес-задач с помощью анализа данных;
- Работа с языками программирования: SAS, R и Python;
- Работа со статистикой;
- Аналитика, в том числе машинное обучение и текстовая аналитика;
- Выявление закономерностей, которые помогают достигнуть конечного бизнес-результата.
А уже исходя из специализации в результате работы получаются модели прогнозирующие поведение пользователей в сети, погоды, курсов валют. Рекомендации музыки и фильмов, исходя из ваших предпочтений — все это тоже Data Science.
Для эффективной работы хороший специалист должен знать:
- статистику и машинное обучение;
- языки программирования SAS, R или Python;
- базы данных MySQL и Postgres;
- технологии визуализации данных и отчетности;
- Hadoop and MapReduce.
Как бы сложно это не звучало, всему можно научиться, причем довольно быстро. Но об этом позже, а пока поговорим про то, где может работать Data Scientist и сколько им за это платят.
Зарплата Data Scientist

Если я скажу что Data Scientist работать можно везде — я не преувеличу. Нет такой сферы бизнеса, где бы нельзя было бы применить анализ данных. Фриланс, remote или работа в офисе — любой вариант доступен. Что же касается зарплаты, то здесь даже младший специалист получает больше, чем среднестатистический россиянин.
По данным hh.ru на ноябрь 2019 года получилась вот такая картина:
- Москва: от 120 000 до 230 000 рублей;
- Санкт-Петербург: от 70 000 до 180 000 рублей;
- Регионы: от 40 000 до 120 000 рублей.
Очень много специалистов требуется в банковскую сферу, а это чаще всего подразумевает такие плюшки как белая зарплата, ДМС и официальный отпуск. Многие компании предлагают работать удаленно, поэтому если вы хороший спец, то не важно где вы проживаете — работать можно и на столичного работодателя.
Как стать Data Scientist: где учиться?
Мы подошли к самой главной части — где и как можно выучиться на специалиста по Big Data. Здесь пожалуй будет самый разнообразный топ онлайн школ предлагающих обучение. Поехали:
Длительность: 15 месяцев.
Формат: вебинары + воркшопы + домашнее задание + работа с наставником.
Содержание: в программе 3 блока: начальный уровень анализа данных и машинного обучения, средний уровень соответственно и дипломная работа для онлайн кинотеатра ivi.ru.
Преподаватели: ведущие специалисты по Data Science в Skillbox, ivi.ru, специалисты по Deep Learning в NVIDIA , и преподаватели ВУЗов.
Ключевые навыки:
- Владение языком программирования Python для анализа данных и применения алгоритмов машинного обучения;
- R и знание основных библиотек;
- Работа с различными источниками данных: CSV, XML и XLS;
- Знание основ SQL и NoSQL баз данных;
- Организация и проведение А/B-тестирования;
- Создание аналитических панелей (фреймворки Dash и Shiny).
Инструменты: R, Dash, Shiny, Jupyter, Numpy, Scipy, Pandas, Matplotlib, Scikit-learn, Python, SQL.
Цена:
- полная — 135 000 рублей;
- рассрочка без первого взноса — 3750 рублей.
Бонусы: первый платеж через 6 месяцев после начала учебы, гарантированное трудоустройство, 2 месяца изучения английского языка в подарок.
Итоги: диплом + портфолио + гарантированное трудоустройство.
Ссылка на курс: перейти к обучению >>>
Резюме: Курс, который позволит вам с нуля освоить профессию Data Scientist и уже спустя полгода начать работать и при этом продолжать обучение
2. Курс «Data Scientist» от Нетологии

Длительность: 9 месяцев.
Формат: вебинары + очные лекции + домашнее задание + работа с наставником.
Содержание:
- SQL и получение данных;
- Python и математика для анализа данных;
- Feature engineering и предобработка данных;
- Построение модели;
- Работа с заказчиком;
- Рекомендательные системы;
- Распознавание изображений, машинное зрение;
- Обработка естественного языка (NLP).
Преподаватели: ведущие специалисты по Data Science в компаниях Сбербанк, ндекс, Дом. ру и тд, и преподаватели ВУЗов.
Ключевые навыки:
- Сбор и подготовка данных для анализа
- Создание нейросетей
- Генерация текстов и изображений
- Создание рекомендательных систем
- Выбор и реализация алгоритма под задачу
- Выбор и создание фич для модели
Инструменты: Pandas, Scikit-learn, OpenCV, PostgreSQL, NLTK, Tensorflow
Цена:
- полная — 200 000 рублей;
- со скидкой — 180 000 рублей
- рассрочка без первого взноса — 16 667 рублей.
Бонусы: помощь в трудоустройстве
Итоги: диплом + портфолио
Ссылка на курс: перейти к обучению >>>
Резюме: Отличный курс для тех, кто уже в теме IT и хочет проапгрейдить свои скиллы.
3. «Специализация Data Science» от SkillFactory

Длительность: 12 месяцев
Формат: видеоуроки + домашнее задание + работа с наставником
Содержание:
- Основы программирования на Python + Python для анализа данных;
- Mатематика и статистика для Data Science;
- Практический Machine Learning;
- Deep learning и нейронные сети;
- Data Engineering;
- Менеджмент для Data Science;
Преподаватели: ведущие специалисты по Data Science топовых компаний, преподаватели ВУЗов.
Ключевые навыки:
- Программирование на Python;
- Анализ данных в Pandas и NumPy;
- Визуализация, очистка данных и feature engineering;
- Работа c файлами, html-страницами и API;
- Data Science в production;
- Оценка эффективности моделей в реальных бизнес-задачах;
- Управление data science проектом и командой;
- Общение с заказчиками.
Инструменты: Python, Tensorflow, Keras, Numpy, Pandas и тд.
Цена:
- полная — 150 000 рублей;
- со скидкой — 90 000 рублей;
- рассрочка — 3800 рублей.
Бонусы: помощь в трудоустройстве.
Итоги: диплом + портфолио.
Резюме: курс, на котором вы с нуля освоите Data Science и научитесь работе с базовыми инструментами.
4. «Факультет искусственного интеллекта» от GeekBrains

Длительность: 18 месяцев.
Формат: видеоуроки + домашнее задание + работа с наставником.
Содержание: курс содержит 6 основных блоков:
- Создание инфраструктуры;
- Сбор данных и статистическое исследование;
- Математика для Data Scientist-a;
- Машинное обучение. Совместно с компанией МегаФон;
- Нейронные сети;
- Задачи искусственного интеллекта. Совместно с компанией NVIDIA.
И еще пять курсов которые нужно освоить помимо основных:
- Спортивный анализ данных. Платформа Kaggle.
- Как студенту GeekUniversity найти свою первую работу?
- История развития искусственного интеллекта. Видеокурс.
- Алгоритмы и структуры данных на Python. Интерактивный курс.
- Введение в высшую математику.
Преподаватели: ведущие специалисты по Data Science топовых компаний, преподаватели ВУЗов.
Ключевые навыки:
- Навыки программирования на Python;
- Знание алгоритмов и структур данных;
- Умение работать в Linux и операционных системах;
- Навыки проектирования архитектуры, использования шаблонов проектирования: singletone, adapter, factory, dependency injection и пр.
- Умение писать «чистый» код;
- Навыки работы с нейронными сетями;
- Методы машинного обучения;
- Умение решать задачи машинного зрения и распознавания естественного языка;
- Умение применять теорию вероятности и математическую статистику;
- Знание линейной алгебры, математического анализа и методов оптимизации;
Инструменты: Python, Tensorflow, Keras, PyTorch, Numpy, Pandas, Matplotlib, Scikit-learn, Jupyter, SQL, nosql, Linux, HTML, https, RESTful API.
Цена:
Бонусы: 3 месяца изучения английского языка, английский язык для IT-специалистов и доступ в GeekClub.
Итоги: диплом + портфолио
Резюме: очень объемный курс, который позволит почти с нуля освоить Data Science. Рекомендуется перед началом закончить подготовительные курсы.
Будущее за вами!
Выбирая обучение профессии Data Scientist вы выбираете будущее. Но отдавайте себе отчет в том, что это все же программирование, и для него необходимо обладать определенным складом ума. Но в любом случае после обучения, вас ждет огромный выбор вакансий, потому что пока на спецов по Big Data есть большой спрос. Поэтому не теряйте время и вливайтесь!
В последнее время на слуху два термина: биг дата и дата-саенс. Сегодня — что это такое и зачем нужно.
Большие данные
Начнём с простого — big data, или «большие данные». Это модный термин, обозначающий огромные массивы данных, которые накапливаются в каких-то больших системах.
Например, человек в Москве совершает 5-6 покупок по карте в день, это около 2 тысяч покупок в год. В стране таких людей, допустим, 80 миллионов. За год это 160 миллиардов покупок. Данные об этих покупках — биг дата.
В банках какой-то страны каждый день совершаются сотни тысяч операций: платежи, переводы, возвраты и так далее. Данные о них хранятся в центральном банке страны — это биг дата.
Ещё биг дата: данные о звонках и смс у мобильного оператора; данные о пассажиропотоке на общественном транспорте; связи между людьми в соцсетях, их лайки и предпочтения; посещённые сайты; данные о покупках в конкретном магазине (которые хранятся в их кассе); данные с шагомеров и тайм-трекеров; скачанные приложения; открытые вами файлы и программы… Короче, любой большой массив данных.
Почему появился такой термин: в конце девяностых компании в США стали понимать, что сидят на довольно больших массивах данных, с которыми непонятно что делать. И чем дальше — тем этих данных больше.
Раньше данные были, условно говоря, по кредитным картам, телефонным счетам и из профильных государственных ведомств; а теперь чем дальше — тем больше всего считается. Супермаркеты научились вести сверхточный учёт склада и продаж. Полиция научилась с высокой точностью следить за машинами на дороге. Появились смартфоны, и вообще вся человеческая жизнь стала оцифровываться.
И вот — данные вроде есть, а что с ними делать? Тут на сцену выходит дата-сайенс — дисциплина о больших данных.
Минутка занудства. Все знают, что правильно говорить «биг дэйта», потому что именно так произносят носители языка. Но в русском языке этот термин прижился с побуквенной транслитерацией — как написано, так и читаем. Поэтому — дата. Кстати, с сайентистами такого не произошло — они звучат так же, как в оригинале.
Дата-сайенс
Дата-сайентисты — люди, которые занимаются большими данными: находят закономерности и делают на их основе полезные для своей компании выводы.
Например, мы — управляющая компания магазина «Пятёрочка». В каком-то районе у нас открыто три магазина. Мы можем попросить дата-сайентиста проанализировать транзакции в наших магазинах и сделать прогноз, можно ли какие-то из них закрыть, сохранив общую выручку на прежнем уровне.
Или мы хотим открыть кофейню. У нас есть данные об общественном транспорте города, о положении кофеен в городе и стоимости аренды в разных домах. Мы можем попросить дата-сайентиста предсказать, где в городе не хватает кофеен относительно пассажирских потоков.
Допустим, мы мобильный оператор. Мы хотим сделать тариф «Юный хайпожор» для юных любителей отведать хайпа. Мы отдаём нашу клиентскую базу и данные о поведении клиентов дата-сайентисту, и тот считает нам экономику будущего тарифа и потенциальный объём рынка, а также помогает выделить самых голодных до хайпа людей.
Иногда эти ребята помогают с управлением в компаниях: они на основе данных пишут отчёты, которые показывают слабые места на производстве и дают рекомендации по их устранению. Или отвечают на вопросы из серии «Почему наши менеджеры так мало продают?» или «Где стоять продавцу-консультанту, чтобы к нему обращались чаще всего?».
Что знают и умеют дата-сайентисты
Вот начальный список навыков, знаний и умений, которые нужны любому дата-сайентисту для старта в работе.
Математическая логика, линейная алгебра и высшая математика. Без этого не получится построить модель, найти закономерности или предсказать что-то новое.
Есть те, кто говорит, что это всё не нужно, и главное — писать код и красиво делать отчёты, но они лукавят. Чтобы обучить нейронку, нужна математика и формулы; чтобы найти закономерности в данных — нужна математика и статистика; чтобы сделать отчёт на основе большой выборки данных — ну, вы поняли. Математика рулит.
Знание машинного обучения. Работа дата-сайентиста — анализ данных огромного размера, и вручную это сделать нереально. Чтобы было проще, они поручают это компьютерам. Поручить такую задачу — значит настроить готовую нейросеть или обучить свою. Поручить программисту обычно это нельзя — слишком много нужно будет объяснить и проконтролировать.
Программирование на Python и R. Мы уже писали, что Python — идеальный язык для машинного обучения и нейросетей. На нём можно быстро написать любую модель для первоначальной оценки гипотезы, поиска общих данных или простой аналитики.
R — язык программирования для статического анализа. Если вам нужно прикинуть, как лайки на странице зависят от количества просмотров или до какого места читатель гарантированно долистывает статью (чтобы поставить туда баннер), — R вам поможет. Но если вы не знаете математику — не поможет.
Умение получать и визуализировать данные. Не всем дата-сайентистам везёт настолько, что они сразу получают готовые наборы данных для обработки. Чаще всего они сами должны выяснить, где, откуда, как и сколько брать данных. Здесь обычные программисты им уже могут помочь — спарсить сайт, выкачать большую базу данных или настроить сбор статистики на сервере.
Второй важный навык в этой профессии — умение наглядно показать результаты работы. Какой толк в графиках, если никто, кроме автора, не понимает, что там нарисовано? Задача дата-сайентиста — представить данные наглядным образом, чтобы зрителю было легче сделать нужный вывод.
Как это выглядит в жизни
Дата-сайентист в современном понимании — очень молодая профессия. Компании уже поняли, что эти ребята помогут им заработать или сэкономить миллионы долларов, поэтому они создают для них новые отделы и рабочие места.
С другой стороны, такой набор знаний — редкость, поэтому дата-сайентистов сейчас на рынке очень мало: гораздо меньше, чем предложений о работе. Именно поэтому у них такие высокие зарплаты — компании сами борются за то, чтобы нанять такого специалиста.
Так как это направление только развивается, у многих программистов есть шанс попасть туда и работать аналитиком. Для этого нужно прокачивать умение писать код, математику и статистику. Если вы всё это уже знаете и умеете — можете попробовать себя в «профессии будущего».
В «Яндекс-практикуме» есть курс для аналитиков — это начало пути дата-сайентиста. Можно попробовать бесплатный урок и посмотреть, как вам — понравится или нет.
Data Scientist — специалист по обработке, анализу и хранению больших массивов данных, так называемых «Big Data». Профессия подходит тем, кого интересует физика, математика и информатика (см. выбор профессии по интересу к школьным предметам).
Data Science – наука о данных на стыке разных дисциплин: математика и статистика; информатика и компьютерные науки; бизнес и экономика.
(С.Мальцева, В.Корнилов НИУ «ВШЭ»)
Профессия новая, актуальная и чрезвычайно перспективная. Сам термин «Big Data» появился в 2008 году. А профессия Data Scientist — «Учёный по данным» официально зарегистрирована как академическая и межотраслевая дисциплина в начале 2010 г. Хотя первое упоминание термина «data science” было отмечено в книге Петера Наура 1974 г., но в ином контексте.
Необходимость возникновения такой профессии была продиктована тем, что когда речь идет об Ультра Больших Данных, массивы данных оказываются слишком велики для того, чтобы обрабатывать их стандартными средствами математической статистики. Каждый день через сервера компаний всего мира проходит тысячи петабайт ( 10 15 байт =1024 терабайт) информации. Кроме таких объёмов данных, проблему усложняет их разнородность и высокая скорость обновления.
Массивы данных подразделяют на 3 вида:
структурированные (например, данные кассовых аппаратов в торговле);
полуструктурированные (сообщения E-mail);
неструктурированные (видеофайлы, изображения, фотографии).
Большинство данных Big Data является неструктурированными, что значительно усложняет их обработку.
По отдельности специалист по статистике, системный аналитик или бизнес-аналитик не может решить задачи с такими объёмами данных. Для этого нужен человек с междисциплинарным образованием, компетентный в математике и статистике, экономике и бизнесе, информатике и компьютерных технологиях.
Главная задача Data Scientist — умение извлекать необходимую информацию из самых разнообразных источников, используя информационные потоки в режиме реального времени; устанавливать скрытые закономерности в массивах данных и статистически анализировать их для принятия грамотных бизнес-решений. Рабочим местом такого специалиста является не 1 компьютер и даже не 1 сервер, а кластер серверов.
Особенности профессии
В работе с данными Data Scientist использует различные способы:
- статистические методы;
- моделирование баз данных;
- методы интеллектуального анализа;
- приложения искусственного интеллекта для работы с данными;
- методы проектирования и разработки баз данных.
Должностные обязанности data scientist зависят от сферы его деятельности, но общий перечень функций выглядит следующим образом:
- сбор данных из разных источников для последующей оперативной обработки;
- анализ поведения потребителей;
- моделирование клиентской базы и персонализация продуктов;
- анализ эффективности внутренних процессов базы;
- анализ различных рисков;
- выявление возможного мошенничества по изучению сомнительных операций;
- составление периодических отчетов с прогнозами и презентацией данных.
Data Scientist, как настоящий учёный, занимается не только сбором и анализом данных, но и изучает их в разных контекстах и под разными углами, подвергая сомнению любые предположения. Важнейшее качество специалиста по данным — это умение видеть логические связи в системе собранной информации, и на основе количественного анализа разрабатывать эффективные бизнес-решения. В современном конкурентном и быстро меняющемся мире, в постоянно растущем потоке информации Data Scientist незаменим для руководства в плане принятия правильных бизнес-решений.

Плюсы и минусы профессии
Плюсы
- Профессия не только чрезвычайно востребованная, но существует острый дефицит специалистов такого уровня. Поэтому так стремительно и широко финансируются и развиваются факультеты при самых престижных вузах по подготовке специалистов по данным. В России также растет спрос на Data Scientist.
- Высокооплачиваемая профессия.
- Необходимость постоянно развиваться, идти в ногу с развитием IT-технологий, самому создавать новые методы обработки, анализа и хранения данных.
Минусы
- Не каждый человек сможет освоить эту профессию, нужен особый склад ума.
- В процессе работы могут не сработать известные методы и более 60% идей. Множество решений окажется несостоятельным и нужно иметь большое терпение, чтобы получить удовлетворительные результаты. Учёный не имеет права сказать: «НЕТ!» проблеме. Он должен найти способ, который поможет решить поставленную задачу.
Место работы
Data Scientist занимают ключевые позиции в:
- технологических отраслях (системы автонавигации, производство лекарств и т.д.);
- IT-сфере (оптимизация поисковой выдачи, фильтр спама, систематизация новостей, автоматические переводы текстов и многое другое);
- медицине (автоматическая диагностика болезней);
- финансовых структурах (принятие решений о выдаче кредитов) и т.д;
- телекомпаниях;
- крупных торговых сетях;
- избирательных кампаниях.
Важные качества
- аналитический склад ума;
- трудолюбие;
- настойчивость;
- скрупулёзность, точность, внимательность;
- способность доводить исследования до конца, несмотря на неудачные промежуточные результаты;
- коммуникабельность;
- умение объяснить сложные вещи простыми словами;
- бизнес-интуиция.
Профессиональные знания и навыки:
- знание математики, матанализа, математической статистики, теории вероятностей;
- знание английского языка;
- владение основными языками программирования, у которых имеются компоненты для работы с большими массивами данных: Java (Hadoop), C ++ (BigARTM, Vowpel Wabbit, XGBoost), Python (Matplotlib, Numpy, Scikit, Skipy);
- владение статистическими инструментами — SPSS, R, MATLAB, SAS Data Miner, Tableau;
- основательное знание отрасли, в которой работает data scientist; если это фармацевтическая отрасль, то необходимо знание основных процессов производства, компонентов лекарств;
- главный базовый навык специалиста по data scientist — организация и администрация кластерных систем хранения больших массивов данных;
- знание законов развития бизнеса;
- экономические знания.

Обучение на Data Scientist-а (Образование)
Профессию Data Scientist в России можно получить и совершенствовать по специальным программам дополнительного образования, организуемым компаниями, которые занимаются исследованиями в этой сфере.
Курсы
- МГУ им. Ломоносова, Факультет вычислительной математики и кибернетики, специальная образовательная программа Mail.Ru Group «Техносфера», с обучением методам интеллектуального анализа большого объема данных, программированию на С ++ , многопоточному программированию и технологии построения систем информационного поиска.
- МФТИ, Кафедра анализа данных.
- Факультет бизнес-информатики в НИУ ВШЭ готовит системных аналитиков, проектировщиков и внедренцев сложных информационных систем, организаторов управления корпоративными информационными системами.
- Школа анализа данных Яндекс.
- Университет в Иннополисе, университет Данди, университет Южной Калифорнии, Оклендский университет, Вашингтонский университет: Магистратуры по направлению Big Data.
- Бизнес-школа Имперского колледжа Лондона, Магистратура по науке о данных и менеджменту.
Как и в любой профессии здесь важно самообразование, несомненную пользу которому принесут такие ресурсы, как:
- онлайн-курсы ведущих университетов мира COURSERA;
- канал машинного обучения MASHIN LEARNING;
- подборка курсов edX;
- курсы Udacity;
- курсы Dataquest, на которых можно стать настоящим профи в Data Science;
- 6-шаговые курсы Datacamp;
- обучающие видео O’Reilly;
- скринкасты для начинающих и продвинутых Data Origami;
- ежеквартальная конференция специалистов Moskow Data Scients Meetup;
- соревнования по анализу данных Kaggle.сom
Оплата труда
Зарплата на 13.11.2019
Профессия Data Scientist является одной из самых высокооплачиваемых. Информация с сайта hh.ru — зарплата в месяц составляет от $8,5 тыс. до $9 тыс. В США оплата труда такого специалиста составляет $110 тыс. — $140 тыс. в год.
По результатам опроса исследовательского центра Superjob зарплата специалистов Data Scientist зависит от опыта работы, объёма обязанностей и региона. Начинающий специалист может рассчитывать на 70 тыс. руб. в Москве и 57 тыс. руб. в Санкт-Петербурге. С опытом работы до 3 лет зарплата повышается до 110 тыс. руб. в Москве и 90 тыс. руб. в Санкт-Петербурге. У опытных специалистов с научными публикациями зарплата может достигать 220 тыс. руб. в Москве и 180 тыс. руб. в Петербурге.
Ступеньки карьеры и перспективы
Профессия Data Scientist сама по себе является высоким достижением, для которой требуются серьёзные теоретические знания и практический опыт нескольких профессий. В любой организации такой специалист является ключевой фигурой. Чтобы достичь этой высоты надо упорно и целенаправленно работать и постоянно совершенствоваться во всех сферах, составляющих основу профессии.
Интересные факты о профессии
Про Data Scientist шутят: это универсал, который программирует лучше любого специалиста по статистике, и знает статистику лучше любого программиста. А в бизнес-процессах разбирается лучше руководителя компании.
ЧТО ТАКОЕ «BIG DATA» в реальных цифрах?
- Через каждые 2 дня объём данных увеличивается на такое количество информации, которое было создано человечеством от Рождества Христова до 2003 г.
- 90% всех существующих на сегодня данных появились за последние 2 года.
- До 2020 г. объём информации увеличится от 3,2 до 40 зеттабайт. 1 зеттабайт = 10 21 байт.
- В течение 1 минуты в сети Facebook загружается 200 тысяч фото, отправляется 205 млн. писем, выставляется 1,8 млн. лайков.
- В течение 1 секунды Google обрабатывает 40 тыс. поисковых запросов.
- Каждые 1,2 года удваивается общий объём данных в каждой отрасли.
- К 2020 г. объём рынка Hadoop-сервисов вырастет до $50 млрд.
- В США в 2015 г. создано 1,9 млн. рабочих мест для специалистов, работающих на проектах Big Data.
- Технологии Big Data увеличивают прибыль торговых сетей на 60% в год.
- По прогнозам объём рынка Big Data увеличится до $68,7 млрд. в 2020 г. по сравнению с $28,5 млрд. в 2014 г.
Несмотря на такие позитивные показатели роста, бывают и ошибки в прогнозах. Так, например, одна из самых громких ошибок 2016 года: не сбылись прогнозы по поводу выборов президента США. Прогнозы были представлены знаменитыми Data Scientist США Нейт Сильвером, Керк Борном и Биллом Шмарзо в пользу Хиллари Клинтон. В прошлые предвыборные компании они давали точные прогнозы и ни разу не ошибались.
В этом году Нейт Сильвер, например, дал точный прогноз для 41 штата, но для 9 штатов — ошибся, что и привело к победе Трампа. Проанализировав причины ошибок 2016 года, они пришли к выводу, что:
- Математические модели объективно отражают картину в момент их создания. Но они имеют период полураспада, к концу которого ситуация может кардинально измениться. Прогнозные качества модели со временем ухудшаются. В данном случае, например, сыграли свою роль должностные преступления, неравенство доходов и другие социальные потрясения. Поэтому модель необходимо регулярно корректировать с учётом новых данных. Это не было сделано.
- Необходимо искать и учитывать дополнительные данные, которые могут оказать существенное влияние на прогнозы. Так, при просмотре видео митингов в предвыборной кампании Клинтон и Трампа, не было учтено общее количество участников митингов. Речь шла приблизительно о сотнях человек. Оказалось, что в пользу Трампа на митинге присутствовало 400-600 человек в каждом, а в пользу Клинтон — всего 150-200, что и отразилось на результатах.
- Математические модели в предвыборных кампаниях основаны на демографических данных: возраст, раса, пол, доходы, статус в обществе и т.п. Вес каждой группы определяется тем, как они голосовали на прошлых выборах. Такой прогноз имеет погрешность 3-4 % и работает достоверно при большом разрыве между кандидатами. Но в данном случае разрыв между Клинтон и Трампом был небольшим, и эта погрешность оказала существенное влияние на результаты выборов.
- Не было учтено иррациональное поведение людей. Проведенные опросы общественного мнения создают иллюзию, что люди проголосуют так, как ответили в опросах. Но иногда они поступают противоположным образом. В данном случае следовало бы дополнительно провести аналитику лица и речи, чтобы выявить недобросовестное отношение к голосованию.
В целом, ошибочный прогноз оказался таковым по причине небольшого разрыва между кандидатами. В случае большого разрыва эти погрешности не имели бы такого решающего значения.






