Ярмарка анализа данных: как сервис Kaggle привлёк 150 тысяч специалистов и крупнейшие компании

Big Data / Технологии
автор: Арина Сухарева  19 марта 2014

Определить ключевые точки лиц на фотографиях, классифицировать цифры, написанные от руки, распознать тему 60 тысяч изображений, проанализировать возможный сценарий выживания «Титаника», проследить нейронные связи по флюоресцентным снимкам активности нервных клеток — с сервисом Kaggle аналитиков данных ждёт масса увлекательных задач.

Kaggle — интернет-платформа, помогающая объединиться математикам и коммерческим компаниям, желающим эффективно применять статистические данные. Более 150 тысяч статистиков и дата-майнеров, участники сообщества Kaggle, соревнуются за денежные вознаграждения от нескольких долларов до трёх миллионов.

Участники Kaggle Community

Участники Kaggle Community.

Список клиентов компании впечатляет: среди них General Electric, Facebook, NASA, Microsoft, Ford, Tesco, фармацевтические компании Merck, Boehringer и Pfizer, несколько нефтегазовых компаний.

Работает Kaggle следующим образом: компания формулирует задачу, где решение или оптимизация подразумевает анализ данных, определяет приз для победителя и сроки, затем отдельные аналитики или команды берутся за проект и предлагают свои лучшие идеи и разработки. Компании остаётся лишь выбрать и наградить победителя.

Изначальная идея состояла в том, что любой желающий на основе набора данных, предоставленных бизнесом, может предложить идею или решение по рационализации процессов, причём никто не будет оценивать образование, квалификацию и резюме участников, а только лишь эффективность идеи. Лучшие статистики сражаются за первые места в открытом списке лидеров, что подогревает интерес участников. На доске лидеров множество русских имён, кроме того, хватает бразильцев и – традиционно — индусов. На сайте Kaggle есть форум, где участники обмениваются идеями и советами, обсуждают ошибки и наработки, ищут команду или партнёров для совместной работы и, конечно, жалуются на превратности судьбы.

Создатели Kaggle гордятся тем, что Facebook доверила им свой рекрутинговый проект: компания разыскивает потенциальных сотрудников, наблюдая за ходом конкурсов. Facebook уже трижды использовала Kaggle в качестве полигона для испытания будущих штатных аналитиков данных. В последнем конкурсе аналитики взялись за базу данных сервиса вопросов и ответов Stack Exchange. Задача состояла в том, чтобы по заголовку и формулировке вопроса определить теги или ключевые слова для каждого тикета.

Самый крупный приз за время существования Kaggle, $3 млн, предлагала медицинская компания Heritage Provider Network за создание алгоритма, который позволил бы на основе имеющихся медицинских записей найти пациентов, находящихся в группе риска, чтобы компания могла проактивно предложить им профилактическую программу.

В одном из последних конкурсов Kaggle перед участниками стояла задача создать алгоритм, предсказывающий, где, когда и насколько серьёзная вспышка гриппа произойдёт в выбранный период времени. Заказчик, компания Genentech, занимающаяся биотехнологиями, поставила на кон $120 тыс.

Для General Electric Kaggle ведёт постоянный проект по оптимизации траекторий полёта коммерческих самолётов с целью сокращения расхода топлива и задержек рейсов. GE заказала разработать настраиваемый алгоритм, который предоставляет пилоту информационную характеристику полёта в реальном времени, позволяющую ему более эффективно управлять ходом выполнения рейса.

На момент написания статьи Kaggle проводит 13 конкурсов, причём только в половине из них борьба идёт за денежное вознаграждение, в других в качестве приза предлагаются «знания» — то есть работа будет делаться бесплатно ради ценного опыта, а победитель специального конкурса с пометкой «swag» получит iPad Air. Судя по числу конкурсов без вознаграждения, для многих денежный приз не главное.

В феврале 2013 года на сайте начался конкурс, в котором победителя ждёт трудоустройство в Walmart, американский ритейлер с крупнейшей в мире розничной сетью. Соискателям предоставляются данные продаж 45 магазинов в различных регионах, и задача состоит в том, чтобы спрогнозировать объёмы продаж в каждом отделе каждого магазина. Интересно, что в задании в числе параметров для анализа есть данные о температуре в данной местности, ценах на бензин, уровне безработицы, специальных предложениях сети, а также выходных и праздничных днях. Известно, что праздники, такие как Рождество или День благодарения, влияют на продажи, но в каких отделах магазина продажи вырастут, а в каких — упадут? При подведении итогов конкурса за верные прогнозы на праздничные недели начислят в пять раз больше очков. Желающих работать с одним из крупнейших в мире набором данных хватает: в конкурсе участвует 231 команда.

На волне популярности добычи сланцевого газа в США, набирающей обороты уже несколько лет, в Kaggle открыли отдельное направление, специализирующееся на решениях в области энергетики. Компания взялась за анализ больших объёмов как общедоступных, так и закрытых данных, чтобы определить наиболее удачные буровые точки для добычи сланцевого газа, а также программу разработки скважин — они утверждают, что использование аналитических моделей решает эту задачу точнее и быстрее, чем классическая разведка и геолого-геофизическое моделирование, а также помогает принимать более эффективные решения в процессе эксплуатации месторождений.

В начале 2013 года открылся дополнительный сервис Kaggle Connect. С его помощью компании получали платные консультации у специалистов, отобранных самой Kaggle из списка наиболее успешных участников конкурсов. Однако в конце года эта инициатива была закрыта (вероятно, из-за высокой цены — $300 за час) — и компания полностью вернулась к конкурсной схеме.

Идея Kaggle посетила Энтони Голдблума в 2007 году, когда он работал в Резервном банке Австралии, прогнозируя с помощью эконометрических моделей тенденции в экономике для планирования государственного бюджета и политических стратегий. Примерно в то же время поставщик фильмов и сериалов Netflix организовал конкурс, в котором каждый желающий мог попытаться улучшить на 10% точность прогнозирующего алгоритма рекомендаций на основе оценок пользователей и получить главный приз — миллион долларов. Тем временем Голдблум отправился в Лондон на трёхмесячную стажировку в журнале The Economist. Он размышлял о том, что компании, с которыми он общался, не в полной мере используют имеющуюся в их распоряжении информацию, тогда как она могла бы помочь им принимать более эффективные для бизнеса решения, будучи обработанной статистическими методами. Тогда он решил бросить работу экономиста и полностью погрузиться в собственное начинание.

Kaggle открылась в 2010 году в Мельбурне с конкурсом на создание алгоритма, прогнозирующего ход голосования на Евровидении. К началу 2011-го проект набрал в США популярность большую, чем в Австралии, поэтому его основатель регулярно ездил в Сан-Франциско, а к концу года окончательно перебрался в Кремниевую долину. Вскоре инвестиции в проект составляли уже $11 млн. Голдблум говорит, что представители компаний из списка Fortune зачастую оценивают потенциальных партнёров по критерию надёжности инвесторов. С этой точки зрения Kaggle на высоте: в числе инвесторов — основатель PayPal Макс Левчин, венчурная фирма Khosla Ventures, специализирующаяся на инвестициях в технологии размером не менее $1 млрд, ведущий экономист Google Хал Вариан и швейцарский венчурный фонд Нила Раймера Index Ventures, финансировавший Skype и Betfair.

Сообщество участников конкурсов Kaggle росло быстро: 27 тысяч на начало 2012 года, 100 тысяч в 2013 году и уже более 150 тысяч сейчас. Тем не менее Kaggle — далеко не самая масштабная площадка для краудсорсинга интеллектуальных талантов на конкурсной основе: взять хотя бы Innocentive, где пул участников превышает 300 тысяч, или основанный в 1995 году фонд поддержки инноваций X Prize. Kaggle, в отличие от них, служит скорее для решения задач бизнеса, нежели научных открытий, и специализируется именно на «больших данных».

Очевидно, что, несмотря на внушительные денежные призы, компаниям выгоднее привлекать экспертов именно на конкурсной основе, поскольку они получают результат быстрее и качественнее, чем если бы наняли команду специалистов. Во-первых, конкурсы привлекают к специальным проблемам широкую аудиторию, в них участвуют представители разных областей знаний, которые могут привнести новый и нестандартный взгляд на задачу; во-вторых, соревновательный дух, наработки конкурентов и отсутствие гарантированной оплаты двигают процесс значительно быстрее. Кроме того, специалистам и группам во время работы над проектом приходится самим финансировать свою деятельность, а инициатор конкурса, получив разные варианты решения задачи, выплатит вознаграждения только одному победителю.

Добровольцы, в свою очередь, получают шанс пополнить портфолио и приумножить опыт работы, имея дело с совершенно реальными данными, увидеть реализацию собственной идеи и, конечно, сделать мир немного лучше и рациональнее — немаловажный стимул для статистиков и оптимизаторов.

Поделиться
Поделиться
Tweet
Google
 
Читайте также
LaCie 12big – 96 быстрых терабайт на столе
LaCie 12big – 96 быстрых терабайт на столе
Intel представила новую платформу для IoT
Intel представила новую платформу для IoT
Технологии резервного копирования больших данных
Технологии резервного копирования больших данных
Хостинг "ИТ-ГРАД"
© ООО "Компьютерра-Онлайн", 1997-2017
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.
«Партнер Рамблера» Почта защищена сервером "СПАМОРЕЗ" Хостинг "Fornex"