Инструментарий

Что Data mining может, а чего нет?

0

Недавно натолкнулся на очень интересное интервью с Питером Фэйдером (Peter Fader) с редактором журнала CIO Insight Алланом Алтером (Allan Alter), мастером по количественным ислледованиям в маркетинге бизнес-школы Wharton, который обращается к IT-директорам компаний: «хватит накапливать множество абонентских данных и не правильно применять алгоритмы Data mining-а».

Несмотря на то, что интервью бралось еще в далеком 2007 году, мне оно кажется очень актуальным, тем более после появления новых трендов, таких как Big Data. Я уже ни раз говорил о том, что не всегда продвинутый инструментарий позволяет получить гораздо лучшие результаты при аналитической обработке данных, чем при построении простейших моделей в том же Excel. После прочтения этого интервью я еще больше укрепился в этом мнении.

Статья на столько понравилась, что решил сделать перевод для читателей блога.

CIO INSIGHT: Питер, расскажите о сильных и слабых сторонах использования инструментария Data Mining и Business Intelligence.

FADER: 

Инструментарий Data mining очень хорош для решения классификационных задач, например, для понимания чем одна группа клиентов отличается от другой. Почему у одних людей высокий кредитный риск, а других низкий. Что заставляет людей принимать сторону республиканцев, а другую демократов. Когда мы решаем подобные задачи, я думаю, что лучшего инструмента чем Data Mining не найти и применение инструментария в таких случаях действительно. Другой важный вопрос, про который не стоит забывать, не то попали или нет они в определенную группу, а когда произойдут, какие-то интересующие нас события в будущем. Как долго клиент будет потенциальным, пока не станет действующим? Когда произойдет следующая покупка клиента? Мы очень часто задаемся временными вопросами, и я думаю, что в таких задачах инструментарий Data mining является достаточно слабым. Data mining хорош при ответе на вопрос — произойдет или нет, но очень слаб при ответе на вопрос — когда это случится.

Data mining может быть хорош в задачах, которые чувствительны к сезону, таких как например, похож ли этот ритейлер на такого, который вероятно мог бы заказать определенный товар в течение Рождества. Но в задачах, когда Вы хотите спрогнозировать какие конкретно клиенты приобретут, а не просто какой бренд они могут выбрать следующим, лучше применять другой инструментарий. Существует огромное множество случайных событий в жизни каждого человека, что все их в любом случае не опишешь, например, 600-ми объясняющими переменными, как это делается в Data mining-е.

Люди продолжают думать, если накапливать больше информации, которая описывает поведение клиентов, можно будет разрешить все неопределенности. Такого никогда не будет. Причины, по которым абоненты переходят от одного оператора к другому очень случайны. Это случается порой по причинам, которые уж точно не могут быть взяты из хранилищ информации. Например, из-за споров с женой, или ребенок вывихнул лодыжку и надо что-то делать, или он увидел что-то по телевизору.  Чем пытаться наращивать мощности хранилища, лучше отказаться от этой изматывающей затеи.

CIO INSIGHT:

Как Вы думаете, люди понимают ограничения Data mining?

FADER:

Думаю, что не понимают. И тут ничего не поделаешь с инструментарием или с маркетингом, но можно что-то изменить в человеческой натуре. Такие же вопросы возникают в каждой области науки. Когда технологии сбора данных становятся более продвинутыми и возможностей для построения моделей больше, люди думают, что они смогут ответить на вопросы, на которые раньше не могли ответить. Но если мы говорим о причинах заболеваний или механических поломках,  мы можем еще больше объяснить, накапливая данные.

CIO INSIGHT:

А люди, которые используют пакеты Data mining достаточно ли знают, как их применять.

FADER:

Я бы не стал обобщать, но есть действительно люди, которые пытаются искать иголку в стогу сена. Они думают, что могут ответить на любой вопрос используя один и тот же набор процедур, и это большое заблуждение. Когда Вы получаете другой набор данных, Вам нужно использовать различные алгоритмы. Но что действительно сводит меня с ума, когда люди неправильно используют некоторые алгоритмы статистического анализа, которые ассоциируются с Data mining-ом. Лифт-кривая показывает нам насколько построенная модель корректно описывает склонность людей к какому поведению по отношению к их фактическому. Это средство хорошо использовать в задачах классификации, но не задачах, требующих определить время. Для задач с вопросами «Когда», нужно применять и алгоритмы, которые будут отвечать на вопросы «Когда» . Люди просто не пытаются понять, а правильно ли работают их модели.

CIO INSIGHT:

Что Вы имеете ввиду, когда говорите про склонность в противовес их поведению?

FADER:

Разница в том, что тенденция что-то делать не говорит о том, что люди это будут делать в будущем. Вы можете быть одним из тех, кто покупает одну единицу товара в месяц с Amazon-а. Означает ли, что в течение следующих 10 лет, или 120 месяцев, Вы купите 120 товаров. Вовсе, нет. Вы можете 2 года ничего не покупать или наоборот в следующем месяце купить 5 товаров. Количество всевозможных ситуаций просто огромно. Вот откуда вся это случайность возникает.

CIO INSIGHT:

Вредят ли себе компании неправильно применяя алгоритмы Data mining-а?

FADER:

Хотелось бы начать с положительного примера. Я восхищаюсь тем, как работают специалисты страховых кампаний со своими клиентами. Они не смотрят на все Ваши параметры и не говорят когда Вы умрете. Они изучают похожего на Вас клиента и делают вероятностный вывод о том, когда умрет человек, с характеристиками, похожими на Ваши. Или какой процент людей, с похожими характеристиками доживает до 70 лет. Они просто понимают, что невозможно рассчитать это по каждому страхователю.

Давайте теперь перенесемся в мир маркетинга. Множество фирм говорит о персонифицированном (one-to-one) маркетинге. Вот это действительно плохо для большинства отраслей. Персонифицированный маркетинг работает, когда у Вас есть действительно глубокие отношения с клиентом. Он хорошо работает например в частном управлении капиталом или в B2B, когда Вы встречаетесь с клиентом хотя бы один раз в месяц и понимаете не только их потребности, но также что происходит в их бизнесе. Но в масс-маркетинге, когда Вы не можете отличить каждого отдельно клиента, Вы просто имеете множество людей с их множеством характеристик, которые их описывают. Само понятие персонифицированного маркетинга ужасно. Оно наносит больше время чем приносит пользы, потому что клиенты ведут себя более хаотично чем Вы себе представляете, и затраты, которые Вы тратите на то, чтобы понять как поведет себя конкретный клиент намного перевешивают выгоду, которую Вы можете получить от такого уровня детализации.

Очень сложно сказать, кто их клиентов собирается купить этот товар и когда. Намного проще сгруппировать клиентов по определенным признакам и сделать предположение о них как о группе, чем пытаться делать предположение относительно каждого клиента, какой товар они приобретут с большей вероятностью. А когда мы говорим о том, какие товары покупаются вместе, задача еще больше усложняется.

Я не хотел бы обижать систему рекомендаций Amazon, которую они продвигают. Но может клиент и так собирался приобретать книгу B, тогда все рекомендации оказались для него неподходящими. Или может клиент собирался приобрести книгу C, которая продается с большей маржой для компании, а в результате рекомендации купил книгу B. Или может клиент и вовсе может разочароваться тем, что ему рекомендуют, что и вовсе откажется от покупок. Я ни в коем случае не говорю, что не нужно заниматься кросс-продажами. Я просто говорю, что прибыли от этих операций может быть много меньше, чем думают люди. Очень часто я не могу найти оправданий для таких инвестиций в инструментарий.

CIO INSIGHT:

В свое время Вы выступали за использование вероятностных моделей в качестве альтернативы моделям Data mining. Что Вы понимаете под вероятностными моделями.

FADER:

Вероятностные модели — это класс моделей, которые использовались раньше, когда данные не были столь доступны. Эти модели основываются на нескольких постулатах: люди ведут себя случайным образом; случайность может характеризоваться простыми распределениями; склонность людей что-то делать со временем меняется, для разных людей и при разных обстоятельствах. Наиболее известная наверное, модель выживаемости, которая пришла к нам из страхования. Также она используется в производстве. Вы включили множество лампочек в тестовой лаборатории и смотрите, на сколько долго они горят. Во множестве случаев, это именно то, что я предлагаю делать с клиентами. Мы не собираемся делать предположений относительно любой из светящих лампочек, точно также как мы не должны делать предположения о каждом клиенте в отдельности. Мы сделаем заявление в совокупности, сколько из этих лампочек будут светить в течение 1000 часов. Видно как теория из производства, очень хорошо ложится на страхование. Многие конечно ополчатся на идею, но думаю, что такое сравнение гораздо лучше, чем вся эта персонификация и кастомизация, которую мы видим.

Клиенты настолько же отличны друг от друга, как и лампочки, но по причинам, которые мы не можем выявить, и чтобы их понять нужно потратить множество времени.

CIO INSIGHT:

Какие задачи можно решить с помощью вероятностных моделей?

FADER:

Вероятностные модели решают 3 типа задач: одна из них — время — сколько времени пройдет, прежде чем что-то произойдет; вторая — количественная — сколько полетов, сколько покупок или чего бы то не было произойдет на данном промежутке времени; третья — задача выбора чего-либо — сколько людей выберут это. Большинство современных бизнес-задач как раз и являются комбинацией данных типов. Например, если Вы моделируете время, потраченное на серфинг в Интернете в течение месяца, это количественный метод для моделирования количества визитов и временной метод для длительности каждого из них. Мое мнение что, в Excele достаточно просто построить модели всех трех типов. Большинство людей занимается построением этих моделей на протяжении многих лет и очень тщательно их тестируют. Некоторые начинают противопоставлять алгоритмы Data mining-а  для решения подобных задач. И находят, что возможности вероятностных методов не только удивительны, но и превосходят методы Data-mining-а. Когда Вы подумаете о различных ситуациях комбинирования времени, количественных показателях и выборе, Вы можете описать множество интересных бизнес-кейсов.

CIO INSIGHT:

А как использовать данные методы для определения наиболее прибыльных клиентов или вычислять ценность клиентов на протяжении жизненного цикла?

FADER:

Это как раз тот случай, когда вероятностные модели хорошо работают с моделями глубинного анализа данных. Вероятностные модели мы можем использовать для определения промежутка времени, в течение которого они будут оставаться нашими клиентами или сколько покупок они сделают в течение следующего года. Использовать основные вероятностные модели для определения основного поведения клиентов и потом уже с помощью моделей Data mining понимать, чем группы клиентов с разными поведенческими характеристиками отличаются друг от друга. Понимаете, само по себе поведение не полностью описывает склонность к чему-либо, которые пытаются определить менеджеры. И для этого мы строим вероятностные модели, которые позволяют нам понять склонности клиентов, и потом мы берем эти склонности — тенденции клиентов что-нибудь быстро или медленно, находится долгое время online или нет, и передаем их в инструментарий Data mining объяснить такое поведение 600-ми переменных. И в этом смысле Вы более качественно можете подойти к профилированию новых клиентов или понимать наиболее вероятные действия существующих клиентов. Когда речь идет о принятии результатов и объяснении вероятностных моделей, процедуры Data mining самое лучшее средство.

CIO INSIGHT:

Могут ли вероятностные модели решать временные задачи или задачи предиктивной аналитики.  

FADER:

Очень-очень хорошо. На самом деле, самым моим любимым примером является задача удержания и возврата клиентов. Вы можете их решать вовсе не имея никаких объясняющих переменных. Ирония состоит в том, что при добавлении в модель объясняющих переменных, качество модели ухудшается. Это сводит многих менеджеров с ума. Им нужно знать чем отличаются эти абоненты. И если Вы попытаетесь добавлять объясняющие переменные для объяснения разницы, Вы просто добавляете шум (размываете данные) в систему. Ваша способность сделать более точный прогноз для каждой группы может становиться только хуже.

CIO INSIGHT:

Т.е. Data mining лишь позволяет увидеть есть ли какая-нибудь склонность и все?

FADER:

Совершенно верно. Разгадка заключается в объяснении тенденции склонности к каким-либо вещам, а не объяснению поведению клиентов.

CIO INSIGHT:

Вы говорили, что вероятностные модели могут быть построены просто в Excel-е. Т.е. для того, чтобы их построить вовсе не нужно иметь степень PhD?

FADER:

Конечно, степень не повредит. Но да, Вы правы, эти модели более прозрачны для менеджеров и объясняют они более простые вещи, требований к данным намного меньше, и разработка и внедрение намного проще. Прежде всего я начинаю с вовлечения людей в использование самых простейших моделей. Покажите мне сколько клиентов у нас было в первый год, во второй, третий, четвертый, пятый, и я скажу сколько у нас будет в девятый и десятый прежде чем мы перейдем к объяснению каких-либо переменных, что так любят делать специалисты Data mining. Тут я конечно, не совсем согласен с автором, за 5 периодов предсказать еще 5 на некоторых рынках нереально, но в то же время такой подход имеет право на существование, т.е. не нужно 600 переменных, чтобы сделать простейший прогноз.

CIO INSIGHT:

А если компании и дальше продолжают использовать эти модели, какие данные им стоит продолжать накапливать, а какие стоит прекратить?

FADER: 

В конечном итоге важно поведение. Не должно быть обратных действий, но в основном сейчас собираются данные, которые не характеризуют поведение клиентов. Демографические, психографические, социоэкономические данные, да даже данные по предпочтениям не должны занимать всю емкость хранилищ, если они не делают качество поведенческих моделей лучше. У меня есть огромное множество примеров данных, которые дают неверные представления о ситуации.

Так что поведение это главное, но даже в этом случае всегда можно упростить сбор данных. Например, во многих случаях нам даже не нужно знать, когда произошла та или иная транзакция в прошлом, чтобы сделать прогноз. Просто дайте мне суммарную статистику такую, как частота. Просто скажите мне когда произошла покупка и сколько покупок было сделано в течение последнего года и это практически объяснит все, что можно объяснить. Вы как-то упомянули, что исследование CIO Insight выявило, что объем накапливаемых данных ежегодно увеличивается на 50%. Я бы сказал, что наибольшее из того, что накапливается, бесполезно. С одной стороны иметь на 50% данных больше, это хорошо, но это вовсе не значит, что Вы получите на 50% больше знаний о клиенте. Фактически, Вы даже наносите больший вред, чем приносите пользы, так как Вы вытесняете часть переменных, которые действительно могли бы иметь значение.

CIO INSIGHT:

Какие компании наиболее правильно применяют такие модели?

FADER:

Я может быть и мог бы выделить какие-то компании, но я нигде не видел, чтобы методы применялись именно таким образом, как я люблю. И я скажу почему — это полностью моя вина. Это вина системы образования, которая практически не учит их применять. Большинство фирм просто не обладают этим инструментарием.

CIO INSIGHT:

Что должны делать ИТ-директора компаний, чтобы помочь своим компаниям правильно применять аналитический инструментарий и средства моделирования.

FADER: 

Прежде всего, запомните, много не значит лучше. ИТ-директора часто не задумываются об аналитических задачах и о данных, которые нужно накапливать, но если кто-то дает им весь дополнительный набор данных и атрибутов, они их берут. И неправильно делают, что берут. Дополнительные данные могут Вам навредить, зашумляя действительно важные данные, которые характеризуют склонность к чему-либо. Но очень часто Вам достаточно самых простых мер, таких как частота и давность покупки, чтобы объяснить поведение клиентов. Лучше инвестиции направить на сбор именно этой информации с большей точностью и на регулярной основе. Во-вторых, помните, что более простые модели могут дать Вам много больше, если Вы пока не думаете о том, что может повлиять на поведение. Не думайте о влиянии: сначала, определите поведение. Начните просто в Excel. Вы будете удивлены тому, сколько можно сделать выводов, не покидая одной таблицы.

Оригинал публикации можно прочесть по ссылке.

Я разделяю идеи Питера, на счет анализа данных и накопления данных в хранилищах. О чем я неоднократно говорил на страницах блога. С некоторыми тезисами бы поспорил, но в целом он конечно прав.

Удачи Вам, следите за обновлениями!

Next-Generation analytics — что это?

0

Недавно компания Gartner опубликовала 10 стратегических технологий 2012 года, которые должны оказать влияние на корпорации в ближайшие 3 года, среди которых (не буду переводить, дабы не исказить исконные понятия):
1. Media Tablets
2. Mobile-Centric Applications and Interfaces
3. Contextual and Social User Experience
4. Internet of Things
5. App Stores and Marketplaces
6. Next-Generation Analytics
7. Big Data
8. In-Memory Computing
9. Extreme Low-Energy Servers
10. Cloud Computing

В принципе ничего супер нового нет, да и суть не в том, чтобы забраковать статью или дать подробное разъяснение каждой из технологии. Суть в том, что меня зацепило понятие «Next-Generation Analytics», ну и заинтересовал пункт 3, о котором я думаю можно поговорить в следующий раз, потому как эта тема заслуживает отдельной заметки и для аналитиков может быть очень интересной.

Возвращаемся к NGA. Прямо интрига нарисовалась, чего же все-таки нового такого изобрели? Попытаюсь описать, что они подразумевают под этим понятием.  В общем они говорят о новом образовавшемся тренде в аналитике. Первый был — анализ исторических данных, второй анализ исторических и онлайн данных и предсказание поведения в будущем, и теперь аналитика вступает в третью фазу — комплексный анализ данных не только количественный, но и качественный, причем не только текстовой информации, но и видео, голоса и т.д. При этом тренд направлен на принятие совместных решений. Симуляция, прогнозирование, оптимизация и другой инструментарий для анализа и оптимизации течения каждого бизнес-процесса, в котором может быть задействовано более одного подразделения компании, а не только больше информации для объяснения исторических событий.

В общем-то как всегда ничего нового не происходит, потому как, так или иначе, инструментарий использовался, был доступен, но в то же время, я думаю, появится больше специализированных программных продуктов, которые будут направлены на глубокий анализ каких-то конкретных событий. А маркетологи вендоров зацепятся за этот тренд, чтобы, несомненно, заработать побольше денег.

Надеюсь, конечно, что мы действительно получим интересный инструментарий в течение этих 3-х лет, а не все те же старые продукты в новой упаковке при новом позиционировании.

Удачи Вам, следите за обновлениями в блоге!

 


Геоаналитика и оптимизация затрат

0

Сегодня мне бы хотелось вернуться к теме пространственной аналитики и порассуждать на тему, каким образом ее применение может помочь в оптимизации затрат компаний.

Одной из основных статей затрат — являются затраты на содержание персонала. Как нам может помочь анализ географической информации. Если наша компания сильно распределена географически и при этом средний ФОТ в зависимости от региона варьируется, то этот инструмент поможет нам принимать решения, которые позволят добиться сокращение затрат на фонд оплаты труда. Конечно, нужно понимать, что перераспределение функционала дело нелегкое и делать это нужно аккуратно. Если персонал не привязан к месту, как например дистанционный канал продаж, то размещение, например, кол-центра в месте где зарплаты ниже, позволят добиться экономии без потери качества. Конечно нужно предусмотреть и другие расходы при этом, но наверняка их доля окажется много ниже. Если же персонал, привязан к месту, то к сожалению в таких случаях инструментарий полезен лишь для справочного отражения информации. Если  компания только зарождается и разделяется на несколько видов для большей управляемости, то с помощью инструмента можно оптимальным образом подобрать штаб-квартиру компании.

Расходы на изготовление маркетинговой продукции — если проанализировать себестоимость изготовления в зависимости от географии и решить проблему с логистикой, то наверняка можно добиться существенной экономии по затратам. То же самое справедливо для любой закупаемой продукции.

Если в зависимости от географии налогообложение отличается, то также можно оптимизировать затраты.

Страхование машин — я думаю можно автомобили регистрировать в одном регионе, ездить в другом, в зависимости от региональных коэффициентов можно добиться экономии.

На самом деле способов много больше, достаточно лишь определить привязан ли ресурс к конкретному региону или его можно перенести и проанализировать расходы на единицу ресурса. Я лишь привел несколько примеров. И если у Вас распределенная компания, то присмотритесь к пространственной аналитике.

Удачи Вам!


Предотвращение преступлений и аналитика

0

Сегодня мне бы хотелось поговорить о необычных областях, где используется предиктивная аналитика.

Многие, наверное, видели фильм «Особое мнение», где 3 провидца предсказывают преступления до того момента, пока они еще не наступили.

Фантастика, скажите Вы и нереально. А вот Департамент полиции Чикаго думает иначе. Они уже давно используют предиктивную аналитику для борьбы с преступностью.

Проводя ежедневный мониторинг, событий, звонков на 911, собирая и аккумулируя статистику, они на основе прогностических моделей получают примерное место, в котором может произойти то или иное происшествие с большой долей вероятности и учитывают эту информацию при составлении маршрутов для патрулирования.

Вся аналитическая обработка информации проводится на «аутсорсинге» в Технологическом институте Иллинойса.

Интересно, как наша полиция использует статистику по происшествиям, которые аккумулирует?

Удачи Вам, присмотритесь к предиктивной аналитике, может быть ее можно использовать и у Вас.


Мерчендайзинг и аналитика, как?

0

Когда я писал о том, как увеличить выручку, упоминал о том, что правильная выкладка товара порой позволяет добиться хороших результатов. Давайте рассмотрим поподробнее как на практике реализовать решение данной задачи. Сеть walmart давно уже использует Data mining в мерчендайзинге причем делает это весьма и весьма упешно.

Давайте попробуем разобраться как же им удается применять данные технологии. Во-первых, чтобы применять инструментарий DM, нам нужны прежде всего данные. Данные о самих товарах считаем, что у нас есть, по крайней мере в большинстве крупных магазинов давно стоят электронные кассы.

Чего нам не хватает — это данные о метоположении товара. Давайте попробуем сгенерить несколько способов решения этой задачи:

1. На мой взгляд самый простой способ — это ввести кодировку расположения мест, например, первые цифры обозначают торговый ряд, вторые цифры раздел, если больше чем один, третья цифра расположение относительно уровня глаз. Теперь если мы при выкладке введем такой код под каждый товар, то вместе с продажами, у нас начнут накапливаться данные и о местоположениях, где продажи максимальны/минимальны. И мы уже сможем использовать эту информацию для принятия решения.

2. Установка датчиков-счетчиков, по типу тех, что стоят в крупных гипермаркетах, которые ведут число людей, приходящих в магазин. Если оборудовать каждую полку такой техникой, то клиент, когда берет товар с полки, счетчик его фиксирует. Чем больше число счетчиков, тем точнее можно опеределить необходимое местоположение.

Думаю, что существуют еще и другие способы.

Будем считать, что статистику накопили, теперь давайте попробуем разобраться как работать с этими данными.

Например, максимизировать объем (в штуках или в рублях) исходя из месторасположения товара, используя дерево решений. Тут надо оговориться, что каждая группа товара должна рассматриваться отдельно, иначе результат будет точно непредсказуем, в конечном счете наша задача добиться эффективности, а не навести бардак.

Находить группы товаров, которые продаются чаще всего вместе и выкладывать их рядом, и покупателю удобно и Вам приятно. Место выбирать по макимально продаваемому, там где проходимость точно выше. 

Так как все-таки наша задача добиться увеличения и ассортимента и выбрать правильные позиции, то не обойтись без использования оптимизационных методов. Найти такое место для каждого товара, объемы продаж в которых будут максимальны.

Конечно для достижения максимального эффекта требуется много экспериментов. Есть и обратная сторона, если покупатель постоянный, то постоянная ротация товара, может смутить покупателя и он просто напрасто не найдет тот товар, который ищет. Поэтому лучше не экспериминтировать много с товарами, которые продаются хорошо, а делать это точечно по товарам, продажи которых минимальны, затем переходить на часто продаваемые товары, когда будет видет результат.

Удачи Вам!


Вверх