Bayesovský bandita: chytřejší a levnější A/B testování

Slot Machines

Představme si jednoduchou situaci. Řekněme, že jsme vlastníky internetového e-shopu s radiátory a chceme začít prodávat nejnovější typ. Ten má sice o něco lepší vlastnosti než staré modely, ale je o třetinu dražší, a zákazníci tak stále preferují starší varianty. Proto se rozhodneme, že ho začneme propagovat na úvodní stránce prostřednictvím banneru. Na prodeji tohoto modelu nám opravdu hodně záleží, a tak jsme si zaplatili profesionála, který připravil tři grafické návrhy. Otázka teď zní: jaký grafický návrh vybereme?

Nejjednodušší možností, kterou v takovém případě volí většina majitelů e-shopů, je vlastní úsudek. Ten je ovšem velmi subjektivní a vůbec nemusí odpovídat preferencím zákazníků. Lepší možností je využití takzvaného A/B testování. To spočívá v tom, že po nějakou dobu všechny bannery střídáme a pro každý z nich měříme poměr prokliků vůči počtu jeho zobrazení (CTR). Po nasbírání průkazného množství dat vybere banner s nejvyšší hodnotou CTR.

Tato metoda však není ideální. Návštěvnost e-shopu s radiátory asi nebude nijak závratná, proto může trvat velmi dlouho než nasbíráme dostatek dat pro kvalifikované rozhodnutí. Pokud bude navíc některý z bannerů výrazně méně atraktivní pro uživatele, jeho zobrazováním namísto jiného můžeme přijít o velké peníze. Naším cílem je tedy odhalit nejatraktivnější banner co nejdříve.

Moje oblíbená metoda, která patří mezi nejefektivnější, nese název bayesovský bandita. Pojmenování pochází z optimalizační úlohy známé jako problém mnohorukého bandity. Jedná se o problém, ve kterém máme řadu výherních automatů (v angličtině nazývaných one-armed bandit), každý s jinou pravděpodobností výhry, a naším cílem je nalézt posloupnost, v jaké na jednotlivých automatech hrát tak, abychom maximalizovali výnos. Jinými slovy, chceme co nejrychleji nalézt automat, u kterého je pravděpodobnost výhry nejvyšší a dále hrát pouze na tomto automatu. Analogie s bannery v e-shopu je přímočará − naším cílem je co nejdříve nalézt banner s nejvyšším CTR.

Jak sám název metody napovídá, je k tomu využita bayesovská statistika. Konkrétně jsou CTR jednotlivých bannerů odhadována samplováním z beta rozdělení. V obecnosti se jedná o rozdělení s parametry α a β definované jako

Beta(x|\alpha, \beta) = \dfrac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}x^{\alpha-1}(1 - x)^{\beta-1}.

Pro ilustraci jsou křivky hustoty pravděpodobnosti beta rozdělení pro některé hodnoty α a β jsou zachyceny na obrázku 1.

Pro porozumění je dobré si uvědomit, že beta rozdělení je v podstatě pravděpodobnostní rozdělení popisující pravděpodobnosti pravděpodobností. V našem případě je to rozdělení přes pravděpodobnosti prokliků (CTR). Tvar křivky určující beta rozdělení je dán parametry α a β. Pokud jsou oba rovny 1 (černá křivka), všechny hodnoty CTR jsou stejně pravděpodobné. V případě volby odlišných hodnot parametrů dochází k tomu, že některé hodnoty CTR jsou více pravděpodobné než jiné. Obecně platí, že je střední hodnota beta rozdělení určena vztahem

E[x] = \dfrac{\alpha}{\alpha + \beta}.

Pokud tedy budou například α i β stejné a zároveň větší než 1, bude vždy nejpravděpodobnější hodnotou CTR číslo kolem 0.5. Pokud budou hodnoty α a β v poměru 25:75, bude střední hodnota CTR 1/4 (modrá křivka). Další zajímavou vlastností beta rozdělení je fakt, že čím jsou hodnoty parametrů vyšší, tím menší je jeho rozptyl. Z praktického hlediska to znamená, že čím vyšší hodnoty parametrů α a β ve správném poměru zvolíme, tím přesnější odhad CTR budeme mít (zelená a červená křivka).

Nyní se můžeme pustit do popisu algoritmu bayesovského bandity. Hlavní myšlenka spočívá v tom, že CTR každého banneru modelujeme pomocí beta rozdělení. Při hledání vhodného banneru k zobrazení náhodně vylosujeme hodnotu CTR ze všech tří beta rozdělení a zobrazíme ten banner, jehož vylosovaná hodnota CTR bude nejvyšší. Pokud uživatel na banner klikne, zvýšíme parametr α odpovídajícího beta rozdělení o 1. Pokud uživatel neklikne, zvýšíme o 1 hodnotu parametru β. Tento postup opakujeme při každém načtení úvodní stránky zobrazující banner.

Vzhledem k tomu, že na začátku testování obvykle o CTR jednotlivých bannerů nevíme nic, algoritmus je u všech bannerů inicializován hodnotami α = β = 1. Žádný z nich tedy není preferovaný a všechny mají stejnou šanci na zobrazení. Dalšími kroky se odhad zpřesňuje a algoritmus postupně konverguje do stavu, kdy bude téměř vždy vyhrávat banner s nejvyšší skutečnou hodnotou CTR.

Jeden z okamžiků rozhodování mezi bannery k zobrazení je zachycen na obrázku 2.

Obrázek 2: Bayesovský bandita.

Obrázek 2: Bayesovský bandita.

Jedná se o stav, kdy už byl každý z bannerů několikrát zobrazen a máme tedy hrubý odhad CTR. Střední hodnota banneru 1 na obrázku je 0.25, u banneru 2 je 0.4 a u banneru 3 je 0.67. Nejvyšší pravděpodobnost zobrazení má tedy banner 3. Nemusí však nutně zvítězit, protože aktuální CTR losujeme z příslušných beta rozdělení a například oblast okolo 0.5 má nenulovou pravděpodobnost u všech tří bannerů. Svislé čárkované čáry představují příklady vylosovaných hodnot. Vidíme, že oproti očekávání byl banner 2 předstižen bannerem 1, avšak nejvyšší hodnoty dosáhl přece jen banner 3. Proto ho zobrazíme.

Jednoduchou implementaci algoritmu bayesovského bandity představuje následující kód v jazyce Python.


from scipy.stats import beta
from random import random

class Banner():
    def __init__(self, CTR, alpha=1, beta=1):
        self.CTR = CTR
        self.alpha = alpha
        self.beta = beta

    def update(self, click):
        if click == True:
            self.alpha += 1
        else:
            self.beta += 1

    def sample(self):
        return beta(self.alpha, self.beta).rvs()

    def getCTR(self):
        return self.CTR

class BayesBandit:
    def __init__(self, CTRs):
        self.banners = []
        for CTR in CTRs:
            self.banners.append(Banner(CTR))

    def selectBanner(self):
        sampledCTRs = [banner.sample() for banner in self.banners]
        return sampledCTRs.index(max(sampledCTRs))

    def simulateUser(self, banner):
        CTR = self.banners[banner].getCTR()
        if random() < CTR:
            self.banners[banner].update(False)
        else:
            self.banners[banner].update(True)

if __name__ == "__main__":
    bandit = BayesBandit([0.25, 0.4, 0.67])
    for i in range(100):
        banner = bandit.selectBanner()
        bandit.simulateUser(banner)
        print "Banner %d" % (banner + 1)

Třída Banner, definovaná na řádcích 4-20, implementuje jednotlivé bannery. Je inicializovaná skutečnou hodnotou CTR a volitelně počátečními parametry α a β. Metoda update provádí aktualizaci parametrů na základě toho, jestli uživatel klikl na banner poté, co se mu zobrazil. Metoda sample vybírá náhodnou hodnotu CTR z odpovídajícího beta rozdělení. Metoda selectBanner třídy BayesBandit nejprve vylosuje CTR pro všechny bannery a poté vrátí index banneru s nejvyšší hodnotou CTR. Simulace chování skutečného uživatele je prováděna v metodě simulateUser.  Ta využívá skutečné hodnoty CTR banneru a rozhoduje o tom, zda by skutečný uživatel na banner klikl nebo ne. Samotný testovací program je zapsaný na řádcích 39-44. Nejprve jsou vytvořeny 3 bannery se skutečnými hodnotami CTR 0.25, 0.4 a 0.67. Poté je opakovaně vybírán banner k zobrazení a simulováno chování uživatele. Číslo zobrazeného banneru je v každém kroku vypsáno na standardní výstup. Po spuštění programu je vidět, že algoritmus zpočátku vybírá různé bannery, ale s rostoucím počtem iterací začíná preferovat banner 3. Už po dosažení 100 iterací je zobrazován téměř výhradně banner s nejvyšším skutečným CTR.

Popsaný algoritmus předpokládá, že o skutečných hodnotách CTR před zahájením testování nic nevíme. To však nemusí platit vždy. Provozovatel e-shopu například může předem usoudit, že banner 3 bude u uživatelů oblíbenější než banner 1. Potom je možné nastavit vhodné iniciální hodnoty α a β namísto defaultních 1. Pokud bude odhad správný, konvergenci to ještě urychlí. Pokud by však byl iniciální expertní odhad výrazně odlišný od skutečných hodnot, algoritmus sice po čase dokonverguje do správných hodnot, ale bude k tomu zapotřebí mnohem více iterací.


Share on FacebookTweet about this on TwitterShare on Google+

10 komentářů k “Bayesovský bandita: chytřejší a levnější A/B testování

  • 10. 12 2014 at 11 : 12

    Chápu správně, že algoritmus bude správně fungovat jen pokud je průměrné chování uživatelů v čase konstantní? Tedy, že se neprojevují sezónní vlivy, dočasné změny poměru segmentů atd.?

    Stejný problém má i normální AB test, ale u něj mám alespoň čistá data na základě kterých jsem schopný navrhnout např. personalizaci (ve smysluplných případech).

    Odpovědět
    • 10. 12 2014 at 14 : 12

      Nemusí to tak být. Pokud je změna trvalejšího rázu, odhad se opraví sám. Pokud se dá očekávat, že bude CTR ovlivněno sezónností nebo nějakými dočasnými okolnostmi, je možné počítat statistiky v pohyblivém okně (například vždy za poslední týden) a starší data zapomínat.

      Odpovědět
  • 3. 02 2015 at 13 : 02

    Děkuju za pěkný článek. Experimentoval jsem s kódem, abych zjistil, jak se hodnoty alpha / (alpha + beta) a (alpha - 1) / (alpha + beta - 2) blíží apriornímu CTR. Zajímavé je, že dobrý odhad získá právě ten jeden nejlepší banner. Kdyby se uživateli zobrazovalo n bannerů zároveň, patrně by dobrý odhad získalo n bannerů s nejlepší apriorní CTR.

    Vzhledem z tomu, jak je v článku definován význam parametrů beta rozdělení a že klik odpovídá random() < CTR, bych pro lepší srozumitelnost upravil kód takto:

    def update(self, click):
    if click:
    self.alpha += 1
    else:
    self.beta += 1


    def simulateUser(self, banner):
    CTR = self.banners[banner].getCTR()
    self.banners[banner].update(random() < CTR)

    Odpovědět
  • 9. 04 2015 at 13 : 04

    Zajimavy clanek, inspiroval nas a prave implementujeme.
    Rekl bych ale, ze v clanku je na nekterych mistech prehozeny vyznam alfy a bety.

    "... Pokud uživatel na banner klikne, zvýšíme parametr β odpovídajícího beta rozdělení o 1..."
    A stejne tak v te ukazkove implementaci v metode update.

    Nemela by se pri kliku navysovat alfa?

    Odpovědět
    • 13. 04 2015 at 20 : 04

      Díky za upozornění. Máte pravdu, alfy a bety v článku byly trochu pomíchané. Už by to snad mělo být v pořádku.

      Odpovědět
  • 31. 12 2019 at 16 : 12

    Are you seeking effective online promotion that actually gets good results? I apologize for sending you this message on your contact form but actually that's exactly where I wanted to make my point. We can send your advertising message to sites through their contact forms just like you're receiving this ad right now. You can specify targets by keyword or just go with bulk blasts to sites in the country of your choice. So let's say you need to blast a message to all the plumbing companies in the US, we'll grab websites for just those and post your promo to them. Providing you're advertising something that's relevant to that niche then you'll receive an awesome result!

    Shoot me a reply to ethan3646hug@gmail.com for details on how this works

    Odpovědět
  • 28. 06 2020 at 21 : 06

    Hello, I was just taking a look at your site and filled out your contact form. The "contact us" page on your site sends you these messages to your email account which is the reason you're reading my message right now right? That's the holy grail with any kind of advertising, making people actually READ your advertisement and that's exactly what I just accomplished with you! If you have an advertisement you would like to promote to millions of websites via their contact forms in the U.S. or to any country worldwide let me know, I can even target your required niches and my charges are very affordable. Write an email to: Benja57mik57@gmail.com

    Odpovědět
  • 17. 10 2021 at 21 : 10

    Question... were you interested in advertising that guarantees visitors from only your niche? Contact me via Skype here: live:.cid.e7ae096559e10740 and I'll be more than happy to talk to you more about this. Thanks, Bill R.

    Odpovědět

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna.