Rozhovor

Contagious

5. září 2022

Daniel Kahneman & Olivier Sibony o skrytém problému lidského rozhodování 

Kde je rozhodování, je i šum – a pravděpodobně je ho mnohem víc, než si myslíte. Laureát Nobelovy ceny Daniel Kahneman a profesor Olivier Sibony probírají nechtěnou variabilitu, která trápí každou rozhodovací organizaci a instituci

Daniel Kahneman je předním odborníkem na rozhodování. Jeho práce odhalují pravidla heuristiky, kterou uplatňujeme tváří v tvář nejistotě, položila základy behaviorální ekonomiky a jeho kniha Myšlení, rychlé a pomalé, která se prodalo miliony kopií, změnila způsob, jak lidé přemýšlí o tom, jak ostatní přemýšlí. 

Nikdo neudělal pro odhalení podivností lidských myšlenkových procesů víc než Kahneman a nezastavil se ani po necelém půl století od udělení Nobelovy ceny. Kahnemanova poslední kniha, kterou napsal společně s profesory Olivierem Sibonym a Cassem Sunsteinem (spoluautorem Nudge), odhaluje kolektivní mýlku, která trápí i ty nejdůvěryhodnější instituce a organizace. 

Noise: A Flaw in Human Judgment popisuje problematiku nechtěné proměnlivosti v dělání rozhodnutí – jinými slovy, „šum“. Lékaři, soudci, forenzní vědci a další profesionálové s vysokou expertizou dělají každý den rozhodnutí, o kterých předpokládáme, že se zakládají na racionalitě a zkušenostech. A přitom míra neshod mezi členy stejné profese, kteří stojí před nutností vyhodnocení stejného problému (a dokonce i když stejný člověk vyhodnocuje stejný problém v různých časech), se v knize ukázala jako skandálně vysoká.

Contagious hovořia s Kahnemanem a Sibonym, aby se dozvěděla víc o endemickém problému lidského rozhodování, který byl doteď z velké části neprobádaný, a také zjišťovala, jak u vašeho rozhodnutí nepodléhat šumu.

Co vás upozornilo na problém šumu?

Daniel Kahneman: Dělal jsem konzultanta pro jednu velkou pojišťovnu a napadlo mě provést cvičení, kde velký počet ručitelů nacenil v dolarech hodnotu svých stejných, velmi realistických případů. Také jsem se zeptal ředitelů, co od cvičení očekávali a položil jsem jim konkrétní otázku, což bylo: „Představte si, že náhodně vyberete dva ručitele, jak moc očekáváte, že se budou lišit?“ Lidé obecně očekávají, a tihle ředitelé rozhodně očekávali, zhruba o 10 %. Ale průměrný rozdíl mezi dvěma náhodně vybranými ručiteli byl kolem 50 %, pětkrát větší než očekávání. A proč bylo tohle zjištění opravdu zajímavé? Naprosto překvapilo ředitele dané společnosti. Nevěděli, že mají tenhle problém. A když se nad tím zamyslíte, s takovou mírou neshody možná ručitele nakonec vůbec nepotřebujete. Takže to bylo spojení velkého množství šumu a neregistrovaného problému, které nás přesvědčilo, že o tom stojí za to napsat.

Každý z nás je přesvědčený, že je v přímém kontaktu s pravdou

Daniel Kahneman

 

Jak velký problém šum vlastně představuje?

Olivier Sibony: No, záleží na tom, kam se díváte. Obecný trend je, že kamkoliv se podíváte, šum najdete a najdete ho víc, než očekáváte. Na některých místech, kde žádný šum neočekáváte, protože předpokládáte, že jde o exaktní vědu, na trochu šumu narazíte také, což je docela znepokojivé. Příkladem může být forenzní věda. Když se podíváte na experty na otisky prstů, kteří zkoumají stejný pár otisků, jste přesvědčení o tom, že se dívají na pravdu, a že vám řeknou, jaká je realita. Ale ve skutečnosti to realita není, je to vyhodnocení. V malém, ale nenulovém počtu případů se jejich závěry získané ze stejných otisků budou lišit.

Je tu i druhý extrém, kdy očekáváte, že se objeví poměrně velký nesoulad závěrů a předpokládáte, že to je spravedlivé a normální, je nesouhlas mnohem větší, než očekáváte. Příkladem mohou být rozhodnutí v HR. Když se zeptáte ředitelů HR: „Jaké šance na úspěch má profil daného kandidáta?“, zjistíte, že někteří z nich řeknou nula a někteří sto, přičemž zastoupené jsou i všechny ostatní decily a percentily. A když jim ukážete výsledky, budou se na sebe nevěřícně dívat. Lidé, kteří odpověděli nula se dívají kolem sebe a vidíte, jak si říkají: „Který idiot odpověděl 100?“, a naopak. Doslova si neumíme představit, jak velká neshoda to může být. 

Hlavní výhodou pravidel a algoritmů je, že nepodléhají šumu: ve dvou různých okamžicích jim představíte stejný problém, a vždy získáte stejnou odpověď. To pro lidi neplatí.

Daniel Kahneman

 

Kde se ten šum v rozhodnutích bere?

Kahneman: Všechny biologické fenomény jsou plné šumu. Pokud se efektivita mozku nepravidelně mění, ale jeho výkony spolu v po sobě jdoucích momentech vysoce korelují, pak během delších časových období tato korelace výrazně klesá a odtud pochází ta spontánní variabilita. A potom, lidé mají odlišné příběhy, jejich zkušenosti jsou naprosto různé a ve výsledku si lidé vytvoří pohledy na problémy, které se mohou zcela lišit, ačkoliv je každý z nás přesvědčený, že jsme v přímém kontaktu s pravdou. Říká se tomu naivní realismus a každý z nás je naivní realista. Detailně jsme zanalyzovali zdroje šumu. Základní myšlenka ale zní, že lidé se od sebe liší víc, než předpokládají.

Měli bychom ochotněji předávat naše rozhodování algoritmům a dalším systémům?

Kahneman: Obecně vzato by naší odpovědí mělo být ano. Měli bychom být ochotnější, protože ve spoustě situací bylo vědecky stanoveno, že algoritmy a dokonce i velmi jednoduchá pravidla, mají lepší výsledky než lidé. Hlavní výhodou pravidel a algoritmů je, že nepodléhají šumu: ve dvou různých okamžicích jim představíte stejný problém, a vždy získáte stejnou odpověď. To pro lidi neplatí.

Sibony: Tohle není dobře známé a stojí za to zdůraznit. Když dnes mluvíme o algoritmech, lidé si představí umělou inteligenci, vysoce sofistikované algoritmy informované masou dat, která byla vyvinuta teprve velmi nedávno. Ale existují studie, které jsou šest nebo sedm desetiletí staré a které stanovily, že i velmi základní pravidla, když jsou pravidelně umocňovaná, vedou případ od případu k o něco lepším výsledkům než lidská hodnocení. To je zcela neintuitivní, protože když hodnotíme, dáváme si pozor na to, abychom byli rafinovaní a přistupovali ke každému případu individuálně. Pokud například najímáte lidi, tvoříte si příběh, snažíte se porozumět osobnosti každého člověka. Když vám řeknu, že jednoduché pravidlo, které vypočítá tři oblasti dat o každém člověku – jako vzdělání, doporučení apod. – by udělalo lepší práci než vy, bude vám to připadat šokující. A přitom tenhle druh bezduché konzistentnosti ve skutečnosti překonává promyšlenou nekonzistentnost, což je náš způsob myšlení plný šumu. To samozřejmě neznamená, že bychom měli nahradit naše systémy rozhodování tímto typem velmi jednoduchých pravidel, protože tato velmi jednoduchá pravidla mají k dokonalosti daleko. Oproti našim hodnocením byla pouze mírně lepší, a lidé obecně nejsou ochotní vyměnit své právo na rozhodnutí, svůj pocit kontroly, za poměrně skromné výhody, které tato jednoduchá pravidla přináší. Ale když přijde na AI algoritmy, je to jiné, protože u těch jsou nyní výhody mnohem větší.     

Kahneman: Kvalita predikcí je obecně většinou nízká, protože svět je nepředvídatelný. V knize máme koncept, který označujeme jako „objektivní nevědomost“, což znamená, že maximum toho, co můžeme ve spoustě situací vědět, je velmi malé. Problém hodnocení a problém predikce je vytěžení všech dostupných informací, přestože po vytěžení všech dostupných informací na tom stále nebudete moc dobře. Takže algoritmy mají k dokonalosti opravdu daleko. Lidé mají představu, že AI je naprosto důvěryhodné. Není a nemůže být, protože budoucnost je nepředvídatelná. Je jenom přesnější než lidské varianty a to je něco, co lidé nedoceňují.

Musíme si uvědomit, že v některých situacích je rozmanitost báječná a v jiných případech je to problém.

Olivier Sibony

 

Takže jste nenarazili na žádné situace, kdy by lidské hodnocení překonalo jednoduché systémy AI?

Kahneman: Je to přinejlepším remíza.

Sibony: Hodně tu mluvíme o AI, hlavní pointou knihy ale není, že by bylo dobré nahradit všechna lidská rozhodnutí stroji a algoritmy. Důvod, proč tohle neříkáme, je za prvé, že u spousty důležitých rozhodnutí tohle není možné, protože nám chybí data nebo to není jednoduché naplánovat apod. Zadruhé, ačkoliv je to možné, poměrně často to není žádoucí. Buď proto, že tomu tvůrci rozhodnutí odolávají nebo proto, že příjemci těchto hodnocení chtějí hovořit s člověkem. Chcete lidského doktora, pokud stojíte před soudem chcete lidského soudce. Souvisí s tím důležitý procesní rozměr. A ve všech těchto situacích nehlasujeme pro nahrazení lidí stroji a počítači – i když by to teoreticky v některých situacích mohlo být lepší – vidíme potenciál mírné zlepšení lidských hodnocení – kdybychom je alespoň trochu zbavili šumu. A tomu říkáme hygiena rozhodnutí. 

Kahneman: Trend AI je neustále přijatelnější. Slyšel jsem, že v jedné čínské provincii experimentují s AI rozhodnutími u bankrotového soudu. Sezení pak samozřejmě probíhají mnohem rychleji, jejich průběh je lepší, efektivnější a lidé jsou s výsledky spokojení.

Sibony: Nejsem si jistý, zda bychom o tom vůbec slyšeli, kdyby nebyli spokojení…

 

Moudrost davu je tedy velmi nepřesné označení, protože dav rozhodně eliminují šum, ale nemůže zaručit dosažení pravdy.

Daniel Kahneman

 

Věřím, že jste odhalili, že stabilní vzorce šumu jsou jeho největší příčinou. O co jde a co s tím můžeme udělat?

Kahneman: Ve skutečnosti jde o to, že lidé vnímají svět velmi odlišně. Například v případě soudců existují dva zdroje šumu, které jsou lidem hned jasné: úrovňový šum, kdy jsou někteří soudci přísnější než jiní, a hluk příležitosti, což znamená, že při různých příležitostech mohou stejné případy vyvolat různé reakce v závislosti na duševním rozpoložení soudce. Ale opravdu důležitým a zajímavých zdrojem variability je, že když před sebou mají soudci sérii případů, neseřadí je podle vážnosti stejně. A tomu říkáme vzorce šumu. Někdo je velmi šokovaný, když se setká se zločinem, jehož obětí je starý člověk, někdo jiný je šokovaný špatným zacházením se ženami nebo s dětmi, další pak s kočkami. Lidé mají velmi odlišné úrovně citlivosti. A neplatí to jen pro soudce, týká se to jakéhokoliv tématu, které vyžaduje hodnocení. Funguje to tak proto, že hodnocení ve skutečnosti vyžaduje velké množství integrovaných informací: jde o neformální proces integrace. A zde se dostáváme k rozdílu mezi rozhodování a výpočtem. Během procesu rozhodování se váha, kterou lidé přisuzují různým bodům nebo způsob, jak je kombinují, liší.

Sibony: Je paradoxní, že všechno, co právě řekl – o odlišnosti našich hodnocení kvůli různorodosti našich příběhů, našich osobností a našich hodnot – většinou oslavujeme jako dobrou zprávu, jako důkaz individuality, jedinečnosti, kreativity a tak dále nás všech. A samozřejmě je pravda, že by nikdo nechtěl žít ve světě klonů. Paradoxně ale nemůžeme mít obojí. Nemůžeme očekávat, že lidé při rozhodování, tak jak ho popisujeme (což znamená v organizaci, kde se snažíte dostat se co nejblíž správné odpovědi na danou otázku), budou produkovat identické odpovědi nebo dokonce ani téměř identické. Musíme si uvědomit, že v některých situacích je rozmanitost báječná a v jiných případech je to problém. Skutečnost, že mají lidé odlišné pohledy na věc, není vždy zrovna dobrá. Když půjdete k doktorovi a on vám řekne: „Trápí vás tohle,“ a potom půjdete k jinému doktorovi a ten vám řekne něco úplně jiného, neřeknete: „Jé výborně, jsme kreativní“, řeknete „Máme problém“.

Dříve jste zmínili hygienu rozhodování a v knize navrhujete několik dalších způsobů, jak se s šumem vypořádat. Existuje jedna metoda omezování šumu, která je nejefektivnější?

Kahneman: Některé se aplikují snadněji než jiné. Nejjednodušší je rozhodovat se komparativně nikoliv absolutně. Snažte se nevyhodnocovat případy jednotlivě, ale hodnotit nebo porovnávat případy navzájem nebo s uplynulými případy. To je jeden návrh. Nejpromyšlenější návrh, který můžeme nabídnout, je rozdělování problémů: vytvořte si plán, jak k rozhodnutí dospějete a rozdělte jej na části. Tyto části by na sobě měly být nezávislé. Spolehlivý sběr informací vyžaduje, aby informace byly nezávislé, a to platí na všech úrovních. Nechcete si vytvořit obecný předpoklad, než si dospějete k specifickým pojmům o konkrétních aspektech problému. Naší hlavní radou by nejspíš bylo: naplánujte si, jaké atributy představují problém, který budete po částech vyhodnocovat, dříve než se pokusíte dosáhnout konečného rozhodnutí, a finální hodnocení odložte, dokud nebudete mít všechny tyto informace. Nebezpečí intuice tkví především v tom, že často bývá ukvapená.  

A na konec, jak odlišujete šum od odchylky?

Kahneman: Když mluvíme o šumu a odchylkách, myslíme šum v rozhodnutích a odchylku při procesu rozhodování. Máme na mysli velmi přísnou analogii šumu v měřeních a odchylky, které při něm nastávají. Co je šum v měření? Odkazuje na skutečnost, že pokud máte dostatečně detailní stupnici a budete opakovaně hodnotit stejný předmět, nedojdete vždy ke stejnému číslu. Tahle variabilita představuje šum. Vaše průměrná chyba – systematická tendence chyb přeceňovat nebo podceňovat pravdu – je statistická odchylka. Šum při měření a odchylka při měření mají velmi jasnou definici. Šum a odchylku při rozhodování definujeme podle stejného principu. V teorii měření se ukazuje, že šum a odchylka mají konceptuálně podobnou váhu. To je stanoveno ve výpočtech celkové nepřesnosti, v mocnině odchylky plus mocnině šumu. Takže v tomto výpočtu jsou matematicky zaměnitelné, ale mají poměrně odlišná pravidla. Například, agregací jednotlivých hodnocení s jistotou vyloučíme šum, ale nesnížíme tím odchylku. Moudrost davu je tedy velmi nepřesné označení, protože dav rozhodně eliminují šum, ale nemůže zaručit dosažení pravdy. Pravdy dosáhnou pouze pokud neexistuje žádná odchylka. Pokud se bavíme o chybách je chyba jak u vědeckých tak veřejných konverzacích typicky asociovaná s odchylkou. To, co se tu snažíme přidat, je opomíjená součást chyby.     

Sibony: Také panuje chybná představa, že na šumu nezáleží, protože dochází k jeho průměrnému vyrušení. A je pravda, že podle definice je šum chyba, která při zvážení mnoha případů dosáhne průměru nula, ale tady samozřejmě platí staré vtipy o zavádějících průměrech. Pokud doktoři v průměru diagnostikují správný počet nemocí, ale léčí lidi, kteří nemocní nejsou, a nemocným se věnovat nedokážou, pak je to problém. Pokud někdy naceníte svá pojištění někdy příliš vysoko a někdy příliš nízko se správným průměrem, děláte tak dvě drahé chyby. Takže na hluku záleží, protože nežijeme ve světě průměrů – žijeme ve světě, kde záleží na každém hodnocení.

Získejte víc kreativní inspirace 

Získejte přístup k insightům z nejinovativnějších marketingových kampaní z celého světa s pomocí bezplatného měsíčního trialu Contagious I/O. Kontaktujte nás na info@contagious.cz.