Princip indiference
Velmi užitečným nástrojem pravděpodobnostního odhadu může být princip indiference pro případy, kdy máme více možností, které se nám zdají stejně možné, stejně podložené, mezi kterými nedokážeme vybrat tu pravděpodobnější či správnější. Podle tohoto principu pak každé z těchto možností musíme přiřadit stejnou pravděpodobnost. Konkrétněji, pokud máme třeba dvě takové navzájem se vylučující možnosti, z nichž jedna musí být správná, pak každé z nich přiřadíme pravděpodobnost 50 %. Pokud jsou takové možnosti tři, každá bude mít pravděpodobnost třetinovou, a tak dále. Například pokud o nějakém předmětu víme, že je buď černý, nebo bílý, a žádné další informace nemáme, pak nezbývá než usoudit, že pravděpodobnost, že je bílý, je padesátiprocentní a že stejně velká je i pravděpodobnost, že je černý.
Používání principu indiference však někdy vyvolává složitější otázky. Vezměme si krychli, o níž víme pouze to, že velikost její hrany je maximálně 1 metr. Jaká je pravděpodobnost, že velikost její hrany je větší než půl metru? Podle principu indiference zdá se 50 %. Tu stejnou krychli však můžeme popsat i skrze její objem - víme jen to, že činí maximálně 1 metr krychlový. Z toho bychom podle principu indiference vyvodili, že je poloviční pravděpodobnost, že objem krychle bude menší než půl metru krychlového i větší než půl metru krychlového. Tím pádem bude zároveň čtvrtinová pravděpodobnost (12,5 %), že objem krychle bude menší než čtvrt metru krychlového, osminová pravděpodobnost (12,5 %), že objem bude menší než 125 krychlových decimetrů (osminu krychlového metru), atd. Z toho je již patrné, že použití prinicipu indiference na oba popisy té stejné krychle, jednou pomocí délky hrany a jednou pomocí objemu, vede k výrazně rozdílným a navzájem si protiřečícím důsledkům. Objem krychle o délce hrany půl metru je 125 decimetrů krychlových, podle prvního popisu je tedy poloviční pravděpodobnost, že objem krychle bude menší než 125 decimetrů krychlových. Podle druhého popisu je pravděpodobnost, že krychle bude mít tento objem, pouze osminová.
Který popis tedy použít? Nebo lépe řečeno, jak takovou situaci vyřešit? Jako zvlášť vhodný se jeví následující přístup: Když k odhadu podle principu indiference použiji délku strany a opomenu další možnosti (zde objem), tak to vlastně není ta správná indiference, protože chybně předpokládám, že vím, které z těch různých kritérií odhadu bych měl použít. Správně informačně indiferentní odhad by měl zachovat indiferenci i mezi kritérii. Matematicky toto řešení rozpracoval E. T. Jaynes.
Lze však namítnout, že vždy lze vymyslet nekonečně popisů, takže konstruovat indiferenci mezi popisy samotnými je rovněž nemožné. U kostky můžeme například mluvit nejen o velikosti strany a o její třetí mocnině strany, která reprezentuje objem, ale i o druhé mocnině, čtvrté, páté atd. Vyjádření velikosti kostky délkou hrany je nicméně přece jen logičtější než čtvrtou mocninou délky hrany. Mezi těmito reformulacemi tedy úplná arbitraritau není. U třetí mocniny délky strany je to jiné - ta odpovídá objemu.
Vidíme tedy, že použití principu indiference někdy vyžaduje úsudek ohledně toho, které varianty popisu odpovídají logice věci a které jsou pouze umělé.