Proč obecný prospěch

Aktuálně ve svém uvažování dospívám k tomuto závěru: Člověk by měl věnovat tomu, co je obecně prospěšné, více pozornosti než osobnímu prospěchu, který by nebyl s obecně prospěšným jednáním obsahově propojený. Měl by při výběru svého jednání aplikovat perspektivu morální nestrannosti. Jaké důvody mě k tomuto názoru dovedly? Na této stránce se je snažím v poněkud neučesané a komplikované podobě popsat.

Kontext a shrnutí

V rámci celkové analýzy je potřeba postupovat od těch možností ovlivňujících rozhodování, které jsou nejobecnější a nejzákladnější. Proto zachycuje nejobecnější a výchozí tabulka teorie rozhodování spor mezi relativismem a nerelativismem, neboli spor o to, zda lze vůbec říci, že nějaké volby jsou lepší než jiné.

Od nejvyšší k nejnižší obecnosti je užitečné postupovat i při formulaci jednání. V první fázi lze přitom varianty jednání jednoduše odvozovat podle stanovených kritérií či možností - v našem případě tedy počínaje jednáním podle nerelativismu a jednáním podle relativismu (či lépe řečeno jednáním ovlivněným relativismem).

Nerelativistický scénář dále dělím na dvě základní možnosti: buď je správné jednat podle názorového systému, který zastávám aktuálně, anebo je správnější jednat především s ohledem na budoucí názor (tj. počítat s pravděpodobnými dalšími zásadními názorovými zvraty).

V rámci obou možností však nelze odložit rozhodnutí, zda má člověk aplikovat individuální nebo globální pohled na jednání. Globální pohled hodnotí jednání z hlediska celku, individuální pohled vychází na prvním místě z perspektivy jednotlivce.

Aktuálně si myslím, že právě globální pohled má hrát v analýze klíčovou roli, a to zejména z těchto důvodů: 1) Globální pohled konverguje ke stejnému jednání, ať již se dáme cestou ohledu na současný názor, nebo cestou ohledu na názor budoucí, zatímco důsledky individuálního pohledu jsou zde rozdílné. 2) Předpokládáme-li zároveň individuální pohled, filozofii maximalismu a ohled na současný názor, pak i jednání podle globálního pohledu se z hlediska této kombinace jeví jako velmi dobré.

Jednání podle globálního pohledu je jednáním zaměřeným na obecný prospěch.

V následujícím textu rozvíjím a vysvětluji některé části příslušné úvahy o něco podrobněji.

Ohled na aktuální názor

V rámci mého aktuálního názoru hraje zvlášť významnou roli filozofie maximalismu, kterou zajímá primárně co možná největší (a tedy nekonečná) hodnota. Kde ji hledat? Může jít o co možná největší hodnotu kolektivně sdílenou co možná největším počtem bytostí. Je možné, že k takovéto hodnotě směřuje historický vývoj a je možné, že lze ovlivnit, zda bude této hodnoty dosaženo (globální pohled). Je též možné, že k této hodnotě se člověk může nějakým způsobem připojit (individuální pohled).

Individuální pohled vede k transhumanisticky či nábožensky orientovaným úvahám. Globální pohled vede k aktivistické snaze přispět k optimálnímu dlouhodobému vývoji civilizace. Zmíněný aktivismus je zdá se důležitější, protože může být dosti jednoduše zároveň průnikem obou oblastí - i v rámci individuálního pohledu je totiž jedním z nejdůležitějších scénářů ten, že připojení se k maximální hodnotě je odměnou za obecně správné, prospěšné, resp. morální jednání.

Aktivismus orientovaný na extrémně velké hodnoty v rámci dlouhodobé budoucnosti vede k zájmu o problémy, které mohou budoucnost civilizace nejvíce ovlivnit - zejména jde zdá se o etiku a bezpečnost umělé inteligence. (Ale potenciálně i o nebezpečné biotechnologie, nukleární zbraně, klimatickou změnu či jiné podobné oblasti, které by se ukázaly být podobně zásadní).

Přitom je vhodné následovat filozofii efektivního altruismu - toto hnutí a myšlenkový směr má dle mého soudu nejlépe promyšleno, jakým způsobem se v rámci péče o dlouhodobou budoucnost co nejrozumněji angažovat.

Ohled na budoucí názor

Další zkoumání

Jedna z nejintuitivnějších reakcí na situaci vysoké nejistoty je snaha o další poznávání. Pokud musíme předpokládat a sázet na to, že navzdory složitosti světa nám v jádru správné poznání toho podstatného přece jen neunikne, pak je docela pravděpodobné, že jej ještě nemáme, ale dostaneme se k němu až v budoucnu. Další obecně zaměřené zkoumání je vlastně doporučeníhodné z hlediska všech možných teorií, které nyní nezastáváme - je tedy z hlediska teorie rozhodování extrémně širokým průnikem řady možností.

Na druhou stranu problém je, že aby mělo další zkoumání smysl, nejenže musí být v našem názoru nějaká zásadní chyba, ale musí jich být tak málo, abychom je stihli odhalit všechny - jinak bychom se ke správnému nasměrování i přes veškeré zkoumání stejně nedostali. Přitom čím víc chyb jsme již objevili, tím víc roste náš odhad počtu chyb, které objevit ještě zbývá. Není tedy nakonec vyloučeno, že je rozumější vsadit na možnost, byť také docela nepravděpodobnou, že v našem současném názoru již žádná zásadní chyba není a že tedy další zkoumání týkající se základního nasměrování již není potřebné.

Navíc pokud pomineme názor, že poznávání má hodnotu samo o sobě, pak platí, že v nějakém bodě musí zkoumání uvolnit místo pro větší důraz na samotnou akci. Zda má být další poznávání první prioritou v rámci ideální racionální činnosti, zůstává tedy sporné.

Maximalizace moci

Až na jisté výjimečné situace mohou lidé zdá se právem předpokládat, že jejich poznání se bude směrem do budoucna zlepšovat. Je docela pravděpodobné, že budoucnost nám přinese přímo dramatický vývoj v oblasti nového poznání.

V takovém případě by součástí správného postupu měla být maximalizace našich schopností dosáhnout v budoucnu nějakého cíle, o kterém ještě nevíme, v čem spočívá. Takový program není nesmyslný, protože docela elementární zkušenost potvrzuje, že určité věci jsou užitečnými prostředky k dosahování mnoha různých (zdaleka však nikoliv všech) cílů. Racionální by pak bylo shromažďovat tyto prostředky a až později se je pokusit proměnit v maximalizaci cíle či cílů, ke kterému nás povedou naše budoucí názory. Maximalizace těchto prostředků je přitom jen jiným pojmenováním pro poněkud nechvalně proslulou činnost maximalizace moci.

Maximalizace moci má oproti dalšímu zkoumání základního nasměrování jednu podstatnou výhodu: velmi často je dobrá i z hlediska aktuálně zastávaného názoru - v míře, v jaké jsou aktuálně zastávané hodnoty snadněji realizovatelné, pokud má člověk více moci. 

Globální versus individuální pohled

Uvedené úvahy o důležitosti dalšího zkoumání a moci v situaci vysoké nejistoty platí jak pro globální, tak individuální pohled. V rámci individuálního pohledu vedou k dalšímu osobními zkoumání a ke snaze maximalizovat osobní moc. V rámci globálního pohledu vedou ke snaze přispět k lidskému poznání správného jednání obecně a k rozvoji potenciálu naší civilizace. To však po promyšlení opět vede primárně k zaměření se na existenční rizika a činnosti v rámci efektivního altruismu.

Celkový průnik

Není zcela jasné, do jaké míry dát na aktuální názor a do jaké jej upozadit vzhledem k vysoké pravděpodobnosti omylu.

Pokud pominu strategii průniků, která chce s nejistotou pracovat na co nejobecnější úrovni s pokud možno co nejmenším počtem sporných předpokladů, pak je můj aktuální názor reprezentován filozofií maximalismu, která ústí do efektivně-altruistického aktivismu orientovaného na správný přechod k superinteligenci.

Tento aktivismus je však zároveň dobrým průnikem s ohledem na budoucí poznání, protože zde je v rámci globálního pohledu jednou z nejsmysluplnějších možností ta, že nejlépe lze k budoucímu poznání a potenciálu civilizace přispět právě tím, že bude umožněn vznik správně nastavené superinteligence, která by pak co nejlepší poznání a co nejvyšší moc následné civilizace zařídila již sama a daleko lépe než lidé.

Významný průnik je ale i mezi idealistickým aktivismem a maximalizací osobní moci. Je tomu tak kvůli jednoduché logické souvislosti: čím více má člověk moci, tím více je schopen ve světě prosadit věci, o kterých se domnívá, že jsou obecně prospěšné. V tomto duchu je jedním ze stěžejních závěrů analýz efektivního altruismu názor, že rozhodnutí, kterými člověk může nejvíce ovlivnit míru vlastní prospěšnosti, jsou rozhodnutí ohledně vlastní kariéry. Chce-li člověk být co nejvíce prospěšný, měl by v prvé řadě pracovat na kariérním růstu, který by byl ovšem zaměřený tím správným směrem. Kariérní růst je přitom do značné míry jen sympatičtějším vyjádřením pro maximalizaci vlastní moci.

Myšlenku lze shrnout i takto: Činnost podle efektivního altruismu sestává z velké míry ze zaměření na kariéru (aby toho člověk více zmohl) a kromě toho pochopitelně nesmí následně chybět ani realizace prospěšné věci samotné. Vtip je v tom, že pokud člověk změní názor a efektivní altruismus (či jeho aktuálně zastávaná varianta) bude na pozici nejlepší konečné činnosti vystřídána něčím jiným, je tu velmi solidní šance, že pozice, která byla připravena v rámci práce na kariéře a maximalizaci moci, bude dosti užitečná i z hlediska cíle nového. Víme přitom, že v úvaze vedoucí právě k efektivnímu altruismu zaměřenému na dlouhodobou budoucnost (stejně jako v jakékoliv jiné alternativní úvaze) může být zásadní chyba s velmi vysokou pravděpodobností.

Relativně slabé místo celé úvahy může být v tom, že jednou nohou stojí na docela kontroverzních věcech: filozofii maximalismu a snaze ovlivnit potenciální kolektivně sdílenou co možná největší hodnotu. A čím je věc více kontroverzní, tím je logicky slabší z hlediska strategie hledání průniků. Na druhou stranu si myslím, že tato slabost je vykompenzována tím, že ke stejným altruistickým závěrům lze dojít i jinými, méně kontroverzními úvahami (byť já osobně jsem nejvíce přesvědčen právě těmi kontroverznějšími). Jedna taková méně kontroverzní úvaha, která by zároveň opět sama využívala strategii průniků, by mohla vypadat například následovně:

Otázka, zda se má člověk v základu soustředit spíše na dobro pro sebe (egoistický přístup), nebo na dobro obecné (což vede k altruismu), je (jako ostatně prakticky každá filozofická otázka) velmi sporná. Pragmatická strategie průniků by mohla umožnit řešit situaci následovně: I v rámci egoistického přístupu má zdá se relativně vysokou pravděpodobnost možnost, že nejlépe i sám sobě pomohu právě tehdy, pokud budu usilovat o dobro obecné. Péče o obecné dobro by tak byla průnikem obou koncepcí, aniž by se muselo řešit, zda je snaha o obecné dobro konečným cílem, anebo pouze prostředkem. A pokud jde o obecné dobro, lze následně argumentovat, že nejlépe promyšlenou a podloženou komplexní koncepci má v současnosti hnutí efektivního altruismu.

Výše uvedená úvaha je postavena na strategii průniků, tedy na paralelním zvažování více možností podle logiky teorie rozhodování. Tím se zároveň stává poněkud nepřehlednou. Alternativní sice méně úplnou, ale zase více srozumitelnou, intuitivní a přehlednou cestou by bylo vybrat z nejrůznějších filozofických možností a scénářů tu možnost, která se zdá můj názor o přednosti důrazu na obecné dobro podporovat nejsilněji. Filozofický scénář, který mě přesvědčuje nejvíce, je kombinace filozofie maximalismu a globalistické perspektivy.