O čem diskutovat

Domnívám se, že diskuse by měla být ideálně zaměřená na obecnou otázku, co dělat (co je nejlepší dělat, co máme dělat), a to ne pouze ve smyslu morálky a obecného prospěchu, ale obecněji ve smyslu racionality či ještě lépe správnosti bez jakýchkoliv předem daných konkretizací.

To je třeba vysvětlit - vždyť v úvahách zdůvodňujících prioritu diskuse jsem vycházel z přednostního zaměření se na obecné dobro - proč tedy nediskutovat o nejlepším jednání pouze z hlediska morálky a obecného prospěchu?

Aktuálně se domnívám, že racionální analýza vede k závěru, že na obecný prospěch je rozumné klást větší důraz, než na jiné věci. Tím pádem si zároveň myslím, že diskuse o praktických důsledcích racionality spíše povede k uznání přednosti ohledu na obecný prospěch, než k opaku. Ale pokud by tomu tak nebylo, pak by to znamenalo, že se mýlím v tom, k jakým závěrům racionalita vede, a v takovém případě bych i já měl na prvním místě chtít, abych tento omyl prohlédl, k čemuž mi poctivá diskuse o racionalitě pochopitelně může jen pomoci.

Co zastávat?

Při provádění diskuse nastačí jen vědět, že chceme diskutovat a o jaké otázce chceme diskutovat. Je třeba si záhy ujasnit i to, jakou (byť provizorní) pozici a na základě jakých argumentů v diskusi zastávat. V našem případě je řešení zdánlivě paradoxní, ale přitom logické: Je třeba zastávat pozici, že nejlepší činností je podporovat a rozvíjet kvalitní diskusi o otázce, co dělat.

To nicméně neznamená, že se musí mluvit pořád přímo o diskusi. Obhajovat přímo samotnou diskusi má zřejmě smysl jen v komunikaci s těmi, kteří již uznávají prvořadý význam propagace v rámci snahy o obecné dobro. Naopak s těmi, kteří tento názor nesdílejí, je logické mluvit nejprve právě o propagaci. A stejně tak s těmi, kteří nesdílejí silné zaměření na obecné dobro, je zase logické diskutovat o důvodech, proč je silný důraz na obecné dobro na místě.

Jiné doplňující odpovědi mohou přijít na řadu tehdy, pokud už se zrovna s lidmi, se kterými jsem v diskusi, shodnu na přednosti samotné diskuse. Ale možná ani tehdy ne, protože i po shodě na přednosti diskuse lze diskutovat o tom, jak konkrétně dále diskusi podporovat a rozvíjet.

Když dáme stranou tento první neintuitivní závěr, co je na dalších místech? Celkově bych v rámci diskuse propagoval myšlenkovou sekvenci diskuse - racionalita - obecné dobro - vzdálená budoucnost - problematika silné umělé inteligence. Hájil bych tedy odpověď, že nejlepším jednáním by kromě samotné diskuse bylo zvyšování míry, v jaké:

  • budou lidé hledat nejhlubší zdůvodnění v racionalitě,  
  • budou lidé zdůrazňovat cíl obecného dobra,
  • budou lidé zaměřeni na ovlivňování vzdálené budoucnosti, potažmo na tzv. problematiku x-risks,
  • se budou lidé snažit něco dělat pro cíl dobrého přechodu naší civilizace k superinteligenci.

Tyto body rozvedu i podrobněji. Dospěl jsem k názoru (viz např. důraz na obecné dobro a na čem je nejprospěšnější pracovat), že zásadním cílem je ideální rozvoj civilizace ve vzdálené budoucnosti, ještě konkrétněji především souvislost tohoto rozvoje s nastavením umělé inteligence, ve kterém lidstvo sehraje zásadní úlohu. Přímočařým domyšlením tohoto názoru, podle něhož je nejvýznamnějším současným problémem civilizační přechod k superinteligenci, je teze, že propagovat je potřeba právě toto téma.

Důležitým a platným protiargumentem by mohla být tato úvaha: Víme, že poznání o tom, co je z hlediska vzdálené budoucnosti nejlepší, je nedokonalé. Mohou se tedy objevit poznatky prokazující, že nastavení umělé inteligence nakonec není tak závažným problémem, anebo že je zde naopak ještě něco závažnějšího. Pokud jsme předtím investovali pouze do problematiky umělé inteligence, po takovém obratu bychom museli s lítostí usoudit, že naše snaha nebyla dobře zaměřená. Pokud bychom však investovali obecně do propagace efektivního altruismu, toto nás trápit nemusí, protože jsme přispěli k rozšíření hnutí, které se následně ze své podstaty relativně snadno přeorientuje podle nově objevených nových okolností.

Z toho by vyplývalo, že právě obecnější propagace efektivního altruismu by stále mohla být tím nejvhodnějším postupem a že ona obecnost je zde spíše výhodou než nedostatkem.

Naopak zastánci přednostního důrazu na propagaci problému umělé inteligence mohou klasicky uvažovat takto: Efektivní altruismus jako celek sice dává největší váhu právě této myšlence, zároveň však mnozí efektivní altruisté setrvávají na klasičtějších pozicích a dávají největší důraz na rozvojovou pomoc v oblasti zdraví v Africe anebo případně na kvalitu života zvířat. Pokud se tedy zaměříme obecně na rozšiřování efektivního altruismu, část našeho případného úspěchu pomůže v oblasti, která nás přednostně nezajímá. Místo toho by bylo zdá se nejvhodnější, aby nyní putovalo co nejvíce prostředků a energie směrem k oblasti vzdálené budoucnosti.

Dejme však tomu, že bychom se přiklonili k obecnější variantě propagace efektivního altruismu. Argumentů ve prospěch obecnějšího předmětu propagace by mohl někdo využít i tak, že by zaútočil i na zaměření se na propagaci efektivního altruismu jako na něco příliš úzkého. Dalo by se totiž ptát, proč se nesoustředit rovnou primárně na propagaci racionality, tedy schopnosti používat dobře rozum, správně uvažovat, správně hodnotit důkazy, nedopouštět se kognitivních chyb, umět používat vědecký způsob myšlení atp. Pokud by se zjistilo, že racionalita nevede k efektivnímu altruismu, bylo by zcela správné jej opustit a mohli bychom za to racionalitě právem děkovat. Pokud by naopak více vysvítalo, že větší racionalita posiluje i efektivně-altruistické zaměření, pak by osvětlení této souvislosti mohlo být tím nejlepším, co by pro propagaci efektivního altruismu šlo udělat. Je zde však jeden rozdíl: pokud altruismus není racionální, k čemu je člověku dobré, že racionalitu rozšíří? Dobrá odpověď však nakonec asi existuje: sice může být bez altruismu člověku racionalita druhých lidí sama o sobě k ničemu, nicméně pokud se nachází ve skupině lidí, kteří racionalitu programově rozvíjejí, je to jedna z nejlepších věcí, které může udělat pro rozvinutí své vlastní racionality a pro objevení a nápravu chyb ve vlastním myšlení.

Zaměření se na propagaci racionality tedy zůstává rovněž důležitou součástí řešení, stejně jako zaměření se na rozšiřování té myšlenkové části efektivního altruimu, která řeší problém vzdálené budoucnosti a nastavení umělé inteligence, či na propagaci obecně základní myšlenky efektivního altruismu. Tyto přístupy lze skloubit - nejvhodnější by mohla být propagace celé myšlenkové sekvence racionalita - obecné dobro - efektivní altruismus - vzdálená budoucnost - nastavení silné umělé inteligence, s důrazem na jednotlivé části podle okolností diskuse. Popsaná řada přitom není kompletní a lze do ní podle potřeby přidat další články.

Přítomnost konkrétnější myšlenky by dávala naší snaze přesné zacílení, přítomnost obecného zarámování zase opodstatněnou naději, že budou-li na místě nějaké zásadní názorové změny, pak ti, které se nám případně podaří inspirovat, budou díky našemu vlivu lépe disponovaní k tomu, aby příslušné názorové změny provedli a konkrétnější zacílení podle toho upravili. Z této sekvence je přitom vždy na místě vyzvedávat různé části v rámci vhodného přizpůsobení se danému konkrétnímu publiku a diskusi.

Obsah diskuze v kontextu EA skupiny

Došel jsem k závěru, že nejlepší aktivitou je podpora diskuse v rámci hnutí efektivního altruismu (EA). Jednou z nejlepších možností je zúčastnit se diskuse na mezinárodním EA fóru, začít je však vhodné zapojením se do činnosti lokální EA skupiny.

Jak záměr diskutovat o tom, co je nejlepší dělat, přetavit v konkrétnější obsah a témata pro jednotlivá setkání? Za vhodný referenční bod, ke kterému se lze v rámci možností přibližovat, opět považuji metodu postupné konkretizace:

Tématem diskuse se může přímočaře učinit otázka, co je nejlepší dělat. Tím jsme na nejzákladnější a nejobecnější úrovni. Lze využít šablonu možností, jak tuto základní otázku diskutovat. Sem spadá například diskuse o tom, do jaké míry je altruismus zdůvodněný, či zda jde spíše o subjektivní preferenci jednotlivce.

O stupeň konkrétnějším bodem je použít jako téma výchozí EA otázku, kterou chce EA každému položit: Jak můžu udělat co nejvíce dobra? Zmíněná šablona k diskusi o centrální praktické otázce je s příslušnou úpravou použitelná i zde, viz též konkretní příklady setkání zaměřených k tomuto účelu (1, 2, 3) a metodické poznámky k diskusi (1, 2). V rámci tohoto tématu se neřeší zdůvodnění efektivního altruismu, ale vychází se od něj jako od předpokladu. Lze říci, že právě primárně skrze popsanou výchozí otázku by měl být/je efektivní altruismus definován (srv. Helen Toner: Effective Altruism is a Question, not an Ideology). 

Témata lze ideálně vybírat podle toho, jaké hlavní názorové rozdíly mezi účastníky existují (to můžeme velmi vhodně zjistit na základě předešlých obecnějších diskusí, anebo na základě jakékoliv jiné již proběhlé komunikace). Názorový rozpor nás k novému klíčovému tématu přivádí analogicky jako u metody double crux - tuto metodu je tedy velmi užitečné znát. Každopádně je vhodné, aby byla témata vybírána podle toho, co je nejvíce relevantní pro přemýšlení daných konkrétních účastníků o otázce, kterou efektivní altruismus pokládá. Jaké jsou konkrétnější možnosti, kam se diskuse může obsahově ubírat?

Klasická podotázka, skrze kterou lze k zodpovězení hlavní EA otázky směřovat, je zaměřena na zkoumání, který z globálních problémů nejvíce vyžaduje dodatečnou práci. Tento problém je vhodným tématem pro rozvinutí diskuse. Podle toho, jaké názory se objeví, se následně může přecházet ke konkrétnějším podotázkám. Konkrétní problém, který efektivní altruismus v současnosti zvláště vyzvedává, jsou rizika umělé inteligence, je tedy vhodné dostat se i k diskusi o tomto tématu.

Vedle srovnávání globálních problémů je potřeba směřovat k diskusi o akcích, skrze které můžeme s danými problémy něco dělat (viz. instrukce ke konkrétnímu setkání či individuální příprava na jiné setkání). Nakonec hlavním cílem je srovnávání akcí; a v tomto rámci v diskursu EA zdá se argumenty nejvíce směřují k zaměření se na tyto potenciálně extrémně vlivné strategie:

  • šíření užitečných myšlenek - advocacy
  • efektivní altruismus aplikovaný v rámci kariéry

V obou oblastech, jak v oblasti strategií činnosti, tak v oblasti nejnalehavějších problémů, je potřeba se skrze metodu prioritizace posunovat ke stále konkrétnějším podoblastem.

Příklady diskusních setkání s tématy rámcově dodružujícími tuto strukturu:

      Jak by se tato série konkretizací dala nejlépe upravit či rozvinout? Z perspektivy uvažování, které zde rozvíjím, by mělo být zakomponováno téma diskuse (zdánlivě podivný koncept diskuse o diskusi). Konkrétněji a včetně příslušných argumentů toto téma rozvádím v textu popisujícím stanovisko o primátu diskuse.

      Lze se však postupně zabývat libovolnými dílčími tématy, které se v efektivním altruismu řeší, s tím, že každé z témat může tvořit dílek do skládačky potřebný k řešení výchozí otázky. Inspiraci pro možná témata lze získávat například:

      Příklady konkrétních setkání lze nalézt např.

      Během jakýchkoliv setkání by však měla výchozí otázka efektivního altruismu zůstávat tématem, na které se opakovaně vrací pozornost.

      Návaznost na další otázky

      Uvedené myšlenky je třeba doplnit o zbylé části rozvádějící ideální podobu diskuse:  jak diskutovat a s kým.