Blog posts

Na otázku, kterou si klade název této přednášky by mohla přijít stručná odpověď, kterou v polovině 19. století nabídl Ralph Waldo Emerson: "Stroje, pokud jsou už jednou vyrobené, vyrábějí lidi“. Trochu delší odpověď by mohla znít, že technologie lze utvářet jen do té míry, pokud si také uvědomíme, že stroje utvářejí nás.(1)

To mne přivádí k otázce o správnosti klást samotnou otázku. Nabízejí se tady dva fundamentální postoje vůči technologii, oba zdůrazňují naši schopnost technologie vytvářet, ale v ostatních aspektech jsou velice odlišné.

Ten první přístup - technokratický - je racionalistický a rozhodovací. Je typický pro naše technologické elity a je to druh filozofie, v jejímž rámci o technologii sami vědci a inženýři často uvažují. Z té perspektivy je - pokud jde o hodnoty - technologie vnímána jako cosi neutrálního; je "wert-frei", "bez-hodnotová". Jde jen o pouhý prostředek pro dosažení určitého cíle. V intencích těch, kdo ji vymysleli nebo používali usnadňuje nebo brání tomu, jak prožíváme radost, pohodu, úspěch a podobně. Jde o utilitární, instrumentální pojetí technologie, ztělesnění jakési racionality, kterou Max Weber nazval ''zweckrationalität'' – tedy racionalita prostředků a cílů. Jak víme, ten koncept radikálně dekonstruoval Martin Heidegger: "Dokud budeme o technologii uvažovat jako o nástroji," tvrdil ve svém slavném článku o podstatě techniky, zveřejněném v roce 1949, "zůstaneme uvěznění ve vůli k mistrovství." A tato "vůle k mistrovství“ může znamenat jedině naši záhubu.

Podle druhé koncepce, příznačné pro sociologii technologie a také pro jednu z jejích variant nazývanou "SCOT“ (tedy "Společenská konstrukce technologie“) - jsme to naopak my lidé, kdo povahu technologie určuje. Jeden ze základních textů tvrdí, že "společenské prostředí technologie utváří, stejně jako je to naopak“(2). Je zřejmé, že výraz "jsme to my, kdo utváří technologii“ zde nese naprosto jiný význam než ten, který jsme viděli v postoji technokratickém. Teď jde o to porozumět tomu, jak sociální svět a ti, kdo mají moc rozhodovat, utváří artefakty. Ať už je takový artefakt složen z čehokoli, takové společenské utváření nemá mnoho co společného s racionálním rozhodováním technokrata nebo byrokrata. Ta druhá linie myšlení, v reakci na kdysi módní tezi, že technologický determinismus převažuje nad všemi jinými formami kauzality – tézi známou jako "autonomie technologie“ klade důraz na naši schopnost povahu technologií určovat. Názor, že technologie je něco autonomního, razily nejrůznější myšlenkové směry a jednotliví myslitelé, bez ohledu na jejich rozdíly. Lze uvést Heideggera, Jacquese Ellula, Ivana Illiche, Frankfurtskou školu, Herberta Marcuse přes Adorna, Horkheimera po Habermase, "hlubinnou ekologii“, různé ekologické školy, atd. Například Jacques Ellul soudil, je se technika stala prostředím, v němž my lidé žijeme, novým prostředím, které přírodu nahradilo. Je to prostředí umělé, autonomní, sebeurčující, určené růstem, ale ne zaměřené na cíl. Prostředek má zde přednost před cílem, i když tyto aspekty jsou hluboce propojené a nelze je oddělovat. Technika je dominantním prvkem v moderních lidských hodnotách, soudech a vynálezech. Naše soudy a naše rozhodování je vždy součástí technologického procesu. Myslíme si, že je zde možnost se svobodně rozhodovat, ale ve skutečnosti co rozhoduje za nás je "Technika" (Jacques Ellul).

Naše "skupina" si od počátku uvědomovala, že není možné se připojovat k proudům, založených na představách, že technologii lze analyzovat pouze, nebo hlavně ve vztazích vůči ní samé. Naše skupina se většinou zabývala tím, jak utvářejí sociální struktury jak příležitosti tak jejich omezení. Z tohoto pohledu byla pro nás zpráva National Science Foundation Converging Technologies for Human Performance odstrašujícím příkladem. Tato americká zpráva je podivuhodná kombinace technologického determinismu a technokratického rozhodování. Technologie je zde pojímána jako prostředek k dosažení cíle; přístup je čistě utilitární a instrumentální: hlavním motorem technologie je její účelnost. To považuje zpráva za nevyhnutelné, je to skoro něco jako osud a je na našem rozhodnutí, jestli si ho přijmeme, nebo jej odmítneme. Věda a technika se vyvíjejí autonomně a to, co naše rozhodování a úsilí zpomaluje nebo zrychluje je pokrok. A perspektivy jsou světlé: například dosáhneme období inovací a prosperity, což bude bod zlomu ve vývoji lidské společnosti. Díky konvergenci by 21. století mělo probíhat ve znamení světového míru, všeobecné prosperity a vývoje k vyšší míře soucitu a úspěchu. Do takového utilitárního rámce logicky patří potřeba naprosté angažovanosti jednotlivce:Základem předpokládaného vývoje je právo každého jednotlivce používat nové znalosti a technologie pro dosažení osobních cílů, stejně jako jeho právo na soukromí a svobodnou volbu.

Taková socioekonomická analýza má rysy nečekané ubohosti. Není zde žádná sociální dynamika, ani síla, pouhé chování jedinců, například rušivé chování, teroristické činy atd, které je možné nicméně předvídat a případně korigovat. Jediným hnacím motorem je dostatečný přísun dolarů. Role vlády spočívá pouze v nastavení vhodných podmínek pro zdárný rozkvět soukromých iniciativ. zároveň musí vláda dohlédnout, aby veřejnost tyto změny přijímala. Hlavní překážkou takového rozvoje je pak morálka, tedy naše současná konzervativní a přehnaně úzkostlivá morálka. Zpráva předvídá možnost radikální změny etiky, která dovolí civilizační proměny, kde se těmto novým principům přizpůsobí jevy jako jsou možnosti mozkových implantátů, robotizace lidské společnosti a relativita smrti. Naproti tomu jedním z hlavních cílů naší zprávy byl návrh "Evropské koncepce konvergujících technologií“ – tzv. CTKES: Converging Technologies for the European Knowledge Society. Už samotný název jasně naznačuje, že naše úsilí bylo částečně ovlivněno sociologií technologie. Závěrečná zpráva prozrazuje i další vlivy spíš filozofické než sociologické povahy, a jako filozof bych je zde zdůrazňuji.

Samotná stázka "zde utváříme technologie nebo ony formují nás?" vychází z premisy, že existují dvě odlišné entity, které mohou být v kauzálním vztahu: na jedné straně technologie, na straně druhé my, přičemž "my“ může odkazovat buď na nás jako na jednotlivé lidské bytosti, nebo na "nás" jako "společnost". Takovou premisu musíme rozhodně zpochybnit. Jsem přesvědčen, že technologie na jedné straně a lidský a sociální svět na straně druhé společně ovlivňují soubor faktorů, takže klást otázky, jestli je to technologie, nebo my, kdo zde hraje aktivnější kauzální roli nedávají smysl. Nejsilnější faktor je třetí strana. Co to je? Zde zastávám kritický postoj k proudu materialismu, který ovládá "konvergenci technologií" (5a). Co vnímám jako rozhodující hnací sílu je soubor myšlenek, světonázorů, odpovídajících tomu, čemu Karl Popper říkal "metafyzický výzkumný program“. Pozitivistická filozofie, ovládájící velkou část moderní vědy (i velkou část současné filozofie) sice "metafyziku“ označuje za nesmyslné hledání odpovědí na nezodpověditelné otázky, ale Popper (navazující zde na myšlenky Emila Meyersona(2)), dokázal, že žádný vědecký (resp. v našem smyslu "technologický") výzkumný program, který by nebyl postaven na systému všeobecných předpokladů o struktuře světa, neexistuje. Podobné metafyzické názory samozřejmě nelze empiricky dokázat a nelze je tedy také označit jako "falzifikaci“. To ovšem neznamená, že by nebyly inspirativní, ani důležité a že v otázkách vědeckého pokroku nehrají zásadní roli. Kdo metafyziku popírá, činí ji tím transparentní a je pak pravděpodobné, že jeho vlastní skrytá metafyzika může být pochybná nebo nekonzistentní. Karl Popper - k překvapení všech, kteří ho pokládali za pozitivistu - tvrdil, že úkol filozofa nebo historika vědy spočívá ve dvou bodech: odhalit a zviditelnit skryté metafyzické myšlenky, uložené v podloží vědeckých programů, protože pak je můžeme podrobit kritice; a za druhé přistupovat ke kritickému zkoumání těchto metafyzických teorií jinak, než je tomu u kritiky vědeckých teorií, protože i když je taková kritika racionální, empirické posuzování zde neplatí.

Takže otázka, kterou jsem si položil zní: co je "metafyzika" výzkumného programu, který řídí takzvané "konvergující technologie"? Tomu programu říkám "mechanizace mysli“ (4) a následuje několik poznámek k tomuto tématu.

Metafyzický výzkumný program (obrázek) Šipky představují příčinné souvislosti. Všimněte si, že diagram do jisté míry odpovídá částečnému sebeurčení technologie (stejně jako částečné uzavřenosti lidského a společenského světa). Také odpovídá Emersonovu výroku "stroje, jednou vyrobené, dělají lidi“, tedy kruhovou kauzalitu mezi technologií a společností. Nejdůležitější odkazy jsou však ty, které vycházejí ze schránky Metafyzika.

Aby zde nedošlo k nedorozumění: to, čemu říkám "mechanizace mysli“ je soubor myšlenek, reprezentací a světonázorů; je to něco jiného než co je v naší zprávě nazváno "inženýrství mysli", což označuje techniku. Předpokladem je, že ideje předcházejí technice. Možná jste si v naší zprávě povšimli zdánlivě nevinného výroku, že "mocná heuristika komunikačních technologií se ukáže jako produktivní, i když je - nebo by mohla být - uskutečněna jen v malé míře.[viz:Sekce 5.]“ Funkce, které nás zajímaly, jsou nejen funkce technologie jako takové, ale také funkce idejí, které technologii pohánějí, ať nakonec technologické realizace spatří světlo světa či nikoli.

Ve své vlastní práci jsem se pokusil ukázat, jak "mechanizace mysli" předcházela a podmínila samotný vynález počítače, což samo o sobě klade otázky po antropomorfizaci stroje typu "může stroj myslet?“. Na podobnou otázku zastánci koncepce "mechanizace mysli" mohli odpovědět jedině kladně, protože už předem definovali činnost myšlení jako jistou vlastnost, která je typická pro jistou třídu strojů.

Co je součástí metafyzického programu, který se z komunikačních technologií vyvinul? Smyslem konvergentních technologií je od přírody a života převzít iniciativu a stát se inženýrem evoluce. Dosavadní evoluce spočívala v podstatě v pouhém "bastlení“. Může uvíznout ve slepých uličkách a dostat do koncových stavů. Proto je nutné, aby roli evoluce převzal člověk a stal se tak sám konstruktérem biologických a přírodních procesů. Člověk pak bude moci participovat na vytváření života.

Pokud by taková technologická a filozofická agenda byla vůbec myslitelná, je to samozřejmě proto, že byly Příroda a Život předem redefinovány jako pojmy, patřící do kategorie artefaktů. Podívejme se jak Damien Broderick - jeden z nejhalasnějších šampionů NBIC - dějiny života, nebo, jak sám říká "živých replikátorů“ přepisuje:

"Po miliardy let se genetické algoritmy v planetárním množství hemžily na povrchu Země, v moři, a jak nyní víme, také hluboko uvnitř. Replikovaly se, mutovaly a ovlivnil je úspěch jejich tedy těl, které vznikly jako soupeření o přežití v makrosvětě. Nakonec se celá živá ekologie planety akumulovala a představuje obrovské množství komprimovaných, schematických informací". Jakmile je jednou život transformován do artefaktu, další krok spočívá v tom položit si otázku, zda by to lidská mysl neprovedla lépe. Autor se rétoricky ptá: "Je pravděpodobné, že nanosystémy navržené lidskou myslí by se všemu tomu darwinovskému bloudění mohly vyhnout a rovnou přikročit k tomu, jak navrhnout úspěch?“(6)

"Naturalizace mysli“ jak to kognitivní vědy samy nazvaly, byla od okamžiku jejího vzniku v rámci kybernetiky po současnost, její filozofická agenda. I když je to obrovský paradox, není žádným překvapením, že naturalizace mysli se propojuje s artificializací nebo s mechanizací mysli. Podnikání s cílem naturalizovat mysl, uskutečňuje obor, který si říká AI - umělá inteligence. Je jisté, že kýžený proces naturalizace probíhá díky mechanizaci. To je v souladu s představou světa, který s přírodou zachází jako s gigantickým komputačním aparátem. Není také překvapení, že člověk je uvnitř takového světa jen dalším strojem. Ale ve jménu čeho, nebo koho bude takový "arteficializovaný“ člověk uplatňovat moc nad sebou samým? Ve jménu slepého mechanismu, s nimž se identifikuje? Ve jménu smyslu, o němž tvrdí, že je to pouhé zdání nebo fenomén? Jeho vůle a schopnost rozhodování jsou na okraji propasti. Touha navrátit mysl do světa přírody, kde vznikla, končí tím, že mysl je vyhnána ze světa i z přírody. Ten paradox je příznačný pro jev, který ve velkolepé knize o genezi moderního individualismu, sociolog Louis Dumont označil jako obecný model moderního artificialismu, jako systematické aplikování vnější, vnucené hodnoty na věci světa. Není to hodnota, vyrůstající z naší propojenosti se světem, z harmonie a našeho souladu se světem, ale o hodnotu, vyrůstající z naší cizosti, heterogenity vůči světu: ztotožnění naší vůle s vůlí Boží (Descartes: člověk se stává pánem a vlastníkem přírody). Tak je použita vůle vůči světu, hledaný cíl, motiv a hluboký impuls vůle jsou [všechny] cizí. Jinými slovy, jsou mimo tento svět. Mimo-světnost je koncentrována v individuální vůli."(7)

V průběhu mechanizace mysli, jestliže zacházíme s myslí jako s věcí, předpokládá mysl, že nad touto věcí bude uplatňovat moc v takovém rozsahu, v jakém se psychologie, která se považuje za vědeckou, dosud nesnilo, že by jí mohla dosáhnout. Mysl může doufat, že s touto mechanizovanou verzí sebe sama může podle libosti nejen manipulovat, ale dokonce ji může reprodukovat a vyrábět podle vlastních přání a záměrů. Takže současné i budoucí technologie mysli otevírají před sebou obrovský prostor, na který - chce-li jim dát smysl a účel - člověk musí použít vlastní normy. Lidský subjekt se tak musí uchýlit k dodatečnému nadání vůle a svědomí, aby určil, nikoliv co může dělat, ale co by měl dělat – nebo spíš co by dělat neměl. Konvergentní technologie předpokládají vytvoření celé etiky. Ale mluvit zde o etice, o svědomí, nebo vůli – neznamená to také mluvit o triumfujícím subjektu?

Naše situace je tedy zároveň paradoxní i rozporuplná. Je paradoxní, protože artificializace přírody vede k vítězství subjektivity, potože na sebe lidstvo bere zodpovědnost za všechno. Je rozporuplná, protože naturalizace člověka nahrazuje autonomní subjekt slepým algoritmem.

Součástí symetrických procesů naturalizace lidstva a artificializace přírody není jen transformace našeho obrazu světa (8). Věda i filozofie skutečně ještě nedávno popisovaly člověka jako bytost, která není zcela součástí přirozeného řádu. Vnímání lidské mysli, buď protože obsahuje božskou jiskru, nebo proto že je ve své podstatě historická, alespoň částečně uniklo soudní pravomoci přírodovědy. Vládl také názor, že co je umělé, je jasně oddělené od přirozeného. I když se o technologii uvažovalo jako o něčem, co je založeno na přírodních zákonech, které drží svět pohromadě, panovala shoda, že lidské artefakty se vynálezům přírody nemohou rovnat. Tento obraz našeho světa se proměnil; nikdo takto už neuvažuje. Změnil se nejen způsob, jak reprezentujeme co existuje. Také samotný svět, který reprezentujeme se proměnil.

Pokud se svět změnil, není to jen z důvodu, že naše reprezentace světa se staka součástí světa, a pokud se změnila, musel se tím změnit i samotný svět. Ještě důležitější je, že moderní věda není ani tak reprezentace světa, jako spíš akce, akt stvoření. Vico, Hobbes a Locke, ti všichni věřili, že politika a matematika nabízí větší jistotu a je přísnější vědou, než fyzika nebo dějiny přírody. Podle nich je to zapříčiněno tím, že lidé se stali světem politiky a matematiky, zatímco přírodu stvořil Bůh. Proto můžeme naprosto transparentně do hloubky porozumět politice a matematice, tak jak řemeslník rozumí tajemství svých vynálezů. Na druhou stranu zůstane příroda pro nás navždycky neprůhledná. Dokážeme popsat její chování a navrhnout hypotézy, který mohou vysvětlit to, co vidíme, ale nikdy nebudeme schopni sdílet vědomosti Velkého Umělce, který okolní svět stvořil.

Toto všechno experimentální věda změnila. Napřed experimentem a později díky technologii jsme se stali sami tvůrcem světa, světa který jsme studovali. Příroda do naší vědy vstoupila úzkými vrátky propracovaných příprav a produkcí jevů, které by přirozeně nikdy nevznikly, alespoň pokud znamená vnikat přirozeně existovat bez lidského zásahu. Nakonec nedává smysl ptát se, jestli jsou naše výtvory přirozené nebo nejsou. Příroda – nyní považovaná za objekt, který jsou vědy schopny popsat - se neliší od věcí, které tvoříme a které vyrábíme. Nejde o něco, co je kdesi tam venku, co by existovalo samo o sobě. Poslední důvod, proč se příroda stala arteficiální není to, co naše věda říká o světě, ale to, že přírodním jevům rozumíme tím, že je vytváříme. Horizontem této ''scienza nuova'', této nové vědy, tohoto nového způsobu přístupu k přírodě, jehož příchod ''Giambattista Vico'' prorokoval již na začátku 18. století jsou ''konvergentní technologie''.

Podobný argument platí také pro nás. Naturalizace lidstva nespočívá jen v tom, že bychom kulturu nebo dějiny považovali spíš za přírodní proces, ale v tom, čím se od přírody odlišujeme. Nezáleží na tom, že máme nové vědecké nástroje, jako je kognitivní věda, které nám slibují, že porozumíme myšlení, lidským činům nebo náboženství v relaci přírodovědy. Nové obory se pokoušejí starý obraz o nás, který jsme zdědili po tradicích humanitních věd nahradit obrazem novým, který člověka definuje jako cosi přírodního a pouze přirozeného. Ale proces "naturalizace" člověka neznamená ani tak proměnu obrazu lidstva a změnu našeho postavení vůči světu přírody. Naturalizace lidstva znamená zejména naši mechanizaci, "artificializaci“. Tak jako naše životní prostředí, jsou také naše těla a naše mysl v rostoucí míře výsledkem našich vědeckých procesů: od Prozacu po kardiostimulátory, od kožních štěpů po genetické kodování, od průmyslově vyráběného inzulínu po umělé oplodnění, od mozkových implantátů pro stimulaci nepravděpodobného centra štěstí a rozšíření našich kognitivních kapacit. Jsme zároveň nečím přírodním, i něčím uměle vytvořeným. Jsme přirození jen do té míry, že se můžeme proměnit v umělý předmět, artefakt, vědecký produkt a podle zákonů přírody můžeme sami sebe transformovat, vylepšovat, vykoupit a exploatovat.

Na závěr bych zde rád odkázal na dávnou moudrost, která je dnes - alespoň se mi tak zdá - aktuálnější, než kdy předtím: "Na co by člověku bylo, kdyby získal pro sebe celý svět a přitom ztratil svou duši?“ (nebo: "co prospěje člověku, by všecken svět získal, a své duši škodu učinil?" (Bible, evangelium podle Marka, 8:36).

Jean-Pierre Dupuy je profesor filosofie na pařížské Ecole Polytechnique a Stanfordské univerzitě; je také člen skupiny HLEG "The New Technological Wave" při Evropské komisi.

Email: jpdupuy@stanford.edu

Poznámky pod čarou:

1.(DO WE SHAPE TECHNOLOGIES, OR DO THEY SHAPE US, byl název přednášky ze kterého vznikl tento text. nikde jsem nenašel informaci kde byla přednáška přednesena). (poznámka překladatele)

2.Robin Williams and David Edge: "The social shaping of technology", Research Policy, 25, 1996, 865-99, p. 875.

3.L'homme fait de la métaphysique comme il respire, sans le vouloir et surtout sans s'en douter la plupart du temps." in: E. Meyerson, De l'explication dans les sciences (Paris, 1927).

4.viz: Jean-Pierre Dupuy, The Mechanization of the Mind, Princeton University Press, 2000.

5.Damien Broderick, The Spike, Forge, New York, 2001, p. 116.

5a."Converging Technologies for Improving Human Performance" (CTIHP) is a 2002 report commissioned by the U.S. National Science Foundation and Department of Commerce. The report contains descriptions and commentaries on the state of the science and technology of the combined fields of nanotechnology, biotechnology, information technology and cognitive science (NBIC) by major contributors to these fields. Potential uses of these technologies in improving health and overcoming disability are discussed in the report, as well as ongoing work on planned applications of human enhancement technologies in the military and in rationalization of the human-machine interface in industrial settings." viz: [https://www.zdnet.com/article/what-utopia-can-technology-deliver/ www.zdnet.com/article/what-utopia-can-technology-deliver/]

6.Ibid., p. 118.

7.Louis Dumont, Essais sur l'individualisme, Seuil, Paris, 1983.

8.Co zde následuje jsem převzal z textu, který vznikl ve spolupráci s Paulem Dumouchelem "Nature and Mimetic Theory" - který byl přednesen na Symposium COV&R "Nature, Human Nature, and the Mimetic Theory", Ghost Ranch, Abiquiu, v New Mexico, USA, 2-5 června 2004.

bio: Jean-Pierre Dupuy je filosof a profesor sociální a politické filozofie na École Polytechnique v Paříži. Ředitel výzkumu na [C.N.R.S.] (https://lejournal.cnrs.fr/ C.N.R.S.) a ředitel C.R.E.A.(Centre de Recherche en Épistémologie Appliquée), filozofické výzkumné skupiny na École Polytechnique, kterou založil v roce 1982. Na Stanfordské univerzitě působí jako výzkumník na Study of Language and Information (CSLI). Jeho kniha Původ kognitivní vědy, mechanizace mysli MIT Press, 2009, osvětluje historické a společenské okolnosti vzniku kybernetiky, která položila základy kognitivních věd, ale také výzkumu umělé inteligence a předznamenala rozvoj Teorie chaosu, Teorie komplexity a dalších vědeckých a filozofických zásadních proudů během druhé poloviny 20. století. Na rozdíl od vládnoucích představ zde Dupuy dokládá, že kybernetika nebyla postavena na koncepci antropomorfizace stroje, ale naopak na myšlence mechanizace člověka. Zakladatelé kybernetiky jako John von Neumann, Norbert Wiener, Warren McCulloch a Walter Pitts – zamýšleli konstruovat materialistickou a mechanistickou vědu o mentálním chování, která by konečně vyřešila dávnou filozofickou otázku vztahu myšlení a hmoty. Podle Dupuye nespočívá význam kybernetiky pro kognitivní vědu v odvážném pojetí lidské mysli viděné z perspektivy funkcionality aparátu, ale v tom jak silné a slabé stránky kybernetického přístupu osvětují diskuzi, probíhající mezi kognitivisty a konekcionisty, funkcionalisty a antiredukcionisty. Dupuy popisuje intelektuální turbulence, ze které se před šedesáti lety zrodila kognitivní vědy a vizi kybernetických myšlenek staví proti zklamání, které následovalo, po jejím odmítnutí a odsouzení k intelektuálnímu zapomnění. Koncepce Mechanizace mysli se objevila znovu jako rámcové paradigma konvergence nanotechnologie, biotechnologie, informačních technologií a kognitivních věd.

Výběr z bibliografie:
The Mark of the Sacred
On the Origins of Cognitive Science, The Mechanisation of the Mind

Z anglického textu:"DO WE SHAPE TECHNOLOGIES, OR DO THEY SHAPE US". dostupného na Dupuy, Do we Shape Technologies přeložil Miloš Vojtěchovský v roce 2006.

další odkazy:
Jean-Pierre_Dupuy
lecture: On the Eternal Silence of These Infinite Spaces
Ross Ashby: Principle of Self Organizing Systems.pdf