Příklad Zrádného Inženýrství
📊 Souhrn
Ben Laugelli ve své přednášce “Příklad Zrádného Inženýrství” využívá příběh Frankensteina od Mary Shelleyové jako varovný příklad toho, co se stane, když technologický pokrok selže v souladu s etickými hodnotami. Zdůrazňuje, že Victor Frankenstein, nadaný student a inovátor, se dopustil zásadních chyb, které vedly k tragickým důsledkům. Mezi tyto chyby patří nezodpovědná inovace, kdy Victor opustil své stvoření, dále domýšlivost a nedostatek předvídavosti, tajnůstkářství a izolace během vědecké práce, a v neposlední řadě genderová předpojatost, která vedla k vyloučení žen z inovativního procesu.
Laugelli vyzývá budoucí inženýry, aby se z Victorových chyb poučili. Místo nezodpovědnosti by měli praktikovat zodpovědnou péči, místo unáhlenosti a domýšlivosti by měli být obezřetní a důkladně promýšlet dopady svých činů. Namísto práce v utajení by měli upřednostňovat transparentnost a odpovědnost a místo předsudků by se měli snažit o spravedlnost a inkluzivitu. Laugelli zdůrazňuje, že inženýři mají obrovskou moc a jejich rozhodnutí mohou mít hluboký dopad na svět, a proto je klíčové, aby etika a technologie pracovaly ruku v ruce.
📝 Přepis
Ahoj, jsem Ben. Na Virginská univerzitě učím studenty inženýrství o sociálních a etických dopadech jejich práce. Ve třídě jim kladu jednu otázku. Co se stane, když technologický pokrok selže, nesouladí s našimi etickými hodnotami čtvrtinu cesty do 21. století? Je to jedna z nejpalčivějších otázek naší doby. Jednu z nejpřesvědčivějších odpovědí však dala před více než 200 lety osmnáctiletá mladá žena, Mary Shelleyová, autorka Frankensteina.
Frankenstein jako varování
Protagonista Shelleyové románu je nadaný student univerzity jménem Victor Frankenstein. Victor je inovátor. Je to tvůrce změn. Je vysoce kreativní a motivovaný a jeho cílem je dosáhnout něčeho s hlubokým sociálním dopadem. Zní to povědomě? Zní to jako mnozí z vás tady v místnosti, že? Ale je tu háček. Victorův příběh není vyprávěn, aby inspiroval k napodobování. Je to varovný příběh o nebezpečích zrádného inženýrství. A tady je to, když se technologie a etika neshodují, výsledkem je monstrózní.
Počátek Victorovy cesty
Tak kde to všechno začalo? No, když byl Victor na studiích, učiní ohromující objev. Zjistí zdroj života, to, co dělá něco živým. Aby otestoval svůj objev, vyvine jakýsi důkaz konceptu. Pracuje do noci, sbírá části z tlejících mrtvol, sestavuje je dohromady do těla a oživuje je elektrickou jiskrou. Výsledkem je nový druh stvoření, které nevzniklo přirozeným plozením, ale v laboratoři, pomocí vědy a inženýrství. Je to mimořádný úspěch. Victor je průkopník v bioinženýrství, v technologii AI. Při pohledu na svou práci Victor žasne nad, cituji, ohromující mocí vloženou do mých rukou. Ale příběh, který Victor ve skutečnosti vypráví, je o pošetilosti tohoto podniku. Chce, aby ti, kdo poslouchají, odvodili z mého příběhu vhodný morální ponaučení.
Ponaučení z Victorova příběhu
Takže, pokud je Victorův příběh varovný, před čím varuje? Kdyby tu byl Victor dnes, co by řekl? No, myslím, že Victor by nás varoval před nezodpovědnou inovací. Jakmile Victor přivede stvoření k životu, opustí ho. Odmítá převzít odpovědnost za svou kariéru. A ta bolestivá zkušenost zanedbávání naplňuje stvoření hlubokým smutkem, který časem vybuchne v vražednou zuřivost.
Časem stvoření vystopuje Victora na ledových svazích švýcarských Alp a konfrontuje ho. Připomíná Victorovi jeho etickou povinnost péče. “Ty, můj stvořiteli, mě nenávidíš a pohrdáš mnou, tvým stvořením, ke kterému jsi vázán, plň svou povinnost vůči mně.” Potom stvoření varuje Victora před hroznými následky zanedbávání. “Na tobě záleží, zda povedu neškodný život nebo se stanu metlou tvých bližních a autorem tvé vlastní rychlé zkázy.” To je to, co je v sázce, když inovátoři jednají nezodpovědně. Pokud se nestaráme o věci, které vyrábíme, riskujeme, že se tyto věci promění v monstra.
Varování před domýšlivostí
Myslím, že Victor by nás také varoval před nebezpečím domýšlivosti. V jednom okamžiku Victor přiznává, v záchvatu nadšeného šílenství, nesmyslné zvědavosti, vytvořil jsem racionální stvoření. Victor zde připouští, že přivedl k životu něco, co má vlastní vůli, jehož činy nemůže předvídat ani kontrolovat. Nakonec se stvoření obrátí proti Victorovi a vezme mu všechno a všechny, které má rád. Takže, když jsou inovátoři povzbuzováni k unáhlenému jednání bez dostatečné předvídavosti, víte, jednej rychle a porušuj věci, Victorův příběh by nás měl přimět k zamyšlení. Jen proto, že můžeme, neznamená, že bychom měli. Zpomalme, zamysleme se. Zvažme potenciální dopady našich návrhů dříve, než převezmou vlastní život, ať už k dobrému nebo ke zlému.
Pozor na izolaci
Myslím, že Victor by nás také varoval, abychom se měli na pozoru před sebeizolací. Když Victor objeví zdroj života, izoluje se ve své laboratoři. Nemá kontakt s profesory, přáteli, dokonce ani s členy své rodiny. Zpět domů. Vyhýbal jsem se svým bližním, jako bych byl vinen ze zločinu, říká. Pracuje Victor v ústraní proto, že na nějaké úrovni cítí, že to, co dělá, není skutečné? Vidíte, pro někoho jako je Victor, může být výhodou pracovat v tajnosti. Pokud nikdo neví, co dělá, pak ho nikdo nemůže volat k odpovědnosti nebo zasáhnout, aby ho zastavil. Victorova izolace pak varuje před vědeckou a inženýrskou prací, která je prováděna v tajnosti, která je netransparentní, která nechává veřejnost neinformovanou, nezapojenou, a tak zranitelnou.
Kritika genderové nerovnosti
Konečně, myslím, že by nás Victor varoval před předsudky. Vidíte, když se Victor vydává vytvořit stvoření, je tu něco, nebo spíše někdo, kdo v tomto procesu nápadně chybí. Žena. Victor přivede stvoření k životu sám, bez ženské partnerky. Pokud bude úspěšný, uvažuje, nový druh mi bude žehnat jako svému stvořiteli a zdroji. Victor, pracující sám ve své laboratoři, provedl osamělý akt technologického plození, který účinně odstraňuje ženy z tohoto procesu. Odstavil ženy od účasti na vědeckém zkoumání a inovacích. Pro Victora je inženýrství klub pro chlapce. Ženy se nemusí hlásit. Pokud jde o Shelleyové román, tento druh zaujatého vyloučení pouze plodí monstra. Učte se ode mě, naléhá Victor, pokud ne mými zásadami, alespoň mým příkladem.
Poučení pro budoucnost
Tak co můžeme dělat? Jak si můžeme vzít Victorovo varování k srdci? Victor jednal nezodpovědně, ale my můžeme praktikovat zodpovědnou péči. Victor byl unáhlený a domýšlivý, ale my můžeme praktikovat obezřetnost a předvídavost. Victor pracoval v tajnosti, ale my můžeme upřednostňovat transparentnost a odpovědnost. Victorova práce byla zaujatá, ale naše může být spravedlivá a inkluzivní. Victor měl ale v jedné věci pravdu. Jako inovátoři zítřka máte všichni v rukou ohromující moc. Jak Victor řekl Stvoření, na vás to záleží. Obhatí vaše práce naše životy a zlepší náš svět, nebo přinese újmu, zkázu a lítost? Frankenstein varuje, že když se technologie a etika neshodují, výsledkem je monstrózní. Ale když se shodují, když technologie a etika pracují společně, no, to je příběh, který doufám, že napíšete vy všichni. Děkuji.
🔍 Kritické zhodnocení
Přednáška Bena Laugelliho nabízí zajímavý pohled na etické aspekty inženýrství skrze optiku klasického díla Frankenstein od Mary Shelleyové. Autor efektivně využívá paralely mezi příběhem Victora Frankensteina a současnými výzvami v oblasti vědy a techniky. Nicméně, je důležité podívat se na některé z argumentů hlouběji a zvážit je v kontextu moderní vědy a etiky.
Laugelli kritizuje nezodpovědnou inovaci, domýšlivost, izolaci a genderové předsudky, které vedly k tragédii ve Frankensteinovi. Tyto kritiky jsou relevantní i v dnešní době, kdy se často setkáváme s uspěchaným vývojem technologií bez dostatečného zvážení etických dopadů. Například, v oblasti umělé inteligence se často diskutuje o rizicích algoritmických biasů, které mohou vést k diskriminaci a nespravedlnosti (O’Neil, 2016). Podobně, vývoj nových biotechnologií, jako je CRISPR, vyvolává obavy z možných nezamýšlených důsledků a nutnosti etické regulace (Doudna & Charpentier, 2014).
Co se týče izolace a utajování ve vědeckém výzkumu, je pravda, že transparentnost a otevřená komunikace jsou klíčové pro budování důvěry veřejnosti a zajištění odpovědného vývoje technologií. Studie ukazují, že vědecká komunikace a zapojení veřejnosti do vědeckého procesu mohou vést k lepšímu porozumění a podpoře vědeckých inovací (National Academies of Sciences, Engineering, and Medicine, 2017). Nicméně, je také důležité si uvědomit, že v některých oblastech výzkumu může být určitá míra utajení nezbytná pro ochranu duševního vlastnictví a konkurenceschopnosti.
Celkově lze říci, že přednáška Bena Laugelliho je cenným příspěvkem k diskusi o etických aspektech inženýrství a vědy. Použití příběhu Frankensteina jako varování je účinný způsob, jak zvýšit povědomí o rizicích nezodpovědného vývoje technologií a podnítit k zamyšlení nad etickými důsledky našich činů. Je však důležité přistupovat k těmto otázkám komplexně a zvážit různé perspektivy a kontexty, abychom mohli vytvářet informovaná a odpovědná rozhodnutí v oblasti vědy a techniky.
Zdroje:
- Doudna, J. A., & Charpentier, E. (2014). Genome editing. Science, 346(6213), 1258096.
- National Academies of Sciences, Engineering, and Medicine. (2017). Communicating science effectively: A research agenda. Washington, DC: The National Academies Press.
- O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.
