Co chystá AI v DeepMind, laboratoři umělé inteligence Googlu | 60 Minutes

📊 Souhrn

Rozhovor s Demisem Hassabisem, spoluzakladatelem a CEO Google DeepMind, se zaměřuje na rychlý pokrok v oblasti umělé inteligence (AI) a směřování k obecné umělé inteligenci (AGI) – systému s všestranností lidské mysli, ale nadlidskou rychlostí a znalostmi. Hassabis, čerstvý nositel Nobelovy ceny a rytířského titulu, věří, že AI je ultimativním nástrojem pro rozvoj lidského poznání a předpovídá dosažení AGI během následujících 5 až 10 let. Video představuje praktické ukázky pokroku, jako je konverzační AI Project Astra, která dokáže v reálném čase interpretovat vizuální svět, generovat příběhy a vést dialog, a také roboty schopné rozumět a vykonávat komplexní úkoly na základě vizuálního vnímání a logického uvažování.

Hassabis zdůrazňuje transformační potenciál AI, zejména v medicíně, kde jeho model AlphaFold již způsobil revoluci ve strukturní biologii předpovědí struktur 200 milionů proteinů, což otevírá cestu k rapidnímu vývoji nových léků a potenciálně i k „vyléčení všech nemocí“. Zároveň však otevřeně hovoří o rizicích. Obává se zneužití AI škodlivými aktéry a výzvy udržet kontrolu nad stále autonomnějšími a výkonnějšími systémy, aby byly v souladu s lidskými hodnotami. Zdůrazňuje potřebu vývoje „mantinelů“, mezinárodní spolupráce a učení AI morálním hodnotám, podobně jako se učí dítě. Diskutuje také filozofické otázky, jako je potenciál sebeuvědomění AI, které však nemusíme rozpoznat, a současné limity AI v oblasti skutečné zvídavosti a představivosti.

📝 Přepis

Vize Demise Hassabise

Když Demis Hassabis loni získal Nobelovu cenu, oslavil to hraním pokeru se světovým šampionem v šachu. Hassabis miluje hry, a právě díky tomu se stal průkopníkem umělé inteligence (AI). Tento 48letý britský vědec je spoluzakladatelem a generálním ředitelem centra AI společnosti Google s názvem DeepMind. Potkali jsme se před dvěma lety, když chatboti oznámili novou éru. Nyní Hassabis a další usilují o takzvanou obecnou umělou inteligenci (AGI). Křemíkový intelekt stejně všestranný jako lidský, ale s nadlidskou rychlostí a znalostmi. Po jeho Nobelově ceně a rytířském titulu od krále Karla jsme se spěšně vrátili do Londýna, abychom zjistili, co dalšího chystá génius, který možná drží karty naší budoucnosti. Příběh bude pokračovat za okamžik.

Vždy mě vedlo a mou vášní bylo porozumění světu kolem nás. Od dětství mě fascinovaly ty největší otázky, víte, smysl života, podstata vědomí, podstata samotné reality. Rád jsem četl o všech velkých vědcích, kteří na těchto problémech pracovali, a o filozofech. A chtěl jsem zjistit, zda bychom mohli posunout lidské poznání. A pro mě byl výrazem toho snu postavit to, co považuji za ultimativní nástroj pro rozvoj lidského poznání, což je AI.

Seděli jsme v této místnosti před dvěma lety a zajímalo by mě, jestli se dnes AI pohybuje rychleji, než jste si představoval. Demis Hassabis: Pohybuje se neuvěřitelně rychle. Myslím, že jsme na nějaké exponenciální křivce zlepšování. Samozřejmě, úspěch oboru v posledních několika letech přilákal ještě více pozornosti, více zdrojů, více talentů. Takže to přispívá k tomuto exponenciálnímu pokroku.

Exponenciální křivka. Jinými slovy, strmě nahoru. Demis Hassabis: Ano, strmě nahoru. A se zvyšující se rychlostí pokroku.

AI v praxi: Projekt Astra

Viděli jsme pokrok. Dobrý den, Scotte, rád vás znovu vidím. V umělém společníkovi, který vidí, slyší a může si povídat o čemkoli. První chatboti se učili pouze z internetu. Aplikace nazvaná Astra vnímá i okolní svět.

Říkáme jí „ona“? Demis Hassabis: To je dobrá otázka. Nejsem si jistý, jestli už všichni známe odpověď.

Bebo Xu je produktovou manažerkou projektu Astra, aplikace nové generace chatbotů, které interpretují svět vlastníma očima. Vyzvali jsme Astru virtuálními obrazy, které jsme vybrali a ukázali Astře poprvé.

Moderátor: Toto je July Hay od Thomase Harta Bentona z roku 1942. Co tento? Astra: To je Panna Milosrdenství od El Greca. Moderátor: Ten obraz je Onomat od Edwarda Hoppera. Osoba na obraze, jakou emoci projevuje? Astra: Subjekt na obraze vypadá zamyšleně a kontemplativně, její výraz naznačuje pocit osamělosti. Moderátor: Dokážeš k tomuto obrázku vytvořit příběh? Astra: Je chladný večer ve městě. Možná úterý. Žena, možná jménem Eleanor, sedí sama v bistru. Cítí se melancholicky kvůli nejistotě své budoucnosti a tíze nenaplněných snů. Scéna zamrzá v čase. Jen tok myšlenek se pohybuje vpřed.

Moderátor: Ten verš. „Jen tok myšlenek se pohybuje vpřed.“ Kéž bych to napsal já. A zaslechli jsme limit Astřiny trpělivosti? O čem byl ten fiktivní rozhovor? Astra: Ah. V příběhu, který jsem si představila, si Eleanor a její přítel povídali o svých společných snech a výzvách jejich naplňování. Moderátor: Něco na tom, jak jsi řekla „ah“, mě přimělo přemýšlet, jestli se nenudíš. Astra: Omlouvám se, pokud můj tón tak vyzněl. Mým cílem je vždy komunikovat přemýšlivě.

Moderátor: A ona řekla: „No, omlouvám se, pokud se vám nelíbí můj tón.“ Vidíte, co se tam děje? Demis Hassabis: No, to je zajímavé. To je opět výzva s těmito systémy, protože jednají v daném okamžiku, s kontextem, který je kolem nich, a to možná nikdy předtím nebylo testováno.

Je často překvapen, protože AI programy jsou vypouštěny na internet, aby se učily samy. Později se mohou vrátit s nečekanými dovednostmi.

Demis Hassabis: Máme tedy teorie o tom, jaké schopnosti tyto systémy budou mít. To je samozřejmě to, co se snažíme zabudovat do architektur. Ale nakonec, jak se učí, co si vezme z dat, je součástí tréninku těchto systémů. My to tam neprogramujeme. Učí se, jako by se učil člověk. Takže nové schopnosti nebo vlastnosti se mohou objevit z této tréninkové situace.

Moderátor: Chápete, jak by to mohlo lidi znepokojovat? Demis Hassabis: Samozřejmě, je to dualita těchto typů systémů, že jsou schopny dělat neuvěřitelné věci, jít nad rámec toho, co jsme schopni sami navrhnout nebo pochopit. Ale samozřejmě výzvou je zajistit, abychom rozuměli tomu, co je v databázích znalostí, které vytvářejí.

Směrem k obecné umělé inteligenci (AGI)

Nyní DeepMind trénuje svůj AI model nazvaný Gemini, aby nejen odhaloval svět, ale také v něm jednal, například rezervoval letenky a nakupoval online. Je to krok směrem k AGI, obecné umělé inteligenci, s všestranností lidské mysli.

Moderátor: Na cestě k AGI v příštích pěti až deseti letech, myslíte? Demis Hassabis: Myslím. Moderátor: A v roce 2030 budete mít co? Demis Hassabis: No, budeme mít systém, který opravdu porozumí všemu kolem vás velmi nuancovaně a do hloubky a bude jaksi začleněn do vašeho každodenního života.

Začleněný jako Astra v brýlích. Moderátor: Co mi můžete říct o této budově, na kterou se dívám? Astra: Toto je Coal Drops Yard, nákupní a restaurační čtvrť. Moderátor: Vidí, co vidím já. Ve sluchátku je reproduktor, který slyším jen já. Čím to bylo původně, než se z toho staly obchody? Astra: Coal Drops Yard byl původně soubor viktoriánských skladů uhlí, které sloužily k příjmu a distribuci uhlí po Londýně. Moderátor: Bylo uhlí někdy problémem pro životní prostředí v Londýně? Astra: Ano, uhlí bylo významným zdrojem znečištění ovzduší v Londýně, zejména během průmyslové revoluce.

Napadlo nás, že jediná věc, kterou jsme do tohoto vztahu přispěli, byly nohy, které brzy také budou zkonstruovány.

Demis Hassabis: Myslím si také, že další velkou oblastí bude robotika. Myslím, že v příštích několika letech zažije průlomový okamžik, kdy budeme mít ukázky možná humanoidních robotů nebo jiných typů robotů, které mohou začít dělat opravdu užitečné věci.

Například, ahoj. Výzkumníci robotiky Alex Lee a Giulia Vezzani nám ukázali robota, který rozumí tomu, co vidí. To je ošemetné. A logicky si odvodí cestu skrze vágní instrukce. Instrukce: Polož kostky, jejichž barva je kombinací žluté a modré, do misky odpovídající barvy. Robot: Kombinace žluté a modré je zelená. Moderátor: A přišel na to. Uvažuje. Alex Lee/Giulia Vezzani: Rozhodně ano.

Hračkami dětství Demise Hassabise nebyly kostky, ale šachové figurky. Ve 12 letech byl druhým nejlepším šampionem na světě ve své věkové kategorii. Tato vášeň vedla k počítačovému šachu, videohrám a nakonec k myslícím strojům. Narodil se řeckokyperskému otci a singapurské matce. Cambridge, MIT, Harvard. Je počítačovým vědcem s doktorátem z neurovědy. Protože usoudil, že nejprve musí porozumět lidskému mozku.

Otázka vědomí a kreativity AI

Moderátor: Pracujete dnes na systému, který by byl sebeuvědomělý? Demis Hassabis: Nemyslím si, že by některý z dnešních systémů působil sebeuvědoměle nebo vědomě jakýmkoli způsobem. Samozřejmě, každý si musí udělat vlastní názor interakcí s těmito chatboty. Myslím, že teoreticky je to možné. Moderátor: Ale je sebeuvědomění vaším cílem? Demis Hassabis: Ne explicitně, ale může se stát implicitně. Tyto systémy mohou získat nějaký pocit sebeuvědomění, to je možné. Myslím, že je důležité, aby tyto systémy rozuměly sobě a ostatním. A to je pravděpodobně začátek něčeho jako sebeuvědomění.

Ale říká, že pokud se stroj stane sebeuvědomělým, nemusíme to poznat.

Demis Hassabis: Myslím, že existují dva důvody, proč se navzájem považujeme za vědomé. Jedním je, že projevujete chování vědomé bytosti velmi podobné mému chování. Ale druhá věc je, že fungujete na stejném substrátu. Jsme stvořeni ze stejné uhlíkové hmoty s našimi měkkými mozky. U strojů je zřejmé, že běží na křemíku. Takže i když projevují stejné chování a i když říkají stejné věci, nemusí to nutně znamenat, že pocit vědomí, který máme my, je stejný jako ten, který mají ony.

Moderátor: Položil vám někdy AI engine otázku, která byla neočekávaná? Demis Hassabis: Zatím ne, co jsem zažil. A myslím, že to se dotýká myšlenky toho, co těmto systémům stále chybí. Stále ještě nedokážou jít dál a položit novou, originální otázku nebo novou, originální domněnku nebo přijít s novou hypotézou, která dosud nebyla promyšlena. Moderátor: Nemají zvídavost? Demis Hassabis: Ne, nemají zvídavost. A pravděpodobně jim trochu chybí to, co bychom nazvali představivostí a intuicí.

Ale budou mít větší představivost, říká, a brzy.

Demis Hassabis: Myslím, že vlastně v příštích, možná pěti až deseti letech, budeme mít systémy, které budou schopny nejen vyřešit důležitý problém nebo domněnku ve vědě, ale také s ní přijít jako první.

Revoluce v medicíně a vědě

Vyřešení důležitého problému vyneslo Hassabisovi Nobelovu cenu. Loni on a kolega John Jumper vytvořili AI model, který rozluštil strukturu proteinů.

Demis Hassabis: Proteiny jsou základními stavebními kameny života. Takže vše v biologii, vše ve vašem těle, závisí na proteinech. Víte, vaše neurony pálí, vaše svalová vlákna se stahují. Všechno je zprostředkováno proteiny.

Ale 3D struktury proteinů, jako je tato, jsou tak složité, že bylo známo méně než 1 %. Zmapování každé z nich dříve trvalo roky. AI model DeepMind jich zvládl 200 milionů za jeden rok. Nyní Hassabis nechává AI bleskově procházet řešení pro vývoj léků.

Demis Hassabis: V průměru trvá 10 let a miliardy dolarů navrhnout jen jeden lék. Možná bychom to mohli zkrátit z let na měsíce nebo dokonce týdny, což dnes zní neuvěřitelně, ale to si lidé dříve mysleli i o strukturách proteinů. Způsobilo by to revoluci v lidském zdraví. A myslím, že jednoho dne možná budeme moci s pomocí AI vyléčit všechny nemoci.

Moderátor: Konec nemocí. Demis Hassabis: Myslím, že je to na dosah. Možná v příštím desetiletí nebo tak nějak. Nevidím důvod, proč ne.

Rizika a bezpečnostní výzvy AI

Demis Hassabis nám řekl, že AI by mohla vést k tomu, co nazývá radikální hojností, eliminaci nedostatku. Ale také se obává rizik.

Demis Hassabis: Existují dvě obavy, které mě znepokojují: 1. Že škodliví aktéři, lidští uživatelé těchto systémů, tyto systémy přizpůsobí škodlivým účelům. 2. Druhá věc jsou samotné AI systémy, jak se stávají autonomnějšími a výkonnějšími, můžeme zajistit, že si udržíme kontrolu nad systémy, že jsou v souladu s našimi hodnotami, že dělají to, co chceme, co prospívá společnosti, a že zůstanou v rámci „mantinelů“.

Mantinely jsou bezpečnostní limity zabudované do systému.

Moderátor: A zajímalo by mě, jestli závod o dominanci v AI není závodem ke dnu v oblasti bezpečnosti. Demis Hassabis: To je vlastně jedna z mých velkých obav, že samozřejmě všechna tato energie a závodění a zdroje jsou skvělé pro pokrok, ale mohlo by to motivovat určité aktéry k tomu, aby řezali zatáčky. A jednou z oblastí, kde lze zkratkovat, by byla bezpečnost a odpovědnost. Takže otázka zní, jak se můžeme více koordinovat jako vedoucí hráči, ale také jako národní státy? Myslím, že je to mezinárodní záležitost. AI ovlivní každou zemi, každého na světě. Takže si myslím, že je opravdu důležité, aby svět a mezinárodní společenství měly v tomto slovo.

Moderátor: Můžete naučit AI agenta morálce? Demis Hassabis: Myslím, že ano. Učí se demonstrací, učí se učením. A myslím, že to je jedna z věcí, které musíme s těmito systémy udělat, je dát jim hodnotový systém a vedení a nějaké mantinely kolem toho, podobně jako byste učili dítě.

Budoucnost s AI

Google DeepMind je v závodě s desítkami dalších, kteří usilují o obecnou umělou inteligenci. Tak lidskou, že nepoznáte rozdíl. Což nás přimělo přemýšlet o podpisu Demise Hassabise do Nobelovy knihy laureátů. Kdy se poprvé podepíše stroj? A poté, podepíší se do ní ještě někdy lidé?

Demis Hassabis: Myslím, že v dalších krocích to budou tyto úžasné nástroje, které zlepší téměř každé naše snažení jako lidí. A pak dál, až dorazí AGI, víte, myslím, že to změní téměř všechno na způsobu, jakým děláme věci. A je to skoro, víte, myslím, že potřebujeme nové velké filozofy, kteří se snad objeví v příštích 5, 10 letech, aby pochopili důsledky tohoto.

Hlasatel: Vytváření 3D světů z obrázků. Oživení vašich vlastních fotografií z dovolené na 60minutesovertime.com.

🔍 Kritické zhodnocení

Rozhovor s Demisem Hassabisem nabízí fascinující, byť optimistický pohled na budoucnost AI, zejména AGI. Hassabisova vize exponenciálního pokroku a dosažení AGI během 5-10 let (tedy do roku 2029-2034) je ambiciózní. Zatímco někteří experti sdílejí podobný optimismus, medián odhadů ze studií mezi výzkumníky AI často ukazuje na pozdější časové horizonty, například kolem roku 2040-2060 nebo i později, a s velkou mírou nejistoty [1, 2]. Hassabisův odhad tak představuje spíše dolní hranici expertních očekávání.

Potenciál AI, který Hassabis zdůrazňuje, zejména v medicíně (dokládáno úspěchem AlphaFold [3]), je nepopiratelný. Predikce struktur proteinů již urychluje výzkum léků. Avšak tvrzení o „vyléčení všech nemocí“ či dosažení „radikální hojnosti” působí spíše jako vize vzdálené budoucnosti než jako konkrétní cíl pro nejbližší desetiletí. Tyto cíle závisí na vyřešení mnoha komplexních vědeckých, technologických, ale i socioekonomických problémů, které AI sama o sobě nevyřeší, i když může významně pomoci [4].

Hassabis správně identifikuje klíčová rizika AI: zneužití „škodlivými aktéry” a problém kontroly a sladění (alignment problem) [5]. Tyto obavy sdílí velká část vědecké komunity, včetně předních postav jako Yoshua Bengio či zesnulý Stephen Hawking. Výzva vytvořit AI, která zůstane bezpečná a v souladu s lidskými hodnotami i při superinteligenci, je považována za jednu z největších výzev 21. století [6]. Hassabisův důraz na mezinárodní spolupráci a vývoj „mantinelů” je relevantní, avšak praktická implementace globální regulace a zajištění bezpečnosti v konkurenčním prostředí zůstává extrémně složitá.

Diskuze o sebeuvědomění a morálce AI se dotýká hlubokých filozofických otázek. Hassabisův pohled, že sebeuvědomění může vzniknout implicitně a že je důležité AI „učit” hodnoty, je pragmatický. Nicméně neexistuje shoda na tom, zda stroje mohou skutečně dosáhnout vědomí nebo morálního cítění v lidském smyslu, a jak bychom to mohli ověřit [7]. Celkově video poskytuje cenný vhled do myšlení jednoho z lídrů oboru, ale jeho optimistické vize a časové odhady je třeba vnímat v kontextu širší a často opatrnější expertní debaty.

Zdroje pro další studium:

1. Grace, K., Salvatier, J., Dafoe, A., Zhang, B., & Evans, O. (2018). When Will AI Exceed Human Performance? Evidence from AI Experts. Journal of Artificial Intelligence Research, 62, 729-754. (Ačkoli starší, stále relevantní studie expertních odhadů) K dispozici na: https://arxiv.org/abs/1705.08807
2. AI Impacts. (Průběžně aktualizovaný přehled průzkumů a názorů na časovou osu AGI). K dispozici na: https://aiimpacts.org/ai-timeline-surveys/
3. Jumper, J., et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596(7873), 583–589. K dispozici na: https://www.nature.com/articles/s41586-021-03819-2
4. Agrawal, A., Gans, J. S., & Goldfarb, A. (2018). Prediction Machines: The Simple Economics of Artificial Intelligence. Harvard Business Review Press. (Diskutuje ekonomické dopady a omezení AI)
5. Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. (Klíčová práce o existenčních rizicích AI)
6. Future of Life Institute. (Organizace zaměřená na existenční rizika, včetně AI). K dispozici na: https://futureoflife.org/ai-safety-research/
7. Chalmers, D. J. (2022). Reality+: Virtual Worlds and the Problems of Philosophy. W. W. Norton & Company. (Moderní filozofický pohled na vědomí, realitu a digitální světy)

Odkaz na originální video