Jak nás AI obsluhuje, klame a potřebuje hodnotící tabulku
📊 Souhrn
Přednáška K Krasnow Waterman se zabývá fascinujícím tématem umělé inteligence (AI) a jejího kontextu v moderním světě. Autorka zdůrazňuje, že AI, zejména generativní modely, se staly nedílnou součástí našeho života, přestože jsou často nedokonalé. Watermanová poukazuje na to, jak lidé mají tendenci přehlížet nedostatky technologií a přizpůsobovat se jim, a to i za cenu změn v právním a sociálním prostředí. Dále se zamýšlí nad tím, proč nás AI tak přitahuje, a uvádí příklady hraček, které napodobují lidské chování a vyvolávají silné emoce.
Watermanová vysvětluje, jak AI funguje na základě statistické analýzy jazyka a vytváření vztahů mezi slovy. Upozorňuje na rizika spojená s nesprávným použitím dat a potenciálními chybami, které mohou vést k mylným závěrům nebo “halucinacím” AI. Zdůrazňuje, že je důležité mít realistická očekávání ohledně schopností AI a chápat, že se jedná o nástroj, který má své limity. V závěru se Watermanová zamýšlí nad tím, jaké metriky bychom měli používat k hodnocení AI a jak zajistit, aby byla používána zodpovědně a eticky.
📝 Přepis
Vždycky mě fascinovala myšlenka kontextu, tedy to, jak rozumíme významu věcí prostřednictvím jejich vztahu k okolí. Chci mluvit o AI z tohoto pohledu. A samozřejmě, když říkám AI, mám na mysli to, o čem všichni mluvíme. Generativní AI, velké jazykové modely a agentní AI.
Začněme s trochou kontextu. Milujeme technologie, že? Všichni je milujeme. Milujeme je tak moc, že nám nevadí, že jsou trochu rozbité, že? Jsme roky v éře webových hovorů, ale kolik skupinových hovorů začíná pozdě? Stále se ptáme: “Slyšíte mě?” a kontrolujeme mikrofon. Děláme to i po letech. Ti z nás, kteří mají rádi aplikace pro výuku jazyků, jako je ta opravdu populární, se smějeme tomu, že její chatovací funkce vlastně netuší, co říkáme, že? Že když něco napíše, je to opravdu vtipné. A milujeme to natolik, že jsme dovolili změnit zákony, aby se tomu přizpůsobily. Od doby, kdy jsme poprvé zabalili smlouvu na vnější stranu krabice se softwarem, jako “ber nebo nech být”, přes změnu významu slova “zdarma” v mnoha částech světa na výměnu služeb za neustálé sledování, až po současnost, kdy se řeší otázky vlastnictví a autorských práv v oblasti generativní AI. Pokud chci mít jistotu, že někdo uvidí tuto přednášku později, jsem nucena použít PowerPoint ve stylu 90. let, protože nevím, zda budou obrázky moje, nebo ne.
A my opravdu milujeme technologie, zvláště když s námi mluví, že? Psychologové říkají, že když věci napodobují lidské chování, máme velmi hluboké reakce. Proto jsou už desítky let nejoblíbenější hračky ty, které s námi mluví. Pokud jste dost staří, vzpomeňte si na Chatty Cathy, Teddyho Ruxpina, Furbyho, Tickle Me Elmo, že? Když vám řeknou “Miluji tě”, “Chci být tvůj kamarád” a smějí se s vámi, racionální dospělí se stávají velmi iracionálními, dokonce se perou v obchodech s hračkami, když je nedostatek zboží.
🔍 Kritické zhodnocení
Přednáška K Krasnow Watermanové přináší zajímavý pohled na umělou inteligenci (AI) a její dopad na společnost. Autorka správně zdůrazňuje, že AI není dokonalá a že je důležité mít realistická očekávání ohledně jejích schopností.
Nicméně, tvrzení, že “lidský výkon je 80 %”, a proto by AI mohla mít stejnou úroveň přesnosti, je zavádějící. Jak Watermanová sama uvádí, záleží na tom, o jakou práci se jedná. U některých úkolů je vyžadována téměř dokonalá přesnost, například v medicíně nebo finančnictví. Studie ukazují, že v určitých oblastech AI již překonává lidský výkon, například v rozpoznávání obrazu (He, K., Zhang, X., Ren, S., & Sun, J. (2015). Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification. arXiv preprint arXiv:1502.01852).
Myšlenka, že bychom měli definovat “pět devítek metriku” pro AI, je relevantní. Nicméně, určení správných metrik a jejich stanovení bude vyžadovat rozsáhlou diskusi mezi odborníky, etiky a politiky. Je důležité zohlednit různé aspekty, jako je přesnost, transparentnost, zodpovědnost a etika, a stanovit standardy, které zajistí, že AI bude používána v souladu s lidskými hodnotami a právy (Future of Life Institute: https://futureoflife.org/).
