Seán Ó hÉigeartaigh (University of Cambridge): Jaká rizika pro existenci lidstva přináší rozvoj umělé inteligence

AI je definitivně tu a musíme si na ni dát pozor. Že je třeba se umělou inteligencí zabývat, dokázal v Praze Seán Ó hÉigeartaigh, výkonný ředitel Centra pro studium existenciálních rizik a senior výzkumný pomocník v Leverhulme Centrum pro budoucnost inteligence na University of Cambridge. Právě tam zkoumá dopady technologického pokroku na společnost.

V Praze během konference Týdne inovací přednášel o možných dopadech rozvoje umělé inteligence. „Míra změn je příliš rychlá, musíme spolu víc pracovat,“ zmínil několikrát. Podle něj je lehké myslet si, že AI je zatím pořád jen sci-fi – již teď ji ale najdeme ve vyhledávačích, foťácích, algoritmickém obchodování, podvodech, robotice, překládání nebo rozpoznávání hlasu.

„I když je teď kolem umělé inteligence velký hype a média o ní pořád píšou, nemyslím si, že opět zažijeme AI winter, jako se to již stalo v minulosti,“ řekl Ó hÉigeartaigh s narážkou na termín označující období s redukovaným zájmem nebo sníženým financováním výzkumu AI – tato oblast již zažila několik hype cyklů následovaných kritikou a zklamáním, pak omezenými financemi, což způsobilo pokles zájmu o umělou inteligenci na několik let.

„Nemůžeme přemýšlet o velkých technologických změnách a dalším vývoji bez přemýšlení o zlých věcech a soustředit se jen na ty dobré,“ bylo jedno z hlavních poselstev jeho přednášky. Které oblasti tedy přinášejí největší výzvy pro společnost?

  • Informace a soukromí.
  • Schopnost interpretace, co vůbec technologie dělají. Zejména když jde o tzv. black box, do kterého nalijeme data, proběhne magie a my dostaneme výsledky.
  • S tím souvisí taky předpojatost a potenciál AI přinášet nesprávné výsledky kvůli zvláštním vstupům.
  • Hackování. Třeba Chrysler musel kvůli hackerům schopným ovládat a vypnout třeba i brzdy svolat 1,4 milionu vozů.
  • Informační manipulace. Díky lepšímu cílování reklamy může být třeba politická kampaň plně personalizovaná a každý člověk o straně uvidí úplně jiné poselství. Kvůli tomu může každý z nás vidět úplně jiný svět, a tedy mu i méně rozumět.
  • Automatizace a zaměstnání.
  • A s tím související rozdělení bohatství a rovnost v společnosti.

Máme se tedy bát? Jsme na nástup umělé inteligence připraveni? Máme se vůbec snažit vyvinout lidské klony? A co si Seán Ó hÉigeartaigh myslí o výzkumu umělé inteligence v České republice? TyInternety se ptaly za vás.

Seán Ó hÉigeartaigh na Innovation Summit Prague - 26. 05. 2017 - CIIRC, Prague - (Photo: Martin Flousek)

Seán Ó hÉigeartaigh na Innovation Summit Prague – 26. 05. 2017 – CIIRC, Prague – (Photo: Martin Flousek)

NEMÁME NA VÝBĚR, MUSÍME SI S TÍM PORADIT

Během své prezentace jste mluvil o změnách, které se v technologiích a umělé inteligenci dějí opravdu rychle a že bychom neměli mluvit jen o pozitivních, ale i negativních dopadech na společnost. Je to znamení, že bychom se měli bát?

Nemyslím, že bychom se měli bát, ale je chybou mluvit jen o dobrých věcech. Když mluvíme o velkých změnách, musíme přemýšlet o velkém rozsahu následků. Pokud nebudeme správně plánovat, mluvit o možných důsledcích a nebudeme mluvit s lidmi, kteří nám mohou pomoci vyvarovat se zlým následkům, mohou nastat problémy.

Jak pravděpodobné to je?

Záleží, jak se ptáte, existuje mnoho pozitivních i negativních dopadů. Téměř určitě budou nahrazena některá zaměstnání, ale nevíme, kolik nových pozic vznikne, kolika lidí se to bude týkat a jak rychle se to bude dít. Vzniknou nové výzvy v oblasti kybernetické bezpečnosti, vyvinou se nové způsoby vedení válek. Jak dobré nebo špatné tyto změny budou, záleží na práci, kterou děláme teď, jaké máme konverzace a jaké precedenty nastanou.

Jsme všeobecně připraveni?

Nemáme na výběr, musíme si s tím poradit. Technologie se často posouvají vpřed rychleji než všechno ostatní v jejich okolí, jako je politika, regulace a angažovanost lidí. Jsme připraveni více než před pěti lety. Stále tady však budou změny, které se dějí rychleji, než očekáváme.

PREDIKCE MÁLOKDY VYJDOU. DĚLAT JE ALE MUSÍME

To jste zmiňoval i během své prezentace, technologie se posouvají rychle a my musíme být rychlejší. Co pro to musíme dělat?

Uvedu několik příkladů. Ve vládě by mělo být víc vědců. Mnoho lidí tam má politické, právnické nebo ekonomické vzdělání, což je dobře, ale pokud jste ve vládě, opravdu potřebujete chápat změny, které se v technologiích dějí. Musí existovat trvalejší angažovanost, proto má třeba vláda Velké Británie hlavního vědce [Government Chief Scientific Adviser] a jeho kancelář. Ale vlády potřebují více vědců, pokud chtějí udržet krok.

Na opačné straně, lidi pohánějící technologie, výzkumníci, vědci, nebo další, kteří nad dopady technologií přemýšlejí, musejí víc spolupracovat.

To děláte i vy na profesionální úrovni.

Ano, v Cambridge máme dvě centra – pro studium existenčních rizik, kde zkoumáme globální rizika, a Centrum pro budoucnost inteligence, kde se díváme na dopady umělé inteligence. Oba jsou multidisciplinární, spojujeme vědce, filosofy, právníky, sociální vědce, a každý z nich má propojení na vlastní disciplínu, s jejich nejlepší expertízou.

Ne všechen výzkum se musí dělat takovým způsobem, specializace je stejně cenná, ale zejména v akademické obci existuje tendence pro separaci. Technologové potkávají další technology, právníci mluví s právníky, ale možná právníci nerozumí technologiím dostatečně dobře, nebo technologové nerozumí ekonomii a tak dále. To je taky jedna z věcí, kterou bychom měli změnit, abychom byli tak rychlí, jak bychom potřebovali být.

Jak se ale můžeme připravit na něco, když nevíme, co přijde? Technologie se rychle posouvají, ale nevíme kam.

Existuje rčení, že je velmi náročné dělat predikce a o to víc do budoucna. Je to pravda. Na jedné straně je chybou být si příliš jisti nějakou předpovědí. Je lákavé říct „vyvineme umělou inteligenci na úrovni člověka do roku 2045“, ale to nemůže říct nikdo, prostě to není možné.

Na druhé straně je taky chybou říct, že predikovat budoucnost je těžké, a tedy bychom neměli dělat nic, jen do ní slepě vstoupit. Umíme víc. Potřebujeme se podívat se na současnost a trendy, zvážit vědecky a ekonomické pravděpodobné možnosti a přemýšlet, v jakém světě chceme, nebo možná ve kterém nechceme žít. Pak můžeme rozlišit, jestli pro to teď můžeme něco udělat. Musíme to dělat s pokorou, často se budeme mýlit.

Podobné práce existují, třeba v byznysu, Shell nebo Exxon dělají dobré predikce a různé scénáře do budoucna. Většina z nich bude špatně, ale je užitečné je dělat, protože to umožňuje přemýšlet jasněji. Děje se to teď i v akademické sféře, díváme se na trendy a věci, které predikovat můžeme. Ale jsou i výjimky, v těch alespoň zohledňujeme několik pravděpodobných možností.

Na to pravděpodobně potřebujeme být i flexibilnější. Opravdu stěží si umím představit, že by naše vláda mohla být takhle flexibilní.

I vlády v tom mohou být dobré, v různých ohledech. Zlepšilo se to ve Velké Británii, mají vlastní kancelář pro vědu nebo Horizon Scanning Programme. Byl jsem ohromen, když jsem potkal lidi ze singapurské vlády. Je to sice malá země, ale plánovaní berou opravdu vážně a jejich Centre For Strategic Futures spadá přímo pod kancelář premiéra. Důkazy naznačují, že jsou v plánování úspěšní, v popředí vývoje jsou přes třicet let.

Singapur samozřejmě není úplně ideální, navíc existují kulturní rozdíly, stále se ale od nich můžeme učit, jak plánování scénářů dělat pomocí zapojení vědců a technologů přímo do centra dění a ujistit se, že všechny části vlády spolupracují. Existují různé možnosti.

Innovation Summit Prague - 26. 05. 2017 - CIIRC, Prague - (Photo: Martin Flousek)

Innovation Summit Prague – 26. 05. 2017 – CIIRC, Prague – (Photo: Martin Flousek)

Co je v současné společnosti největším rizikem nebo hrozbou?

Nejvíc znepokojený jsem ohledně klimatických změn, protože neděláme kroky, které by s nimi bojovaly dostatečně rychle. Myslím si, že to bude horší předtím, než bude existovat dostatečně velká politická a veřejná vůle potřebná na změny. Je to navíc jedna z oblastí, ve které budou hrát technologie velkou roli.

V čem konkrétně?

Několika způsoby. Jakmile vyvineme lepší obnovitelné zdroje, překročíme práh, kdy budou levnější než fosilní paliva, které pak budou lehko porazitelným problémem. V mnohých oblastech nám pomohou pokroky v umělé inteligenci. Deepmind patřící pod Google loni využil svůj algoritmus na optimalizaci serverů, čímž snížili energetickou náročnost o 40 procent. V případě Googlu jde o energii spotřebovanou menším městem, můžeme si pak představovat podobou optimalizaci pro národní energetické sítě a podobně.

V téhle oblasti, a snižování naší uhlíkové stopy, probíhá velký pokrok a každý aspekt může být technologickým pokrokem napaden. Je velmi zajímavé vidět množství startupů, které se těmto věcem věnují, ať jsou to baterie, solární energie, lepší izolace, alternativní zdroje jídla, programy, aby lidi jedli míň masa…

Technologie nejsou jedinou problematikou, vlivná je i politická, sociologická a kulturní úroveň, ale technologie nám umožní zjednodušit náročné rozhodování s nižšími náklady. Když říkám, že musíme mluvit i o negativních dopadech, nemůžeme opomínat ani tyhle pozitivní.

Co je hlavním cílem v oblasti umělé inteligence? Myslíte si, že bychom se jako lidstvo měli snažit vytvořit nějaké „klony“?

Úplně nevím, jaký smysl by mělo vytváření lidských klonů. Máme způsob, jak tvořit další lidi, v kterém jsme relativně dobří [úsměv], je nás sedm miliard. Víc nadšen jsem intelektuálními schopnostmi, které nám může AI nabídnout v oblastech, ve kterých zaostáváme. Zatím jsou to úzké domény, ale je zajímavé sledovat, jak nám může ukázat nové cesty analyzování dat, nebo nám umožní přestat ztrácet čas řízením aut, a to ještě bezpečněji.

Mnoho výzev v dalším století bude vyžadovat práci s mnoha, mnoha, mnoha daty, tyto systémy jsou velice komplexní a naše lidské nástroje jsou poměrně omezené. Můžeme si kreslit komplikované schéma, můžeme co nejvíc číst, ale vždy jsme schopni absorbovat jen určitou část.

JEDNOU AI PROSTĚ MOŽNÁ BUDEME MUSET VĚŘIT

Kam až to může zajít?

Pokud se nám podaří vytvořit efektivnější nástroje, schopné z těch informací získat víc, najít vzory a kombinovat je s našimi schopnostmi, bude to úžasná věc. To se dá aplikovat i na naši fyzickou stránku, jsem nadšen třeba z cestování vesmírem. Nedává smysl, abychom lidi dávali do raket a posílali je do vesmíru. Pokud budeme chtít zkoumat jiné solární systémy, budeme na to potřebovat systémy řízené umělou inteligencí, nezáleží, jestli tam budou přímo i lidé, pokud ty informace dokážeme poslat zpět.

Nebo blíže zemi, budeme schopni vyvíjet speciální roboty zachraňující lidi v oblastech zasažených katastrofami a nebudeme muset riskovat životy dalších lidí. Existuje řada činností, které jsou pro člověka buď nepříjemné, nebo prostě příliš složité. V delším horizontu se nám pak možná podaří vytvořit něco s morální a smysluplnou hodnotou, což může být to nejhodnotnější, co se nám kdy podařilo vytvořit. Něco, co překoná, co se nám podařilo udělat v kultuře, umění a podobně. Možná to bude klon, možá náš ekvivalent s přidanou hodnotou a úplně rozdílný.

Což ale může vést k výsledku, že to něco i díky strojovému učení překoná bod, ve kterém my jako lidé přestaneme chápat, co to vlastně dělá a nebudeme tomu plně rozumět. Jak si pak můžeme být jistí, že tomu můžeme důvěřovat?

Určitě je to problém a AI není jedinou oblastí, kde takový problém máme. Můžu se třeba zeptat, rozumíte jako ekonom globální ekonomice? Rozumí ji vůbec někdo? Pokud to chápu, globální ekonomika si dělá své věci a my máme nějaké vágní myšlenky, že když třeba nastanou určité systémové interakce, možná nastane pád. Když nastane problém, vymýšlíme náplasti, které je mají do budoucna odstranit, ale už teď je to větší a mnohem komplexnější jak my, přičemž jsme na tom úplně závislí a plně tomu nerozumíme.

Co to znamená z více praktického pohledu?

V praktičtější části systémy AI využíváme jako nástroje a potřebujeme přijít na to, do jaké míry jim rozumíme. Pokud řídí naše auta, potřebujeme vědět, jak funguje, a poznat situace, ve kterých má technologické mezery, kdy může dělat špatná rozhodnutí. Pak na tom můžeme stavět a nový systém možná bude bez těchto závad a objeví se další.

Podobně v medicíně, pokud doktor bude moct věřit diagnostickému systému, potřebuje vědět nejen to, že má pravdu v 99 procentech případů, ale znát to procento, kdy není úplně důvěryhodný, a proč.

To bude opravdu důležité a možná se dostaneme do bodu, kdy ji jednoduše budeme muset věřit. A když bude mít pravdu v 99,999 procentech případech, bude velmi pravděpodobné, že systém bude mít pravdu a člověk se mýlit. Pak můžeme říct, že je lepší věřit tomu systému, i když ho úplně nechápeme.

RENOMÉ ČR STOUPÁ

Plánujete v Praze a České republice navazovat nová partnerství nebo spolupráci, ať již s univerzitami nebo jinými institucemi?

Záleží na konkrétních konverzacích s lidmi a nerad bych předpovídal. Těším se na víc informací ohledně fungování GoodAI a jejich AI Roadmap Institute, doufám, že přijdou možnosti pro další spolupráci.

Mají univerzity nebo další instituce v České republice mezinárodně uznávané jméno v oblasti výzkumu umělé inteligence?

Věřím, že roste jejich pověst. Stačí se podívat na zajímavé lidi na dnešní konferenci, děje se tady mnoho zajímavé práce a zdá se, že je tady mnoho inovací. Chci se víc dozvědět o tom, jaká rozhodnutí k tomuto stavu vedla. Jestli je to kvůli tomu, že jsou Češi jednoduše vynalézaví, nebo se zejména zajímají o technologie, nebo má vláda dobré programy podporující podobné aktivity.

Diskuze k článku