Marek Rosa: V ideálním případě bude AI schopna napojit se na náš mozek

Česko patří mezi světovou špičku výzkumu umělé inteligence a svým nezanedbatelným dílem k tomu přispívá i Slovák Marek Rosa plnící si svůj dětský sen – vytvořit umělou inteligenci s vlastnostmi na úrovni těch lidských. Věnoval na to 10 milionů dolarů, které vydělal vývojem počítačových her, a před rokem veřejně představil GoodAI. Zároveň má spoustu novinek, o které byste určitě neměli přijít.

V rozhovoru pro Tyinternety Rosa mluví o dosavadním pokroku, jakým způsobem se umělá inteligence učí být inteligentní, proč je evoluce hloupým optimalizačním nástrojem nebo třeba o tom, jak se vlastně AI učí učit.

Jestli chcete slyšet a vidět mluvit Marka Rosu naživo, budete mít možnost na Startup a Smartup Summitu, který se bude konat 26. a 27. října v City Tower na pražském Pankráci.

Nedávno jste oslavili první narozeniny od veřejného představení GoodAI. V čem jste udělali největší pokrok?

Plánujeme založit AI Roadmap Institute. Je to nový nápad, podívá se na roadmapy všeobecné umělé inteligence (artificial general intelligence – AGI) od jiných týmů a firem a dá to do jednotné grafické podoby, abychom si je mohli porovnat a diskutovat o možnostech dalšího postupu. Měl by být implementation agnostic, to znamená nezávislý na tom, jak se kdo rozhodne danou věc vyřešit. Měl by spíše řešit otázky, proč by mělo mít AI daný skill a jestli je možné právě tento skill využít při dalším vývoji.

Když bude institut fungovat, přemýšlíme o soutěži, kdo dokáže naprogramovat neuronovou architekturu schopnou růstu (gradual learning architecture), která se pak učí nové a nové znalosti. My vyvíjíme prototypy, tenhle vývoj ale můžeme díky soutěži outsourcovat. Funguje tak třeba HeroX s XPrize, někdo věnuje například tři miliony dolarů tomu, kdo dokáže udělat nějakou haluz. Trvá to i léta, pak ale najednou bum a je to hotové.

Celkově tak začínáte budovat větší spolupráci s dalšími firmami a týmy.

Ano. A chceme, aby ten institut fungoval nezávisle na nás. Na začátku za ním budou hlavně lidi od nás, pak by se ale měl stát nezávislým. I my bychom měli být jen součástí celého Roadmap institutu, nechceme protlačovat svůj pohled na věc. Má to být platforma, kde se mohu podívat na big picture a porovnat si, jak se vývoji věnuje Google, GoodAI, někdo další a zkoumat, proč a kde se rozcházejí a scházejí.

Navázali jste již spolupráci s konkrétními firmami?

Nejde o spolupráci, máme ale kontakty a styky. Myslím si, že tohle může být jedna z konkrétních věcí, jak spolupráci s ostatními firmami či akademickou obcí navázat.

V oblasti AI mnoho týmů řeší konkrétní otázky jako rozeznávání obrázků nebo text-to-speech. Jsou to podstatné věci, ale hlavní otázkou je, kde se nacházejí na cestě k AGI? Nefunguje to tak, že tyhle věci jednoduše spojíme a máme AGI. Roadmap institut má sloužit k tomu, abychom se začali bavit o big picture pohledu.

Aby to mělo všeobecnou kontinuálnost.

Ano, abychom opravdu byli na cestě k AGI. Roadmapa zároveň pomůže v tom, že pokud chcete vyřešit konkrétní náročný problém, tak místo toho, abyste ho řešili přímo, se můžete zaměřit na jednodušší věci, které pak k řešení původního problému povedou rychleji a efektivněji.

Pokud bych od tříletého dítěte chtěl, aby bylo dokonalé v psaní a rozeznávání toho, co slyší, a pořád bych ho mučil a mučil, tak by se to pravděpodobně ani tak nenaučilo. Skok od toho, že nevím nic, k tomu, že vím tyhle věci, je příliš velký. Pokud ho ale začnu učit jednodušší věci, pak složitější, postupně za sebou, tak se nakonec k pochopení písma a slova dostane přirozeně.

Marek Rosa

Inteligence je nástroj učící se hledat řešení problémů

Řešíte nějakým způsobem Internet of Things (IoT)?

V rámci GoodAI se snažíme jít opravdu jen za AGI. Zároveň ale zakládáme GoodAI Consulting, což bude nezávislá, sesterská firma, která bude firmám nebo organizacím radit v tom, jak nasadit umělou inteligenci na dané problémy. Třeba starosta města ani nemusí vědět, co AI je, a nemůže si tak domyslet, že když spojí několik věcí dohromady, tak vyřeší problémy efektivněji. Máme několik začátečních případů, které řešíme, a v rámci nich můžeme řešit i IoT nebo smart cities.

Můžete uvést konkrétní příklad?

Představte si, že máte data v medicínské oblasti, víte o lidech, kteří mají nějakou chorobu, a těch, kteří ji nemají. Umělá inteligence se může naučit rozeznávat indikátory, čímž pomůže chorobu odhalit předtím, než se u zdravých lidí vyvine do nebezpečné fáze. Když se zvýší přesnost podobných predikcí, může být zachráněno mnoho lidí. Stává se, že po preventivních testech lidé něco přehlédnou a při dalším testu, o rok později je už choroba v rozvinutém stádiu.

Jak se tedy díváte na umělou inteligenci obecně?

Pro nás je inteligence nástroj učící se hledat řešení problémů. Každý problém má obrovské množství řešení. Abychom našli konkrétní řešení efektivně, musíme ten vyhledávací prostor zmenšit, případně filtrovat jen opravdu slibná řešení. Podobně funguje člověk – neustále musíme řešit obrovské množství problémů. Děláme to ale automaticky, bez toho, abychom si to uvědomovali, a naučili jsme se to praxí během života. Víme, co můžeme ignorovat.

To je jedna z důležitých vlastností našeho řešení AI – graduální učení. Naučí se řešit jeden, druhý, třetí problém, a pak své zkušenosti využije k řešení čtvrtého problému, který výrazně pomůže efektivitě řešení pátého problému.

Můžete uvést příklad?

Když nebudu umět psát ani číst, jediným způsobem, jak se dozvědět o tom, co se ve světě děje, je povídání si s lidmi. Jakmile se naučím číst a psát, odemkne se mi obrovské množství dalších zdrojů na získávání informací.

Nebo kdybych byl zvíře a nerozuměl bych lidem, jejich konceptům a podobně, jediný způsob, jak na nové věci můžu přijít, je metoda pokusu a omylu. Když se ale naučím mluvit s lidmi, mohu se od nich učit a díky tomu zlepšovat své vlastnosti.

V jakém stadiu je umělá inteligence v současnosti?

V současnosti můžeme za inteligenci považovat i nějaký senzor, který něco rozezná a pak zareaguje. Není to úplná inteligence, není adaptivní. Ale podívejte se na inteligentní semafory. Pokud tam není žádná inteligence, řídí se přesně nastavenými intervaly a jsou v podstatě tupé. Když tam přidáte alespoň trochu inteligence, schopné reagovat na změny, přechod přes křižovatku zefektivníte, protože v noci nebudete muset stát na červené, když tam nikdo jiný není.

Marek Rosa

Evoluce je hloupý optimalizační nástroj

Teď se mírně vraťme. Jakým způsobem zabezpečíte to, aby umělá inteligence věděla, co při svém rozhodování může ignorovat a co je podstatné?

Když se postavím před problém, který neumím řešit, musím si vytvořit hypotézy problému a řešení. To může být jednoduchý úkol, když vidím nějaký pattern, ale může to být i opravdu složitá situace. Nikdy předtím jsem podobný problém neřešil, musím si vytvořit hypotézy a ty pak verifikovat.

Například jak můžu říct, co je to auto a co již auto není? Roční nebo dvouleté děti rozeznávají auto podle toho, jestli má kola. To je dobrý způsob generalizace. Když pak ale uvidí kolo nebo traktor, rodiče mu vysvětlí, že to auto není, a dítě musí najít nové, spolehlivější vlastnosti aut. Zjistí například, že nerozhodují kola, ale třeba tvar. Takový způsob pracuje s importat similarities a irrelevant differences – jedno jsou podstatné podobnosti a jedno rozdíly, které mohu ignorovat. To hledáme podvědomě pořád, na úrovni vizuální, ale taky na té mentální.

Takže chcete umělou inteligenci učit podobně jako malé dítě? Postupně?

Dítě na úplném začátku spoléhá jen na vizuální vstup, jakoby raw data a nemá vytvořené abstrakce. Když se dítě narodí, ještě se jen na základě toho, co vidí, učí, že tohle je možná moje máma a třeba se tváří naštvaně. Ono ještě nemá vyvinuté vlastnosti, které by mu řekly, že tohle je člověk. Začíná si vytvářet hypotézy, které se mu potvrzují nebo ne. Díky graduálnímu učení pak informace využívá i v dalších situacích.

To si mnoho lidí neuvědomuje, ale i při machine learningu je právě graduálnost velice silným faktorem. Můžeme to porovnat s vesmírem. Na začátku byl big bang, pak se začali tvořit galaxie, planety, vznikl život, na zemi lidi, naše civilizace a pak jsme tady my. Nebylo to tak, že nastal big bang a pak hned máme na stole kafe [rozhovor vznikal v kavárně]. Dostat se od big bangu ke kávě je obrovsky nepravděpodobné. Pokud by to byl jeho cíl a měl by jen zkoušet způsoby, jakými to může udělat, bude to zkoušet ještě déle než těch 14 miliard let.

Umělá inteligence se tedy musí sama naučit dělat věci od úplné nuly?

Kdyby takovým způsobem začala AI něco opravdu dělat, trvalo by to neskutečně dlouho a to nedává smysl. Musí mít minimální základy a druhou věcí je, že jí ukážeme vedoucí úkoly, na kterých se to začne učit. Tím jí ulehčíme proces hledání. Pokud by měla hledat všechny možnosti sama, brutálně plýtvá energii.

Před několika týdny jsem si to uvědomil na příkladu evoluce. V podstatě jde o optimalizační nástroj – hledá živočichy, kteří jsou efektivnější v přežívání. Srandovní je, že takové v podstatě našla v lidech. My jsme v přežívání ti nejefektivnější na téhle planetě. Evoluce je ale hloupý optimalizační nástroj [úsměv], takže stále pokračuje a rodí se třeba další opice, které to „chtějí zkusit“ taky, ale v evolučním závodě nemají šanci. Jsme tak daleko, že nás nikdy nedoběhnou. Evoluce se ale pořád snaží.

GoodAI

Kanceláře GoodAI

Nikdy nemáme jistotu, že nenastane catastrophic failure

Zmínil jste základy, které ta umělá inteligence musí mít, aby se pak mohla graduálně učit. Jaké ty základy jsou?

Opravdu důležitých základů je několik. Třeba schopnost rozeznat nějaký pattern nebo situaci. Systém rozpozná určitý pattern a nějak zareaguje, což je opravdu důležité. Kdyby to tam nebylo, nevěděla by, jak reagovat. Pak může reagovat na rozličné situace stejně, přičemž ignoruje nepodstatné faktory. Musí tak umět generovat různé hypotézy, které pak testuje. S tím souvisí schopnost graduálně se učit, nabalovat to na sebe. A podstatné je, aby naslouchala feedbacku od svého učitele.

Kdy očekáváte, že tyhle základy vyvinete?

První prototypy předpokládám tak do roka.

Proč jste si tak jistí? Nemohlo se stát, že jste s roadmapou spletli?

Mohlo se to stát. Toto je ale nejpravděpodobnější scénář a vždy je to o našich úspěších, jestli se nám něco podaří. Podobně funguje taky umělá inteligence, nikdy nemáme stoprocentní jistotu, že zareaguje tak, jak si myslíme. S tím souvisí pojem catastrophic failure. Pokud systém natrénovaný na simulačních datech v reálném světě není připraven řešit opravdu nepředvídatelnou extrémní situaci, což se stává, může dojít k tak katastrofickému selhání celého systému, že udělá něco, co nikdo nečekal. Proto nechceme systém, který se jednoduše naučí řešení problémů, ale potřebujeme systém, který dokáže problémy opravdu pochopit, aby catastrophic failure nemohl nastat.

V ideálním případě bude AI schopna napojit se na náš mozek

Co je pak konečným cílem?

To je definováno taky v roadmapě – chceme dosáhnout toho, aby umělá inteligence měla vlastnosti alespoň na úrovni porovnatelné s člověkem. To ale není konečný stav, protože bude schopna dál se učit, může pokračovat dál a objevovat nové věci.

Pokud bude přemýšlet jako člověk, ale může pokračovat dál, pravděpodobně by nám hodně rychle v inteligenci ujela a my bychom ani nebyli schopni chápat, co vlastně dělá. Máme se bát? Nebo co můžeme očekávat?

Pokud by se to stalo takhle, tak si myslím, že by to byla chyba. Je potřeba vytvořit umělou inteligenci na úrovni lidí a pak hledat způsoby, jak se s ní spojit. Aby byla jen rozšířením naší vlastní inteligence. Jako když člověk využívá brýle na to, aby viděl, nebo GPS, aby se lépe navigoval, nebo boty, aby lépe chodil…

Přibližně tak si to představuju já. Motivace bude vycházet z nás, ale umělá inteligence bude hledat řešení. Půjde o symbiózu a v ideálním případě bude AI schopna napojit se na náš mozek. Nakonec se můžeme dostat do stavu, kdy nám již na našem biologickém těle nebude záležet, protože půjde jen o 0,1 procento toho, čím opravdu jsme.

To je v současnosti opravdu nepředstavitelné.

Na toto propojení AI a lidí roadmapu nemáme [smích].

Nikdy ale nevíme, co se stane za 50 let díky technologickému pokroku.

Právě proto si myslím, že je nejdřív potřeba udělat dobrou umělou inteligenci. Možná bude inteligentnější než člověk, ale nějakým způsobem jí zastavíme schopnost učit se a použijeme ji na to, aby našla řešení problému, jak se bezpečně může člověk propojit s počítačem.

Diskuze k článku