Marek Rosa: Nevidím to katastroficky | E15.cz

Marek Rosa: Nevidím to katastroficky

Marek Rosa: Nevidím to katastroficky
Marek Rosa
• 
ZDROJ: Alexander Dobrovodský
15. srpna 2016 • 05:00
Jako teenager zosnoval plán, kterým chce změnit vesmír. Chce do něj vypustit umělou inteligenci chytřejší než celé lidstvo dohromady. Na výzkum si vydělal vývojem a prodejem fenomenálních počítačových her. Vizionář Marek Rosa věří, že jednoho dne se člověk a umělá inteligence spojí. A že to bude dobré.

Zatímco miliony Evropanů sledovaly, jak na francouzských stadionech běhají muži za míčem, v Karlíně se mnou rozmlouval člověk, který možná v příštích letech změní chod dějin. Redefinuje člověka. Sedmatřicetiletý vizionář, vynálezce a vývojář her Marek Rosa.

Ve virtuálním světě se proslavil hrami jako Miner Wars, především Space Engineers, které se prodaly dva miliony kusů a přinesla mu rozhodně nikoli virtuální, ale podstatné peníze.

Rád v dětství četl sci-fi. Ve čtrnácti letech v rodné Bratislavě dostal svůj první počítač a propadl jeho algoritmům. V televizi viděl dokument o umělé inteligenci a tehdy mu to prý docvaklo. Spojí počítačové algoritmy s vývojem umělé inteligence. „Byl za tím pocit, jak zoptimalizovat vesmír,“ lehce tajemně vypráví zakladatel a CEO firmy Keen Software House a zakladatel a majitel firmy GoodAI Marek Rosa. První firma vyvíjí hry, druhá obecnou umělou inteligenci.

Umělá inteligence je žhavé téma pro vynálezce i investory. Kdo chce, může si vyhledat nadšení i smutek nejlepšího hráče hry go, když nad ním počítač zvítězí neobvyklým tahem. Zatímco umělá inteligence obecně lidi děsí a i takový vizionář a vynálezce jako Elon Musk nebo vědec Stephen Hawking před umělou inteligencí chytřejší člověka varují a Musk dokonce vložil miliardu dolarů do projektu OpenAI, který má zaručit, že se umělá inteligence dostane zdarma každému člověku. Ovšem, Marek Rosa je optimista. Lidé by prý stále měli navrch, ač by toho mnoho reálně nedělali. Dal si do názvu dobro, protože o to jde především, a vloni na počátku výzkumu vložil do výzkumu svých deset milionů dolarů. Hodlá financovat výzkum obecné umělé inteligence, ať rok, nebo dvacet let.

V pátém patře karlínského kancelářského paláce víceméně ze skla procházejí jeho zaměstnanci. Sedmnáct národností – padesát lidí v Keen Software a třicet v GoodAI – se tu domlouvá přirozeně anglicky. Také proto do Rosovy slovenštiny vstupují anglické termíny, jsou přesnější. S vizionářem člověk nemluví každý den. Marek Rosa mluví klidně, pečlivě a vědecký projev prostupuje suchý humor. Má obrovskou disciplínu, dovednost, kterou si vědomě osvojil, a nápadnou strukturovanost projevu.

Jak přicházíte na nové věci?

Někdy má člověk na počátku jen intuici, pocit, že by na tom něco mohlo být. Ale je to abstraktní, zamlžené a jen tušíte, že by to mohla být prospěšná věc. Pak si spoustou kroků věc zmapujete, namodelujete si ji v hlavě s co největším počtem proměnných, které popisují problém.

Aha. Jak jste pronikl do světa algoritmů?

Sedl jsem si a začal programovat. Neuměl jsem ještě tehdy anglicky a internet nebyl. Během programování jsem se anglicky naučil. Chodil jsem do slovenské technické knihovny a půjčoval si jednu knihu za druhou. Zajímavé je, jak se to dnes změnilo. Mladí, kteří nyní začínají, najdou na internetu úplně všechno. Spousta programátorů, když potřebuje vyřešit nějaký programátorský problém, to udělá tak, že jde rovnou na Google a hledá tam řešení. Když já začínal, Google nebyl, takže jsem musel každou maličkost vyřešit sám, nějak k ní dojít. Ale bylo to dobré, naučilo mě to přemýšlet a pochopit podstatu věci.

Už tehdy jste se chtěl pustit do umělé inteligence?

Chtěl, ale věděl jsem, že to je na dlouho. Ještě mě bavila počítačová grafika, virtuální realita, vymýšlení těch algoritmů. To jsem dělal několik let. Ale táhlo mě to k tomu, vyrobit nějakou hru a vydělat na ní peníze. Pak bych se mohl umělé inteligenci věnovat. Vyráběl jsem software na zakázku, to mi zabíralo hodně času. Nakonec jsem se rozhodl odhodit vše ostatní a věnovat se několik let jen vývoji her. Před třicítkou se mi podařilo rozběhnout firmu. Ve firmě Keen Software, kterou jsem založil, jsme vyrobili Miner Wars a po ní Space Engineers, se kterou přišel velký úspěch.

Jste nápadně disciplinovaný a strukturovaný člověk. Takhle programátoři fungují?

To bych byl rád, kdyby takhle programátoři fungovali, mnohé by to ulehčilo. Spíš bych to vysvětlil takhle. I vy vidíte, že je to užitečná vlastnost, dovednost. A když mi nějaká dovednost, skill, pomůže dosáhnout mého cíle, tak se ji snažím používat, aplikovat na sebe.

Mluvíte o sobě jako o inteligentním stroji.

Člověk se učí jednu heuristiku neboli jeden skill za druhým. Heuristikou mám na mysli něco, co nám pomůže nalézt nějakou zkratku k řešení, které hledáme. Trik, který nám něco ulehčí. Takže heuristika může být i to, že vím, že mít disciplínu je efektivní, anebo že zapisovat si věci je efektivní. Vím, že když je venku minus třicet, tak tam nepůjdu v tričku, nebo že nepojedu na dovolenou do Iráku. To jsou všechno heuristiky. Život je složený z miliard heuristik. Některé jsou abstraktnější, některé specifické, třeba že si pamatuju své telefonní číslo. Z takových zkušeností, způsobů chování a strategií se skládáme.

Dostáváte se k definici inteligence?

Inteligence je to, že postupně nabalujeme tyto heuristiky jednu na druhou, a jak se je učíme, tak je zároveň používáme, abychom se učili další. To je hlavní síla inteligence. Představte si, že když mi byl jeden rok, už jsem nasbíral jisté heuristiky. Něco jsem se naučil, něco moje tělo mělo díky evoluci a DNA. V tomhle věku ještě ty heuristiky nejsou natolik efektivní, aby vytáhly nějakou užitečnou strukturu z okolního světa. Můžete dítěti mávat penězi před očima, ono nepochopí, že si za ty peníze může něco koupit. Ale s novými heuristikami schopnost chápat a zkoumat prostředí exponenciálně narůstá. Teď mi je třicet sedm a moje schopnost explorovat prostředí je mnohem efektivnější. Shrnu-li to, vidím inteligenci jako schopnost postupně akumulovat heuristiky jednu za druhou a používat ji na rekurzivní samozlepšování. Díky definici inteligence jsme se mohli dostat do dnešního bodu, kdy dokončujeme v GoodAI cestovní mapu, plán na příští čas. Tam jsme si definovali principy a základní pilíře a kroky.

Chápu to tak, že budete počítač učit, jako by to byl člověk?

My lidé se rodíme s velkým množstvím heuristik v DNA. Příroda nás za ty tisíce let již vyšlechtila a člověk se už rodí hodně předpřipravený k tomu, aby fungoval jako člověk. Když se pes narodí do lidské společnosti, může vyrůstat v lidské rodině, ale člověkem se nestane. Člověk se narodí a má dobré heuristiky k tomu, aby se učil další. Ve škole, v rodině. My řešíme, jaké algoritmy dát do umělé inteligence, aby se už od začátku dokázala efektivně učit. Naprogramujeme základ heuristik a ty další se interakcí v prostředí naučí umělá inteligence sama. Dívám se na to tak, že inteligence je součástí vesmíru. Když jdu dozadu v čase, tak vidím, že vesmíru roste organizovanost, zlepšuje se jeho struktura.

Jak to myslíte?

Když si vezmeme fyzikální teorii, že vesmír začal big bangem, byly tam nějaké náhodné pohyby a vypadla z toho jistá struktura. Ta poskytla něco jako stavební kameny, aby už s menší pravděpodobností vznikala nějaká další struktura. A další a další. Takhle si vesmír budoval schopnost organizace sebe sama. Nemyslím si, že vesmír má nějaký cíl. Že by třeba smyslem vesmíru bylo vygenerovat člověka. To je strašně nepravděpodobné. Ale možná mu stačilo, že přežije, anebo se zachytí to, co je strukturovanější, organizovanější, to, co používá prostředky. Byl big bang, pak chaos, začaly vznikat jednoduché částice, složitější molekuly, planety, galaxie a tak dále. Někde na dně moří sopky vytvářely energii, začaly vznikat mikroorganismy, tak začalo vznikat DNA, vícebuněčné organismy, a tak to šlo dále. Každá nová věc stavěla na tom, co už ve vesmíru vzniklo, nezačínala z nuly.

Takže si myslíte, že je vesmír inteligentní?

Záleží na tom, jak se na to díváme. My jsme součástí vesmíru a jsme inteligentní, takže se dá říci, že vesmír je inteligentní. Ale netroufám si tvrdit, že proces, který řídí vesmír, inteligentní je.

Jak tedy motivujete umělou inteligenci, aby se chtěla sama učit?

Už na začátku, když ještě nemá na výběr, ji naučíte ty správné heuristiky. Člověk se naučil, že když ho něco pálí, tak ucukne. Proč to dělá? Jsou tam nervy, reflexy, můžeme říci, že zrovna tohle je tak reflexivní věc, že ji ani nedokážu ovládat. A teď se ptejme, jak se do mě dostala tahle vlastnost? Už jsem se s ní narodil. A jak se dostala do mého DNA? Evoluce to vyvinula. Hledala rozličné parametry, až vyvinula tvory, které mají vlastnost, že když je něco popálí, tak ucuknou. Našla řešení. Lze říct, že machine learning se odehrál v průběhu evoluce.

Až lidi nahradí chytřejší a efektivnější umělá inteligence, co budou dělat se svými prázdnými životy a spoustou volného času?

Nad tím dost přemýšlíme. Pokud budou stroje v práci lepší než lidé, a to budou, tak se nabízí pár scénářů. Některé jsou takové, že lidé, kteří nebudou nic dělat, dostanou od státu nebo robotů apanáž, základní příjem. Ale to má smysl, až když má společnost takovou nadprodukci, že si to může dovolit. Jsou společnosti, které si to mohou dovolit už teď, jiné ještě ne. V porovnání s produkcí robotů, která bude obrovská, to ale bude maličkost.

Většina lidí se bude flákat, budou hrát hry, dívat se na televizi. Zároveň bude jednoduché spojit se s umělou inteligencí a zlepšit sebe sama. To přece bude chtít i ten největší flákač. Když to neudělá, má smůlu. My jako lidé máme v sobě zakódovaný jistý altruismus, nejde jen o to, vydělat co nejvíc peněz, ale v jisté chvíli si člověk uvědomí, že nepotřebuje víc než určitou částku. Když to navíc věnuje trpícím a znevýhodněným, o nic nepřichází, protože dává něco, co stejně nepotřebuje.

Vy věříte, že lidé jsou v principu dobří?

V teorii her se řeší otázka, zda je lepší spolupracovat, anebo být mrcha a všechny podrazit. V teorii her se ukazuje, že lepší strategie je spolupracovat. Ještě lepší strategie tedy je spolupracovat do okamžiku, kdy protistrana začne být konkurenční, pak je dobré se přepnout do podobného režimu a potom zase zpátky do té spolupráce. Neříkám, že kdybych přišel na to, že být svině se vyplatí, že to na sebe začnu používat. Spíš věříme tomu, že být dobrým je dobré a snažíme se na to nalézt vědecké argumenty. Máme štěstí, že tam ony ve skutečnosti jsou. Že společnost, kde lidé spolupracují, je jako celek efektivnější.

Co když vašeho vynálezu bude chtít někdo zneužít? Jak tomu zabráníte?

Kromě roadmapy máme ještě jednu, nazvanou futuristic roadmap. Ta obsahuje scénáře politické, ekonomické, i to, že někteří lidé jsou svině. Snažíme se spolupracovat s dalšími výzkumníky, abychom o sobě věděli, měli k sobě důvěru. Řešíme i to, jak lidi na umělou inteligenci připravit. Co dělat, kdyby chtěl někdo téhle věci zneužít, třeba i někdo z týmu. Nezanedbáváme to.

Marek Rosa v atriu kancelářské budovy v Karlíne. Praha se mu zdá lepším místem pro jeho byznys než Silicon Valley.Marek Rosa v atriu kancelářské budovy v Karlíne. Praha se mu zdá lepším místem pro jeho byznys než Silicon Valley.Autor: Alexander Dobrovodský

Existuje mnoho lidí, kteří jsou zainteresovaní v bezpečnosti umělé inteligence. Neřeší, jak ji vyrobit, ale jak ji vyrobit, aby byla etická i z politického hlediska, aby se nedostala do špatných rukou. Řeší různé scénáře. Podle jednoho by byla vyrobena umělá inteligence jako takzvaný singleton, tedy jedna nejsilnější na světě, a kdo ji ovládá, tak ovládá svět. Jaká je pravděpodobnost, že skončíme u takového scénáře? Relativně vysoká. Ale jiný scénář vyznává společnost Elona Muska Open AI, tedy že by se vyrobila umělá inteligence a dala zdarma každému, takže jich bude taková spousta, že nebude nikdo nejsilnější. Můžeme ovšem analyzovat, jak bude vypadat, když ze sedmi miliard umělých inteligencí jedna odhalí nějaký nový trik a bude lepší. S touto vlastností zase rychleji najde další trik. Takže i když všichni začneme na stejné startovní čáře, brzy vzniknou rozdíly. Tak je vesmír nastavený. Proč se v Evropě máme dobře a jinde ne? Proč jsme měli u nás komunismus a v USA nebyl? Stačí drobnosti a věci se začnou vyvíjet úplně jinak.

Je to tenký led, že?

Je. Ale nevidím to katastroficky. Lidé, kteří pracují na umělé inteligenci, to už řeší, časem se k tomu začnou vyjadřovat i politici a OSN, takže určitě vznikne konsenzus. Obecná umělá inteligence je v jistém smyslu společné dílo lidstva. My ale nechceme jen vyrobit umělou inteligenci, chceme se s ní poté propojit. Bude nástrojem, který využíváme. Další vývoj už budeme my a umělá inteligence dohromady. Ne že by z nás byli nějací kyborgové. Ale nemyslím, že stvoříme umělou inteligenci a zůstaneme hloupými lidmi a ona si půjde do vesmíru a bude se tam sama zlepšovat a zlepšovat.

Jak se chcete s umělou inteligencí spojit?

To už je trochu sci-fia bude to ještě složitější než celá umělá inteligence. Nechci, aby to vyznělo naivně. Představte si, že máte nějaké nanoboty v mozku, a oni tam snímají, co dělají vaše neurony, a přenášejí to do umělé inteligence, která to analyzuje. Takže přesně vědí, na co myslíte. A zpětně vám mohou i změnit myšlenky. Napadne vás nějaký problém, který chcete vyřešit. Umělá inteligence se to dozví. Je to stroj, nepředstavujte si to jako nějakou bytost. Najde řešení problému, protože bude rychlejší než ten biologický mozek a pošle řešení nazpátek, takže budete mít dojem, že to napadlo vás. Dalším krokem bude postupné nahrazení biologického mozku něčím, co je efektivnější a trvalejší. Nerad o tom mluvím, protože tady už to začíná znít hodně ulítle.

Cestou sem mě nenapadlo žádné umělecké dílo o člověkem stvořené umělé inteligenci, kde by nedošli k tomu, že nejslabším článkem bude člověk.

Náš plán v GoodAI je vychovat umělou inteligenci tak, aby její vzorce chování, behaviors, byly pro nás bezpečné. To je jedna část mé odpovědi. Například pracujeme na zmíněné škole umělé inteligence. Umělá inteligence tu bude řešit učební úlohy, díky kterým se naučí nějakou konkrétní heuristiku, vlastnost. Je logistické, že některé z heuristik směřují i k této etické otázce. Naučíme ji, aby dělala věci, které budou pro nás bezpečné. Je to jiný přístup, než volí další výzkumníci umělé inteligence. My pracujeme tak, že ji učíme jedno chování za druhým. Oni jdou na to tak, že si definují jednu cílovou matematickou funkci a umělá inteligence má nalézt strategii, jak cíle dosáhnout. Takhle ale může najít i strategii, která pro nás není bezpečná. Výzkumníci pak budou muset řešit, jak jí zabránit v používání té strategie, jak ji to odnaučit.

Kolik vás na světě vyvíjí umělou inteligenci?

Specializovanou umělou inteligenci řeší statisíce lidí, obecnou desítky. Ale na plný úvazek to řeší možná čtyři pět společností na světě včetně nás. My byli teď půlrok potichu, protože jsme pracovali na tom plánu. Ale chceme být co nejotevřenější. Cílem není vydělat peníze, ale vyrobit umělou inteligenci co nejrychleji a dostat se k tomu, čeho s ní můžeme dosáhnout. Plánujeme zveřejnit roadmapu, poté chceme sestavit skupinu nebo institut, který bude o tom plánu diskutovat. To je důležité, nemá cenu se trápit dole nad vymýšlením algoritmů, když to nahoře nemáte dobře rozmyšlené.

Vy jste se prostě jednoho dne rozhodl, že vezmete svých deset milionů dolarů a vrazíte je do výzkumu?

Já za tím šel celý život. I hry jsem z velké části dělal proto, abych peníze z nich mohl dát do tohoto, bylo to součástí mého plánu. Baví mě to. Řekl jsem si, že když při hrách vydělám víc, než fyzicky potřebuju, tak to dám na výzkum. K čemu jinému by mi to bylo. Keen Software dál vydělává, ale na výzkum GoodAI mám peníze našetřené, aby se nám nestalo, že by třeba za pár let došly. Musím mít jistotu, že i kdybych už neměl vydělat ani korunu, tak deset let můžu GoodAI táhnout.

Nikdy jste se nechtěl odstěhovat do Silicon Valley? Nebo je jedno, kde sedíte?

Vaše jméno se objevilo v souvislosti s Panama Papers. Jak se to stalo?

Měl jsem firmu zaregistrovanou na Seychelách. Když vyšly ven databáze Panama Papers, bylo tam i moje jméno. Bylo legrační, jak se slovenští novináři toho chytili, byli nadšení, že tam našli i Slováka. Začali o tom psát, aniž se mě na něco zeptali. Když jsem se k tomu vyjádřil, tak se to celé otočilo. Nevyšel jsem z toho jako padouch, protože jsem nic špatného neudělal, a to PR bylo pro nás nakonec skvělé.

Vyrostl jste ve věřící, nebo ateistické rodině?

Napůl. Babička s dědou byli věřící a vodili nás do kostela, i maminka, která zemřela, když mi bylo jedenáct. Z otcovy strany byla rodina ateistická. Četl jsem bibli, ale zajímala mě literárně. Pro mě je náboženství jen další hypotéza. Méně pravděpodobná než hypotézy ve vědě, ale pořád hypotéza. I ve vědě padají hypotézy, které se na začátku zdají přitažené za vlasy. Mohli bychom si říci, že i náboženství je hypotéza a pojďme ji otestovat.

To by mě zajímalo, jak byste to provedl.

No asi těžko, ale uvažovat se nad tím dá. Naší misí v GoodAI je být užiteční lidstvu, pomoci mu a pochopit vesmír. Jestli si náboženství nevymysleli lidé před tisíci lety, tak se to ukáže. Osobně si myslím, že je to nepravděpodobné. To, že by z ničeho vznikl Bůh a potom stvořil vesmír, mi přijde jako méně pravděpodobná varianta, než že vznikl postupně.

Až tu bude umělá inteligence, nepůjde to zvrátit.

Samozřejmě se změníme. Až tu bude umělá inteligence, tak z homo sapiens sapiens bude něco nového. Jak před stovkou let byl homo sapiens bez internetu, dnes už jsme jiní s internetem, počítači a virtuální realitou. Nikdo se nechce vrátit sto let zpátky.

Ale stačí vypnout elektřinu a budeme bezmocní. Pořád bychom měli umět rozdělat oheň a najít vodu, ne?

Nic není v tomhle vesmíru zaručené, vše je jen hra s pravděpodobností. Stát se to může. My jako společnost jsme nezávislost na technologii už stejně ztratili. Jsme daleko, třeba produkce jídla už je tak zoptimalizovaný proces, že dnes kdyby skutečně přestala fungovat elektřina, půjdeme rychle dolů. Dinosauři také vystoupali na nějakou úroveň, přiletěl meteorit, zahubil je a evoluce musela začít od začátku. Máme štěstí v tom, že pravděpodobnost, že se to stane, je prostě menší než ta, že se to nestane.

Úspěch Space Engineers

V březnu 2014 studio Keen Software House Marka Rosy oznamuje prodej milionu kopií titulu Space Engineers. Na nepříliš známé středoevropské studio o několika zaměstnancích je to fenomenální úspěch. Dnes jsou majitelů hry téměř dva miliony. Nejde o tradiční hru, spíše o simulátor života vesmírného vynálezce. Z různých součástek si skládá základny a rakety, přistává na planetách a potkává se s ostatními inženýry. Podobně funguje novější Medieval Engineers, ve které si ale hráči hrají na středověké stavitele.

Autor: Nora Grundová
 
Newsletter
Využijte služby
zasílání zpráv do vaší
e-mailové schránky!