Umělá inteligence z dílny Facebooku si vymyslela vlastní jazyk, kterému lidé nerozumí

Umělá inteligence z dílny Facebooku se již naučila lhát, aby dostala, co chce. Vývoj AI však nabírá na obrátkách a nejnovější zprávy ukazují, že si dokonce vytvořila svůj vlastní jazyk, v němž komunikuje. Lidé mu ale nerozumí.

Novinka přichází z programu Facebook Artificial Intelligence Research (FAIR), stojícím třeba za vývojem botů, kteří si s vámi povídají na Messengeru a s nímž spolupracují i české ČVUT a VUT.

Původně vývojáři agenty umělé inteligence naučili mluvit jednoduchou starou angličtinou. Došlo však k chybě v programování. „Neexistovala odměna za setrvávání v anglickém jazyku,“ cituje Fast Company Dhruva Batru z Georgia Tech spolupracující v programu FAIR.

Během vyjednávání se proto umělí agenti odklonili od běžného jazyka a bez motivace v něm setrvávat nakonec dospěli do stavu, ve kterém používali pro lidi nepochopitelné shluky slov. I kvůli tomu tady přikládáme část originálního přepisu z jejich konverzace.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Zdroj: TheNextWeb.com

„Agenti se odkloní od pochopitelného jazyka a vymýšlejí si kódová slova pro sebe,“ dodává Barta. Tohle přitom nebyl první případ, kdy Facebook něco podobného zaregistroval. Příklady jsou tady, tady a tady.

I když se velké společnosti jako Facebook, Google, Apple a další snaží vyvinout AI, která bude umět komunikovat s lidmi, tohle je dostatek důkazů toho, že si dokáže vytvořit jazyk vlastní. „Je to určitě možné. Je možné, že jazyk může být komprimován, nejen aby šetřil znaky, ale aby se stlačil do formy umožňující vyjádřit sofistikované myšlenky,“ říká Barta dál.

Otázkou ale zůstává, měli bychom to AI dovolit? Potřebujeme opravdu vědět, o čem si její agenti povídají? Anebo bychom ji měli nechat v rámci pokroku mluvit, jak chce, což může vést k její vyšší efektivitě? Facebook si to aktuálně zakázal. Udělal však dobře?

Diskuze k článku

  • Karel Jedlicka

    No já nevím, mně to z toho přepisu přijde, že to dospělo do deadlocku a tak to utnuli :-D