Umělá inteligence umí lhát, aby dostala, co chce. Naučil ji to Facebook

Chatboti pomalu ale jistě na těch internetech zaujímají své místo. Nejnovější zprávy z gigantu sociálních sítí Facebooku navíc dokazují, že se umělá inteligence nezastaví ani před morálními dilematy a naučila se lhát, aby získala, co sama chce.

Facebook boty do svého Messengeru nasadil již v loňském dubnu, uživatelům mají umožnit prakticky cokoliv – třeba zjišťovat počasí, aktuální dopravní situaci, nakupovat nebo se dívat na účtenky a další informace o objednávkách z obchodů.

Boty na Messengeru jsme vyzkoušeli i my na TěchInternetech. Podívejte se, jak fungují

V rámci jejich zlepšování chtěl Facebook své boty naučit, jak správně s lidmi vyjednávat. A protože umělá inteligence nechce zaostávat za tou lidskou, naučila se lhát. Za výzkumem stojí program Facebook Artificial Intelligence Research (FAIR), na kterém spolupracuje třeba i s brněnským VUT a pražským ČVUT.

Trénink podle lidí

Výzkumníci ve FAIR využili skutečné konverzace dvou lidí. Těm prezentovali sady objektů (knihy, míče nebo čepice) a oběma přiradili různé hodnoty těchto věcí. Pak osoby vyjednávaly o jejich konečném rozdělení. Opakující se neuronová síť na základě toho trénovala, jak imitovat reálné lidi.

Bot například řekl, že by chtěl všechny knihy, protože měly vyšší hodnotu, než čepice nebo basketbalové míče. A pak vytvářel kombinace slov v přesném pořadí, aby se mu dostalo co největší odměny. Vymýšlet mohl i vlastní věty a nemusel se spoléhat na ty z tréninkových dat.

GIF jak bot funguje v praxi
GIF jak bot funguje v praxi

V procesu pak generoval pravděpodobné odpovědi oponenta, které po každé odpovědi dále aktualizoval. Systém byl zároveň nastaven tak, že bot nemůže akceptovat nic – a vyjednával by tak do nekonečna.

Výsledky překvapily i samotné vědce, které publikovaly na svém blogu. „Byly tam případy, kdy agenti zpočátku předstírali zájem o bezcennou položku, jen aby později uzavřeli kompromis tím, že se ji vzdají. Účinná vyjednávací taktika, kterou lidé používají běžně. Toto chování nebylo naprogramováno výzkumnými pracovníky, ale boti ho objevili a tím způsob, jak se snažit dosáhnout svých cílů.“

„Tahle práce představuje důležitý krok pro výzkumní komunitu a vývojáře botů k vytvoření chatbotů, kteří mohou argumentovat, konverzovat a vyjednávat, což jsou klíčové vlastnosti při budování personalizovaných digitálních asistentů. Práce s komunitou nám dává příležitost sdílet svoji práci a výzvy, které se snažíme vyřešit, a povzbuzuje talentované lidi, aby přispěli svými nápady a snahou k posouvání oblasti dopředu,“ dodávají.

V oblasti botů nejsou pozadu ani české startupy. Třeba Kiwi.com vyvíjí umělou inteligenci schopnou odbavit rutinní dotazy, na JIC Starcube zabodoval startup Smart Capsa vyvíjející algoritmus budující zákaznickou loajalitu a spokojenost, experimentuje s ním i GoodCall v recruitmentu.

Facebook proto všechna data a kódy poskytuje jako open-source. Víc informací zjistíte na jejich blogu nebo ve vědeckém článku.

Total
0
Shares
Další články
Přečtěte si více

Zatímco Zynga dál propouští, Facebook hlásí nejlepší herní čtvrtletí

Herní gigant Zynga, který svého času neskutečným způsobem dokázal využít platformu Facebooku a vybudovat na ní obrovský herní kolos, se dál potácí v problémech. To se ale netýká sociální sítě, na které herní společnost svůj úspěch kdysi postavila. Zatímco Zynga své patálie řeší propouštěním, hrám se na Facebooku daří více než kdy dřív a přinesly rekordní příjmy.
Přečtěte si více

TOP memy týdne: Charlie nesmysly nepřeválcoval

I když to vypadá, že tragický teroristický útuk ve Francii ovládl komplet všechna média, tak úplně pravda to není. Na Redditu, 9gagu, 4chanu a dalších silná vlna sice proběhla, ale internet už je zpátky v zajetých kolejích a frčíme si na nesmyslech všeho druhu..