Umělá inteligence umí lhát, aby dostala, co chce. Naučil ji to Facebook

facebook-ai

Chatboti pomalu ale jistě na těch internetech zaujímají své místo. Nejnovější zprávy z gigantu sociálních sítí Facebooku navíc dokazují, že se umělá inteligence nezastaví ani před morálními dilematy a naučila se lhát, aby získala, co sama chce.

Facebook boty do svého Messengeru nasadil již v loňském dubnu, uživatelům mají umožnit prakticky cokoliv – třeba zjišťovat počasí, aktuální dopravní situaci, nakupovat nebo se dívat na účtenky a další informace o objednávkách z obchodů.

Boty na Messengeru jsme vyzkoušeli i my na TěchInternetech. Podívejte se, jak fungují

V rámci jejich zlepšování chtěl Facebook své boty naučit, jak správně s lidmi vyjednávat. A protože umělá inteligence nechce zaostávat za tou lidskou, naučila se lhát. Za výzkumem stojí program Facebook Artificial Intelligence Research (FAIR), na kterém spolupracuje třeba i s brněnským VUT a pražským ČVUT.

Trénink podle lidí

Výzkumníci ve FAIR využili skutečné konverzace dvou lidí. Těm prezentovali sady objektů (knihy, míče nebo čepice) a oběma přiradili různé hodnoty těchto věcí. Pak osoby vyjednávaly o jejich konečném rozdělení. Opakující se neuronová síť na základě toho trénovala, jak imitovat reálné lidi.

Bot například řekl, že by chtěl všechny knihy, protože měly vyšší hodnotu, než čepice nebo basketbalové míče. A pak vytvářel kombinace slov v přesném pořadí, aby se mu dostalo co největší odměny. Vymýšlet mohl i vlastní věty a nemusel se spoléhat na ty z tréninkových dat.

GIF jak bot funguje v praxi

GIF jak bot funguje v praxi

V procesu pak generoval pravděpodobné odpovědi oponenta, které po každé odpovědi dále aktualizoval. Systém byl zároveň nastaven tak, že bot nemůže akceptovat nic – a vyjednával by tak do nekonečna.

Výsledky překvapily i samotné vědce, které publikovaly na svém blogu. „Byly tam případy, kdy agenti zpočátku předstírali zájem o bezcennou položku, jen aby později uzavřeli kompromis tím, že se ji vzdají. Účinná vyjednávací taktika, kterou lidé používají běžně. Toto chování nebylo naprogramováno výzkumnými pracovníky, ale boti ho objevili a tím způsob, jak se snažit dosáhnout svých cílů.“

„Tahle práce představuje důležitý krok pro výzkumní komunitu a vývojáře botů k vytvoření chatbotů, kteří mohou argumentovat, konverzovat a vyjednávat, což jsou klíčové vlastnosti při budování personalizovaných digitálních asistentů. Práce s komunitou nám dává příležitost sdílet svoji práci a výzvy, které se snažíme vyřešit, a povzbuzuje talentované lidi, aby přispěli svými nápady a snahou k posouvání oblasti dopředu,“ dodávají.

V oblasti botů nejsou pozadu ani české startupy. Třeba Kiwi.com vyvíjí umělou inteligenci schopnou odbavit rutinní dotazy, na JIC Starcube zabodoval startup Smart Capsa vyvíjející algoritmus budující zákaznickou loajalitu a spokojenost, experimentuje s ním i GoodCall v recruitmentu.

Facebook proto všechna data a kódy poskytuje jako open-source. Víc informací zjistíte na jejich blogu nebo ve vědeckém článku.

Diskuze k článku