Reddit + AI? Vědci vytvořili první psychopatickou umělou inteligenci

Výzkum a vývoj umělé inteligence nedávno překonal další výrazný milník – vědci z americké MIT Media Lab vytvořili Normana, první psychopatickou umělou inteligenci. Konkrétně jde o algoritmus strojového učení, který se učil na základě špatných dat.

„Norman se narodil z faktu, že data využívaná při výuce algoritmů strojového učení mohou výrazně ovlivnit jejich chování. Takže když lidé mluví o AI algoritmech jako o nespravedlivých, viníkem často není samotný algoritmus, ale předpojatá data, která se do nich vkládají,“ popisuje trojice vědců, která za projektem stojí.

Stejné algoritmy totiž mohou ve stejných obrázcích vidět různé věci – pokud se budou učit na nesprávných datech. Norman byl dlouhodobě vystaven nejtemnějším zákoutím Redditu a podle svých tvůrců tak reprezentuje case study hrozeb umělé inteligence využívající špatné údaje.

„Norman je AI trénovaná na vytváření titulků obrázků, populární metoda hlubokého učení generující textové popisky obrázků. Normana jsme trénovali na popiscích obrázků z jedného neslavného subredditu (název je redigován kvůli grafickému obsahu) věnovaného na dokumentování a pozorování znepokojující reality smrti. Poté jsme srovnali Normanovi reakce se standardní image captioning neural network (trénované na MSCOCO datasetu) na Rorschachových inkoustových skvrnách, testu používaném na odhalení základních poruch myšlení,“ vysvětlili vědci.

Zdroj: MIT

Výsledek? Zatím co standardní umělá inteligence na jednom z obrázků vidí close up vázy s květinami, Norman na stejném obrázku vidí muže zastřeleného do hlavy. Na dalším pak standardní AI vidí osobu držící deštník ve vzduchu a Norman muže zastřeleného před jeho křičící manželkou.

Zdroj: MIT

Jak si všímá portál Světového ekonomického fóra, Norman není první případ, kdy MIT využilo umělou inteligenci při výzkumu „temnější stránky života“. Ještě v roce 2016 vyvinulo Nightmare Machine – AI schopnou vytvářet strašidelné úpravy tváří nebo slavných budov. A později třeba Shelley, první umělou inteligenci píšící hororové příběhy.

 

Diskuze k článku