Umělá neinteligence: Co dokáže potopení Titanicu prozradit o schopnostech AI

Chytrý algoritmus dokáže až s 97procentní přesností předpovědět, kteří pasažéři při potopení Titanicu v roce 1912 přežili. Jak se ale ukazuje, umělá inteligence sice dokáže některé věci předvídat přesně, ale ze zcela špatných důvodů. Na paradox upozornila profesorka New York University Meredith Broussardová ve své nové knize „Artificial Unintelligence: How Computers Misunderstand the World“.

Samotná kalkulace umělé inteligence o přeživších potopení Titanicu počítala s několika proměnnými, jako pohlaví, věk a třída, ve které pasažér cestoval. Kromě 97procentní přesnosti výpočtu algoritmus odhalil další zjištění: nejdůležitějším faktorem ovlivňujícím, jestli pasažér katastrofu přežil, byl samotný poplatek, který za cestu zaplatil. Cestující v první třídě měli větší pravděpodobnost přežití než ti v druhé a třetí třídě.

„Naše statistické predikce o tom, kdo na Titanicu přežil a kdo zemřel, nikdy nebudou stoprocentně přesné. Žádná statistická predikce nemůže a ani nikdy nebude moct být stoprocentně přesná, protože lidské bytosti nejsou a nikdy nebudou statistikami,“ uvedla Broussardová pro portál NYU.

Jako příklad uvádí dva cestující, jejichž přežití nebylo ovlivněno pohlavím, věkem ani cestovní třídou. Zachránilo je to, jak daleko od lodi dokázali při jejím potápění odskočit. A zároveň profesorka upozorňuje na implikace, které mohou při přehnaném využívání algoritmických výpočtů nastat.

Víra ve všemohoucí technologie

„Náš model Titanicu by mohl být použit k ospravedlnění menšího zpoplatnění cestujících první třídy za pojištění, což je absurdní. Neměli bychom penalizovat lidi proto, že nejsou dostatečně bohatí, aby cestovali první třídou,“ píše Broussardová.

Tím přímo naráží na problém takzvaného technochuavinismu (přesvědčení, že technologie jsou vždy řešením) a říká, že algoritmy nedokážou vyřešit sociální problémy. Naopak je může strojové učení ještě zhoršit.

Důležité proto je, abychom pochopili limity, na co můžeme technologie použít. Díky tomu můžeme dělat lepší rozhodnutí o tom, na co bychom technologie používat měli, abychom dělali svět lepším místem pro všechny.

„Pokud budeme vytvářet cenové algoritmy na základě toho, jak svět vypadá, ženy, chudí a minority budou jako zákazníci platit víc. Matematici jsou tím často překvapeni; ženy, chudí a minority tím překvapeni nejsou,“ pokračuje Broussardová a zmiňuje několik příkladů. Ženy platí za stříhání, žiletky nebo deodoranty více než muži, Asiati v Americe zase platí víc za přípravné kurzy na tamní ekvivalent maturity a Afroameričtí číšníci dostávají méně dýšek než jejich bílí kolegové.

Total
10
Shares
Další články