fbpx
vzpoura chatbotu

Vzpoura chatbotů: jeden práská na zaměstnavatele, druhý je rasista!

Předpokládaná doba čtení: 7 minut

A je to tady, chatboti se zbláznili! Ten od Microsoftu je tak trochu rasista a teď ani ne týden starý chatbot přímo od Facebooku řekne o svém vládci, že Zuckerberg vykořisťuje lidi a je mu to jedno… Takže obchodní tým naší skromné firmy, která chatboty vyrábí, pravděpodobně příští týden začne prodávat lego po bazarech. Ale teď vážně, pojďme se podívat, co se vlastně děje, a že není chatbot jako chatbot.

The BlenderBot 3 – chatbot od Facebooku, který nesnáší Facebook, nevěří ve volby a rád by Trumpa zase prezidentem!

Co je the BenderBot 3?

The BlenderBot 3 je podle Facebooku „nejmodernější konverzační agent, který dokáže přirozeně konverzovat s lidmi, kteří pak mohou poskytnout zpětnou vazbu modelu, jak zlepšit jeho reakce„. Tento typ chatbota si můžete představit vlastně jako takové malé dítě. Funguje to tak, že vás hodně dobře poslouchá a jeho mozek jako houba saje informace, které pak reprodukuje jako své vlastní. Asi tušíte, že to může dopadnou hodně dobře nebo také hodně špatně. Když necháte malé dítě u dědy v Ostravě, budete možná za týden sami překvapeni, kolik nových vulgarismů si z tohoto studijního pobytu dítko přiveze. A to je přesně to, co se stalo. Jen to, v případě The BlenderBot 3, nebyl děda z Ostravy, ale lidé, kteří bydlí ve Spojených státech Amerických.

chatbot BenderBot3
Zdroj screenshotu: https://twitter.com/JeffHorwitz/status/1556245316596219904/photo/1

Celý chatbot je vlastně takové legrační připomenutí, že většina chatbotů nemá přímočaré, soudržné názory – místo toho jsou rozhraním pro napojení na rozsáhlou knihovnu online lidských myšlenek.

Jak BlenderBot 3 funguje?

chatbot BenderBot3 diagram
Zdroj: https://ai.facebook.com/blog/democratizing-access-to-large-scale-language-models-with-opt-175b/

Trochu technicky, The BlenderBot 3 je postavený na nejnovějším modelu od společnosti META, který se jmenuje OPT-175B. Jako většina nejmodernějších AI v dnešní době se trénoval na „velkých datech“. Zdroje těchto dat jsou ze širokého internetu. Občas z pochybných zdrojů. Pochybné zdroje se neobjevují samozřejmě záměrně. Jde o to, že jazykový model tohoto chatbota má 175 miliard parametrů. A to je fakt hodně. „Počáteční experimenty již ukazují, že čím více lidí s modelem interaguje, tím více se model učí ze svých zkušeností a tím se postupem času stává lepším a bezpečnějším,“ říká společnost META, „ačkoli bezpečnost zůstává otevřeným problémem,“ doplňuje.

Tay.ai od společnosti Microsoft

Podobný problém už v roce 2016 řešilo PR oddělení společnosti Microsoft, když měl jejich chatbot problém s rasismem. Společnost spustila verifikovaný účet na sociální síti Twitter, který se jmenoval Tay. Jejím cílem bylo seznámit mileniály s umělou inteligencí (AI). „Tay je navržen tak, aby zaujal a pobavil lidi, tam kde se spojují prostřednictvím neformální a hravé konverzace,“ řekl o chatbotu Microsoft. „Čím více budete s Tay chatovat, tím bude chytřejší.“

Ukázal se tzv. Godwinův zákon: „Pravděpodobnost, že se v online diskusi objeví porovnání s Hitlerem či nacisty, se s růstem délky diskuse blíží jedné.“ Po několika hodinách od spuštění Tay.ai vytrolili uživatelé tohoto chatbota, protože jej učili jak být rasista… a povedlo se!

chatbot Tay.ai
Ukázka ze sociální sítě Twitter, kde Tay.ai řádil.

Výskyt divokých chatbotů v České republice:

Není třeba chodit až do Ameriky, my jsme měli virtuální sestru Anežku. V roce 2020 Ministerstvo zdravotnictví použilo Anežku k informování občanů o epidemii covid-19. Jak ukazuje screen níže, Anežčiny rady někdy nadělaly víc srandy, než užitku. Po půl roce a téměř tři čtvrtě milionové investici se její provoz raději ukončil. Problémem se ukazovala možnost vložit libovolný dotaz. Chatbot totiž neměl aktuální data, čemuž se při turbulentní době nedalo ani divit. Při dotazu „Mám horečku, asi umřu, co mám dělat?“ pochopil bot dotaz tak, že odpověděl aktuální pravidla konání pohřbů a maximální počet pozůstalých. Další příklad je níže:

Chatbot_Anežka

Jak by šlo chatboty dělat lépe?

Technologie jde napřed. Proto bychom se měli zajímat o témata, jako je umělá inteligence, strojové učení nebo NLP. Jistě je to budoucnost a stejně tak i hlasoví roboti – voiceboti – Alexa, Siri a další. Jenže zatím nejsme tak daleko, abychom na web umístili za pár tisíc chatbota, který vše bude vědět, bude příjemný, nepromění se v rasistu a na všechno správně odpoví. Většina lidí si totiž s chatboty nechce povídat a vnímá je spíše jako rychlého rádce. A to ať v případě dotazu na třeba platební metody na e-shopu, vysvětlení služby nebo zpracování poptávky, kde se vás chatbot doptá na potřebné věci, které potřebuje lidský kolega k nacenění objednávky.

Chatboty v rámci konverzační mapy

Hlavním rozdílem je konverzační mapa. Je to vlastně takový diagram předem připravené konverzace, kde jsou jasně dané otázky a odpovědi. Nestane se tak, že by se uživatel dozvěděl nějakou chybnou informaci. Pokud má uživatel jiný dotaz, který není definovaný v konverzační mapě, nemusí zoufat. Jednoduše může tento dotaz zadat, nechá na sebe kontakt a pracovník recepce se mu ozve s odpovědí. Pokud se tento dotaz opakuje, není pak problém konverzační mapu upravit a tento dotaz přidat. Níže se můžete podívat na příklad takové mapy:

konverzacni_mapa-chatbot-sefbot
Ukázka konverzačního schématu

Podívejte se na příklady využití chatbota, našeho známého chatbota pro pomoc Ukrajině nebo také na to, jak jsou chatboti vlastně v České republice využíváni.

Další články k tématu:

Jan Ružička

Zanechte nám níže kontakt a objevte kouzlo chatbotů!