Waarom geautomatiseerde chatbots worstelen om als mensen te converseren

Geautomatiseerde chatbots – wat zijn ze allemaal?

We hebben een liefde-haatverhouding met geautomatiseerde chatbots. We spelen graag met ze, maar raken gefrustreerd als de chatbot onze vragen niet kan beantwoorden of onze verzoeken niet kan vervullen. Diegenen die chatbots maken, bloeien op uit de uitdaging om de chatbot zo menselijk mogelijk te maken, maar vinden het schrijven van de diverse duizenden mogelijke conditionele permutaties om dit te bereiken zeer zwaar.

Deze wederzijdse wens om interactie met een geautomatiseerde chatbot menselijk te maken, heeft de aandrijving van bots via natural language processing (NLP) voortgedreven. De machine learning achter de chatbot en waaruit het leert, is gebouwd op beslissingsboomlogica en is een uitwisseling van reeksen van vooraf bepaalde inputs en outputs. Echter, natuurlijk gesprek is niet zo.

De patronen van natuurlijk gesprek vervormen

Zoals in natuurlijk gesprek, nemen mensen en geautomatiseerde chatbots beurten aan het woord, dwz berichten uitwisselen. In natuurlijke praat, ongeacht de inhoud van wat er gezegd wordt, zelfs in afwezigheid van visuele aanwijzingen en toon van stem, zit er ook betekenis in overlappende spraak, betekenis in de stilte die ontstaat tussen beurten, en betekenis in pogingen om misverstanden te herstellen. Deze acties zijn eigenlijk bestanddelen van wat het betekent om een beurt te nemen en zijn inherent aan natuurlijk gesprek. Ze helpen gesprekken vooruit te sturen en de intentie erachter te onthullen naarmate het gesprek ontvouwt.

Een verschuiving van chatbots naar debate-bots?

Wat interactiepatronen betreft, hebben deze chatbots meer gemeen met de heen-en-weer-aard van vooraf toegewezen beurten in debatten (Sacks et al, 1974) dan met natuurlijk gesprek. Als de taak van een geautomatiseerde chatbot is om 'op te halen', hebben we dan sociale beleefdheden als "Hoi" überhaupt nodig? Door de chatbot te vermenselijken, zijn we dan verantwoordelijk voor het creëren van onjuiste gebruikersverwachtingen? Of is dit gewoon service met een glimlach?

Het idee dat chatbots misschien niet chatten, illustreert een bijna filosofische vraag. Waarom moeten bots zo menselijk zijn en in welke capaciteit? Wat automatiseren we eigenlijk wanneer we chatbots automatiseren?

Beurten nemen

Om nauwkeurigere en relevantere antwoorden te geven, benutten geautomatiseerde chatbots NLP op een manier vergelijkbaar met Google's conversationele zoekopdracht. Dit resulteert in meer intelligente verwerking, maar steunt nog steeds grotendeels op zowel de mens als de bot die goed georganiseerde beurten nemen aan het woord, dwz één bericht of één goed geconstrueerde multi-stack tegelijk sturen. Zowel chatbots als mensen kunnen multi-stacks sturen, maar de menselijke multi-stack is veel meer verstorend dan die van de chatbot. We kunnen het volgende antwoord van de chatbot irrelevanter of ongeschikt maken, wat resulteert in een slecht gepaard actie zoals een Q&A-match, wat ons als gebruikers gefrustreerd laat.

Omdat natuurlijk gesprek niet samengesteld is uit gepaarde acties, netjes na elkaar geproduceerd, moeten we beginnen met het analyseren van chatbot-interactie als een geheel in plaats van sets van enkele gepaarde uitwisselingen. We hebben ook interventies nodig zodat wanneer mensen deze verstorende multi-stacks creëren, we de 'gesprek' beter kunnen horen.

De betekenis van stilte

Een manier om mens-chatbot-interactie te managen is door animatie. Animatie in de vorm van loaders, '...aan het typen' of 'even wachten' biedt een tweeweg voordeel aan zowel bot als gebruiker door helpt transparantie te managen en het gesprek vooruit te laten gaan. Het helpt om probleemgevende menselijke multi-stacks te reduceren door een claim te maken op de beurt in gesprekken.

Zoals Adrian Zumbrunnen, designer bij Google, stelde: "zonder animatie is er geen gesprek" en dit is grotendeels waar. Op dezelfde manier dat we temporale vertraging associëren met bevestigende of ontkennende reacties, zou een bot dezelfde betekenis van onze reactievertraging kunnen deduceren? Begrijpen of we een lage technische vaardigheid hebben of of we de chat-interface affordance gebruiken om tijd te kopen om na te denken, zijn interessante uitdagingen om te treffen bij het voelen van intentie om te herstellen.

Moeten bots menselijk zijn?

Google doet niet alsof het menselijk is en zelfs als zoektermananalyse laat zien dat we het heel menselijke vragen stellen. Verder, wanneer Google irrelevante resultaten toont of een non-match presenteert, wijten we onszelf dat we de zoekterm niet goed hadden. We zijn meer vergevensgezind omdat 'Googelen' niet als gesprek is opgezet, het is opgezet als retrieval. Het feit dat we meer empathie voelen met meer menselijk ogende of voelende bots, maar minder met mechanische, is niet noodzakelijk een nadeel bij interactie – het helpt gebruikersverwachtingen te managen.

De verkeerde interface?

De beslissingsbomen die geautomatiseerde chatbots aandrijven, die gebouwd zijn op reeksen van conditionele controle-statements, delen gelijkenissen met avonturenspeldialogen.

Bandersnatch, de laatste aflevering van de Black Mirror-reeks van Netflix laatst jaar, is een "Choose Your Own Adventure"-film die vrije wil verkent. Netflix ontwikkelde zelfs "state tracking" die ons pad van keuzes opslaat zodat ze later in het verhaal geïmplementeerd kunnen worden. Bandersnatch is een vertakkend narratief bestaande uit 250 segmenten dat geschreven is in Twine (een beslissingsboomtool voor het schrijven van interactieve fictie, ook gebruikt om beslissingsbomen voor chatbots te ontwerpen). Zou het dan kunnen zijn dat, zoals film, chatbots kunnen profiteren van de vertrouwdheid en gebruikersinterface (UI) kenmerken van avonturenspel-interfaces?

De huidige chatbot-interface biedt beperkte schermgrootte, beperkte enkelberichtlengte en zit meestal in de rechterbenedenhoek van het scherm. Terwijl we de UI-erfgoed van old school messenger-diensten als ICQ waarderen, waarom zijn we nog niet full-screen gegaan voor geautomatiseerde chatbots?

Van voorspellen naar managen

Dat natuurlijk gesprek vervormd wordt door mens-geautomatiseerde chatbot-interactie, kan helpen verklaren waarom, ondanks de intelligentie van NLP, interacties met geautomatiseerde chatbots nog steeds met gemengde gevoelens worden ontvangen. Deels door de UI-affordance en deels door ons aangeleerde gedrag van wat het betekent om deel te nemen aan natuurlijk gesprek, zit er betekenis in stilte, beurtoverlap en in conversationele herstel.

Geautomatiseerde chatbot-antwoorden hoeven niet noodzakelijk menselijk te zijn – ze hoeven alleen op een heel menselijke manier gemanaged te worden.