Högskolan i Skövde

Användningen av artificiell intelligens (AI) i butiksmiljöer väcker frågor om hur sådana system bör utformas för att vara användbara, begripliga och pålitliga. Detta examensarbete undersöker huruvida de etablerade designriktlinjerna för människa-AI-interaktion (eng. Human-AI Interaction), föreslagna av Amershi et al. (2019), är tillämpbara i en butikskontext samt om det finns behov av anpassning. Studien genomförs i samarbete med Mio AB, ett företag som planerar att införa en AI-baserad chatbot för att stödja butikspersonal i det dagliga arbetet. Arbetet baseras på principer från User Experience Design (UX-design), människocentrerad AI (eng. Human-Centered AI, HCAI) och etiska riktlinjer för ansvarsfull teknikanvändning. Datainsamlingen omfattar sju semistrukturerade intervjuer med butikspersonal samt en kompletterande enkät. Det insamlade materialet har analyserats med tematisk analys. Resultaten visar att flera av de ursprungliga riktlinjerna är fortsatt relevanta, men att vissa behöver justeras för att bättre spegla butikspersonalens behov. Särskilda behov kopplade till förklarbarhet, tydlighet, tonalitet och upplevelsen av kontroll över data lyfts fram. Utifrån dessa resultat presenteras en anpassning av riktlinjerna samt ett designförslag för en AI-chatbot i butiksmiljö. Slutsatsen är att riktlinjerna från Amershi et al. (2019) utgör en användbar grund, men kräver vidareutveckling för att fungera effektivt i praktiken.

The use of artificial intelligence (AI) in retail environments raises questions about how such systems should be designed to be usable, understandable, and trustworthy. This thesis investigates whether the established design guidelines for human-AI interaction proposed by Amershi et al. (2019) are applicable in a retail context, and whether there is a need for adaptation. The study is conducted in collaboration with Mio AB, a company planning to implement an AI-based chatbot to support retail staff in their daily work. The work is based on principles from User Experience Design (UX-design), Human-Centered AI (HCAI), and ethical guidelines for responsible technology use. Data collection includes seven semi-structured interviews with retail employees and a complementary questionnaire. The collected data has been analyzed using thematic analysis. The results show that several of the original guidelines remain relevant, but some need to be adjusted to better reflect the needs of retail staff. Specific needs related to explainability, clarity, tone, and the sense of control over data were highlighted. Based on these findings, an adaptation of the guidelines and a design proposal for an AI chatbot in a retail setting are presented. The conclusion is that the guidelines proposed by Amershi et al. (2019) provide a useful foundation but require further development to function effectively in practice.