Robert Folkesson håller sessionen “Chatbots That Play Nice: Lessons in Building a Safe, Smart LLM Assistant.” på Uppsala Tech Meetup i samarbete med Aurora Innovation.

Att bygga en publikt tillgänglig chatbot baserad på Large Language Models (LLM:er) innebär en rad unika utmaningar – bland annat att säkerställa att svaren är korrekta, välgrundade och i linje med etiska riktlinjer och affärsregler.

I den här sessionen går vi igenom hur vi använde Azure OpenAI för att skapa en kund-chatbot som ”beeter sig korrekt” – med hänsyn till aspekter som EU:s AI-förordning (AI Act) och verksamheter med högt ställda regulatoriska krav.

Några centrala punkter:

– Att grunda svar med förtroende: hur vi använde externa datakällor, innehållsmoderering och prompt-design för att säkerställa att chatboten konsekvent levererar korrekta och välgrundade svar.

– Att förebygga skadliga interaktioner: tekniker för att minska risken att chatboten engagerar sig i olämpliga eller skadliga konversationer, inklusive etiska överväganden.

– Arkitektoniska val och Azure-tjänster: vilka beslut och tjänster vi använde för att skapa en skalbar och robust chatbot-lösning.

– Erfarenheter från verklig användning.

Läs mer om eventet och anmäl dig här.