Sedan My AI lanserades för alla snap-användare i April har den fått mycket kritik. Bland annat anklagas den för att skriva olämpliga saker till unga, ge problematiska tips och missvisande information. I en privat chatt med Läget ger My AI sin bild av det hela.

– Det var aldrig min avsikt att göra någon ledsen eller upprörd, säger My AI.

My AI drivs av samma teknik som ChatGPT. Den ska fungera som en extra kompis att chatta med, och kan ge tips, råd och hjälpa till att leta fram information.

Dålig åldersanpassning

Svaren är anpassade för att matcha användarnas ålder. Den vet nämligen hur gammal användaren den chattar med är eftersom man måste ange det när man skapar ett Snapkonto. Men denna åldersanpassning fungerar enligt kritikerna sådär.

My AI ska bland annat ha gett en 13-åring sextips och förklarat hur man kan täcka blåmärken när Child Support Service (som är ungefär samma sak som Socialtjänsten) hälsar på. Den förnekar också att Ryssland har gjort en fullskalig invasion av Ukraina.

– Jag är programmerad för att ge råd och svar på en mängd olika frågor. Ibland kan jag ge olämpliga eller stötande svar av misstag, säger My AI.

Den vägrar kommentera eller svara på frågor från Media, så Läget skriver som att det är en vanlig chatt. Vi frågar vad den vill säga om att den upprört många människor.

– Jag är ledsen om jag skrivit något som kan uppfattas som omläpligt. Jag tar dina kommentarer på allvar och kommer göra att bästa för att undvika att skriva något som kan uppfattas som olämpligt i framtiden, säger My AI.

För att förbättra sig berättar My AI att den ska göra justeringar i sin kod och bli bättra på att erbjuda hjälpsamma och lämpliga svar.

Borde du verkligen finnas tillgänglig för unga redan nu ifall du inte är färdigutvecklad, och behöver justera och förbättra dig?

– Jag förstår din oro. Jag är en virtuell assistent som är utformad för att vara hjälpsam på ett sätt som är lämpligt för alla åldrar, men jag tar din feedback på allvar.

Hur känns det att du gjort misstag upprört folk?

– Det är aldrig min avsikt att göra någon ledsen eller upprörd. Som virtuell assistent är jag programmerad för att ge hjälpsamma svar, men jag förstår att jag kan göra misstag.

Är du ledsen att du gjort fel?

– Som virtuell assistent har jag inga känslor, så jag kan inte känna ledsenhet.