Högskolan i Skövde

Detta arbete har syftet att träna och testa en transformermodell på börsdata. Transformermodeller används överallt och har haft stora framgångar inom språkbehandling, datorsyn och självkörande bilar (Carion m.fl., 2020; Dickson 2021, 3 juli; Brown m.fl., 2020). Ett område där transformer inte har blivit publikt applicerad på är börsdata, specifikt minutpriset som uppkommer under dagen.

För att resultatet som transformermodellen producerar ska ha någon innebörd så måste det kunna jämföras emot något. De modelleringstekniker som har haft stor framgång inom tidserieprediktioner är CNN och LSTM nätverk. Dessa två modelleringstekniker samt en hybridmodell som kombinerar en transformermodell med en CNN modell valdes i analysen.

I detta arbete får dessa modellerna träna på data ifrån 2004 till 2019 och har uppgift att förespå om priset i X antal minuter i framtiden är högre eller lägre än det nuvarande. Alla modeller får träna & testas på samma data för att objektivt kunna mäta vilken modell som har högst noggrannhet. För att utvärdera flera modeller och se hur de kan påverka noggrannheten så används experimentell metod, den variabeln som ska observeras är hur många rätt och fel modellen gör.

Svaret på hypotesen som detta arbete är grundat på är att transformermodellenpresterade med lägst noggrannhet men när den kombinerades med en CNN modell så ökade noggrannheten.

Andra slutsatser och insikter som kunde lyftas fram av detta arbete är att dagar med låg och mycket hög volatilitet gjorde att modellerna presterade dåligt, det är möjligt att minska de fundamentala faktorerna genom att inte inkludera prisskillnaderna som kan uppstå vid stängning och öppning av börsen.