Högskolan i Skövde

Multi-objective optimization involves the simultaneous optimization of several objective functions. In real-world problems, these objectives are often in conflict, giving rise to trade-offs in the optimal solutions from the optimization process. All these solutions are equally viable, with no single solution being better or worse than the others. Typically, decision makers have certain preferences that guide the selection of a final solution for practical implementation. While most multi-criteria decision analysis methods focus on the performance of solutions in the objective space, it is important to note that practically relevant knowledge is often found in the design space. Access to this knowledge can provide decision makers with meaningful insights into the problem and the optimization process, leading to more informed decision-making.

This thesis develops and employs methods for knowledge discovery in the context of multi-objective optimization. By emphasizing explicit knowledge representations, this thesis investigates how extracted knowledge can be processed and presented to decision-makers in an interactive manner for insightful decision support. This thesis also explores how extracted knowledge from preferred solutions can be integrated into the algorithms or the multi-objective optimization problem itself, to improve the convergence behavior of optimization algorithms. This approach, called Knowledge-Driven Optimization (KDO), can be implemented either offline or online. Offline KDO involves incorporating knowledge obtained from previous optimization runs into future problem scenarios of a similar nature, restricting the search process to preferred regions of the objective space. A main challenge with such approaches is the storage and retrieval of relevant past knowledge, as well as modifications to the optimization problem formulation. In contrast, online KDO involves integrating knowledge discovery methods with optimization algorithms and utilizing the knowledge obtained during their runtime to enhance the search process, driving algorithms towards better convergence in preferred regions of the objective space. This approach necessitates the development of new search operators capable of incorporating and exploiting various forms of knowledge.

In both offline and online KDO, the veracity and accuracy of the extracted knowledge are critical factors. The thesis validates the effectiveness of the developed methods using various benchmark and engineering optimization test problems, and use-cases from the manufacturing industry. A particular focus is given to generating explicit knowledge that is both meaningful to human decision makers, and can easily be processed algorithmically. The main contributions of this thesis are methods for discovering relevant knowledge about the convergence characteristics of problems, a decision support system for interactive knowledge discovery, and algorithms for realizing both offline and online KDO by incorporating knowledge into the optimization process.

Flermålsoptimering hanterar samtidig optimering av flera målfunktioner, vilka i praktiska optimeringsproblem ofta är i konflikt, vilket ger upphov till avvägningar i de optimala lösningarna från optimeringsprocessen. Alla dessa lösningar är lika värdefulla, och ingen lösning är bättre eller sämre än någon annan. Typiskt sett har beslutsfattare också preferenser som styr valet av en slutlig lösning att implementera i praktiken. De flesta metoder för analys av flera kriterier fokuserar på prestandan hos en uppsättning lösningar i målrymden, det är dock viktigt att notera att praktiskt relevant kunskap ofta finns i designrymden till lösningarna. Tillgång till denna kunskap kan ge beslutsfattare betydelsefulla insikter till både problemet och optimeringsprocessen, vilket leder till mer informerat beslutstagande.

Denna avhandling utvecklar och använder metoder för kunskapsutvinning i sammanhanget av flermålsoptimering. Genom ett särskilt fokus på explicit kunskap, undersöker denna avhandling hur utvunnen kunskap kan bearbetas och presenteras för beslutsfattare på ett interaktivt sätt för förbättrat beslutsstöd. Det undersöks också hur utvunnen kunskap från tidigare lösningar kan integreras i algoritmer för flermålsoptimerings eller direkt i optimeringsproblem för att avlasta beräkning av nya lösningar i optimeringsprocessen. Sådana metoder, kallade kunskapsdriven optimering (KDO), kan implementeras antingen offline eller online. Offline KDO innebär att integrera kunskap som erhållits från tidigare optimeringar, i framtida, liknande problem, vilket avlastar sökprocessen till preferensrika regioner i målrymden. En huvudsaklig utmaning med offline KDO är lagring och återhämtning av relevant tidigare kunskap, samt modifieringar av formuleringar till optimeringsproblem. I kontrast innefattar online KDO att integrera metoder för kunskapsutvinning tillsammans med optimeringsalgoritmer, och att utnyttja den resulterande kunskapen under optimeringen, för att förbättra sökprocessen och driva algoritmerna mot snabbare ankomst i preferensrika regioner i målrymden. Sådana metoder kräver utveckling av nya sökoperatorer kapabla att integrera och utnyttja olika former av utvunnen kunskap.

I både offline och online KDO är det viktigt att den integrerade kunskapen beskriver beslutfattarens preferenser noggrant. Denna avhandling validerar effektiviteten hos de utvecklade metoderna med hjälp av olika benchmark-optimeringsproblem, praktiska tekniska testproblem och fallstudier från tillverkningsindustrin. Ett särskilt fokus har lagts på utvinning av explicit kunskap som både är meningsfull för beslutsfattare och som enkelt kan bearbetas algoritmiskt. Denna avhandlings huvudsakliga bidrag består av metoder för utvinning av relevant kunskap om sökbeteendet för problem, ett beslutstödssystem för interaktiv kunskapsutvinning, samt algoritmer för att förverkliga både offline och online KDO genom att integrera kunskap i optimeringsprocessen.