grupp: 41
namn1: Adam Hahne
namn2: Carl Josefsson
************************************************************
grupp 41  LAB2

Adam Hahne     8011056614
Carl Josefsson 7803264899

%%% Del I

Uppgift 1a
  
   BL: (10,10):  9 Iterationer (-2.2491,-3.06255)
       (5,5)  :  8 Iterationer (-2.24945,-3.06191)
       (-2,-3): 10 Iterationer (-2.24848,-3.06214)

   Newton: (10,10): 1 Iteration (-2.25,-3.0625)
           (5,5)  : 1 Iteration (-2.25,-3.0625)
           (-2,-3): 1 Iteration (-2.25,-3.0625)

Uppgift 1b

   Punkten är ett globalt minimum. Gradienten är noll i punkten (-2.25,-3.0625)
   och vi håller på med obegränsad optimering.

Uppgift 1c

   Newton konvergerar alltid i en iteration för kvadratiska funktioner.
   Den förbättrar funktionen genom att göra en kvadratisk approximation och är funktionen
   kvadratisk så är det klart, då behöver den bara ta ett steg.

Uppgift 2a

   BL:                  (-1.5,-1): Metoden har inte konvergerat efter 200 iterationer som är max.
   Newton-"steg=1"      (-1.5,-1): 5 Iterationer (1,1)
   Newton-"modifierade" (-1.5,-1): 13 Iterationer (1.00002,1.00003)
   Newton-"Marquardt"   (-1.5,-1): 13 Iterationer (1.00002,1.00003)

Uppgift 2b

   Funktionen är inte konvex. Eftersom dess Hessian inte är pos. semidefinit för alla x.
   
Uppgift 2c

   "Uppe på backen" i (0,3): "Brantaste lutning" den konvergerar inte på 200 steg
                             "steg=1"       den kommer inte därifrån-"Steglängden är lika med noll"
                             "modifierade" den kommer inte därifrån-"Steglängden är lika med noll"
                             "Marquardten" glider ner snyggt o hittar rätt på 8 steg

    (0,1/200)                "steg=1" Hessianen blir ickeinverterbar och metoden kommer ingenstans

Uppgift 3a

   Marquardt:   3 Iterationer (3,1)
   Steg 1   :   Får problem på samma sätt som ovan - Hessianen är linjärt beroende i (0,0)

Uppgift 3b
  
   2 Stycken. Den ena i (0,0), lokalt min, och den andra i (-3,-1). 
   Den andra hittas inte med dessa metoder. Men genom inspektion ser vi att (-3,-1) ser ut att vara 
   ett lokalt max. Det kan vi bekräfta genom att försöka använda BL startandes i den punkten och 
   vi ser att programmet inte kan välja någon riktning härifrån, (NaN,NaN).
   Marquardt metoden får samma svar och de båda andra Newtonmetoderna kan inte ta några steg.
   
   

%%% Del II

%% Uppgift 1

% X=fmincon('upg1f',[0;0],[],[],[],[],[],[],'upg1g')

% (a)
%     Xstar  =[0.625 ; 1.250]
%     Optimum=1.5625;
% (b)
% KKT-Villkoren uppfyllda?                         
% 
% (1) Primal feasibility: OK!
% (2) Complementarity:    Vi har ett lambda>=0 så att lambda'*g(Xstar)=0 
% (3) Dual feasibility:   gradienten för Lagrangfunktionen=0 för lambda=[0;0.125] 
% (4) Dual feasibility:   lambda>=0 och  Hessianen för Lagrangefunktionen är [4 -1;-1 2] och positivt definit
%                                                    
% Konvexitet hos problemet: 
%          Strikt Konvex funktion på en konvexmängd -> Konvext problem
%
% Alltså: problemet har ett globalt max i [0.625;1.250]

%% Uppgift 2

%X=fmincon('upg2f',[6;-2],[],[],[],[],[],[],'upg2g')

% X=[0;0]    No feasible solution found. Toleransen är uppfylld men inte bivillkoren
% X=[1;1]    Xstar=[3.4;1.2]  lamda blir < 0. Alltså KKT ej uppfyllda => Inget min.     
% X=[-1;-1]  Xstar=[-3;-2]    KKT uppfylda och Lagrangehessian pos def. Lokalt min.   
% X=[3.7;0]  Xstar=[3.6056;0] KKT uppfylda utom Lagrangehessianen som är neg def. Hittar ett lokalt max istället. 
% X=[-3.7;0] Xstar=[-3;-2]    KKT uppfylda och Lagrangehessian pos def. Lokalt min.
% 
% Xstar[-3,-2] Globalt min genom att studera villkors mängden.
     
%% Del III
%
%  problem 2
%  EPA går mot (sqrt(79)/4+1,3/4) eller (sin(3/4),3/4) eller (1/3,sqrt(41)/3+1)
%  beroende på hur mycket vi ökar straffparametern i varje iteration. 
%  IPA går mot (sqrt(79)/4+1,3/4)
%
%  problem 3
%  EPA går mot (5/sqrt(2),-5/sqrt(2))
%  IPA går mot (-5/sqrt(2),5/sqrt(2))

%  problem 2
%  (sqrt(79)/4+1,3/4) ger målfunktionsvärdet 0.2523 lokalt optima
%  (sin(3/4),3/4)     ger målfunktionsvärdet 0.904  lokalt optima
%  (1/3,sqrt(41)/3+1) ger målfunktionsvärdet 0.1317  globalt optima
%
%  problem 3
%  (5/sqrt(2),-5/sqrt(2)) ger målfunktionsvärdet -12.5 globalt optima
%  (-5/sqrt(2),5/sqrt(2)) ger målfunktionsvärdet -12.5 globalt optima
%
%