Hur kommer det sig att BLAS är optimerat?

Det är detta jag försöker åstadkomma.
Hur långt kommer man med att optimera C kod från 70 och 80 talet och ändå behålla portabiliteten.

Nej du. Detta blev segt. Tuggar fortfarande på...
Ändrar från O2 till Ox

- Enable Enchaced Instruction Set gjorde det sämre. Fick 360 sekunder istället för 250 sekunder.
- Ökad hastighet på floating point model gjorde så att programmet slutade aldrig slutföra sina beräkningar. Troligtvis fastnat i en loop
- När jag valde att optimera /GL hela programmet fick jag 341 sekunder.
- När jag hade Enable Instrinsic Functions till Yes så tog programmet 288 sekunder.

Nu har jag bara Ox och "neither" när optimeringen frågar om storlek eller hastighet. Då fick jag åter igen 288 sekunder.

Så bästa är Ox och Speed. Den ger runt 240 sekunder då för det jag ska göra.

Tror ni att om jag använder OpenBlas istället för Clapack, så kommer det vara en mer optimerad kod? Eller kommer jag få exakt samma resultat?
https://netlib.org/clapack/

Denna LAPACK-version använder jag. Uppdaterad sedan 2009.

När jag anropar mitt LAPACK så använder jag funktioner som slutar på _
Till exempelvis.

sgesdd_("S", &m, &n, Acopy, &lda, S, u, &ldu, V, &ldvt, &wkopt, &lwork, iwork, &info);

Nu när jag ser koden i OpenBlas, så är det helt andra namn, olika argument, andra datatyper osv. Så det kommer bli lika mycket jobb som att implementera OpenBlas, som jag implementerade CLapack.

Jag har som mål att kopiera över lapack-filer över till mitt projekt, där min kompilator bygger filerna. Då slipper jag länka.

Clapack är endast C kod. Inge fortran.
I clapack ingår det blas.

Men jag vet inte hur mycket jag vinner på att testa openblas. Mitt GNU Octave gjorde samma resultat som mitt c program.
Octave använder openblas.

Okej.

Jag behöver tydligen ett snabbare bibliotek än Clapack. Clapack må vara portabelt, men det är supersegt för matrismultiplikation. Alltså verkligen onödigt segt. Jag förstår varför, men jag vet inte hur OpenBlas har löst detta.

Så jag skulle behöva lite tips hur jag får till ett superoptimerat bibliotek för matrisalgebra.

Nu har jag installerat MKL. Den hade tydligen stöd för integrering i visual studio community. Kul!

Det har den, men när jag ska köra

cblas_sgemm(CblasRowMajor, CblasNoTrans, CblasNoTrans, row_a, column_b, column_a, 1.0f, A, row_a, B, column_b, 0.0f, C, row_a);

Så får jag ett fel.

Unhandled exception at 0x00007FFDC58E4C3C (KernelBase.dll) in test.exe: 0xC06D007E: Module not found (parameters: 0x000000C52D13E710).

Nej, det gjorde den inte. Ska lägga till den då. Vad är det man ska lägga till då?
Är det "C:\Program Files (x86)\Intel\oneAPI\mkl\latest\bin\intel64" ?

Det fungerade inte när jag lade till dessa i miljövariabler.

' test.exe' (Win32): Loaded 'C:\Users\ddd\GitHub\test\x64\Debug\ test.exe'. Symbols loaded.
' test.exe' (Win32): Loaded 'C:\Windows\System32\ntdll.dll'. 
' test.exe' (Win32): Loaded 'C:\Windows\System32\kernel32.dll'. 
' test.exe' (Win32): Loaded 'C:\Windows\System32\KernelBase.dll'. 
' test.exe' (Win32): Loaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\mkl_intel_thread.2.dll'. Module was built without symbols.
' test.exe' (Win32): Loaded 'C:\Windows\System32\vcruntime140d.dll'. 
' test.exe' (Win32): Loaded 'C:\Windows\System32\ucrtbased.dll'. 
The thread 0x6884 has exited with code 0 (0x0).
' test.exe' (Win32): Loaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\mkl_core.2.dll'. Module was built without symbols.
' test.exe' (Win32): Loaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\libimalloc.dll'. Module was built without symbols.
' test.exe' (Win32): Unloaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\libimalloc.dll'
' test.exe' (Win32): Loaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\libimalloc.dll'. Module was built without symbols.
' test.exe' (Win32): Unloaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\libimalloc.dll'
' test.exe' (Win32): Loaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\mkl_avx512.2.dll'. Module was built without symbols.
' test.exe' (Win32): Loaded 'C:\Program Files (x86)\Intel\oneAPI\mkl\2023.2.0\redist\intel64\mkl_vml_avx512.2.dll'. Module was built without symbols.
Exception thrown at 0x00007FFDC58E4C3C (KernelBase.dll) in  test.exe: 0xC06D007E: Module not found (parameters: 0x0000001F61AFEA70).
Unhandled exception at 0x00007FFDC58E4C3C (KernelBase.dll) in  test.exe: 0xC06D007E: Module not found (parameters: 0x0000001F61AFEA70).

Japp. Samma sak.

Ja, det gör jag.

Det fungerar att beräkna för dom övriga cblas rutiner.
Dock inte denna. Är det någon som ser vad jag gör för fel?

 * C = alpha*A*B + beta*C
 * A [row_a*column_a]
 * B [column_a*column_b]
 * C [row_a*column_b]
int m = row_a;
int n = column_b;
int k = column_a;
float alpha = 1.0f;
int lda = k;
int ldb = n;
float beta = 0.0f;
int ldc = n;
cblas_sgemm(CblasRowMajor, CblasNoTrans, CblasNoTrans, m, n, k, alpha, A, lda, B, ldb, beta, C, ldc);

Den fungerar inte

Ja, samma fel.
Är är mer information om felet.

Filen mkl_intel_thread.2.dll finns.

Nu fungerar det. Ändrade från parallell till seq.

Jävlar! Vilka framsteg! Nu blev det snabbt!