Ich habe jetzt die GGML Sachen aus dem Vorbau fuer XAIGPUARC Gestrichen, bzm umgeschrieben und zusaetzlich eine Praefixkultur integriert, damit die Dateien leichter Lesbar werden und ich dennoch meine visuellen Marker habe.
Das Prinzip, kann ich so auch auf andere Projekte uebertragen. "XBC" wuede der Praefix dann seltsamerweise, im Miningprogramm von XBTGPUARC heißen. Aber das ist halt so. Das war ja keine Absicht.
Obwohl... wer weis heute schon noch... was das Bedeutet?^^ DU???^^
"XAC"
ist der Praefix fuer die XAIGPUARC Sachen.
Was ich auch teilen kann, ist die Information, das ich freilich weiter an den Kernen arbeite und entsprechende Aenderungen auch da gleich mit vorgenommen habe.
Die Praefixe sind Eindeutig und auch Schnell Sichtbar, anfangs wollte ich sie Vermeiden damit ich so ne Art Balken vorm Gesicht habe beim Coden wo ich gerade drin bin und mit was ich arbeite.
Aber das hat leider nicht vollstaendig funktioniert, weil mir der Platz gefehlt hat um wenige Zeichen.
Ergo bekommt man eine Abkuerzung zu Lesen die sich im Sinne hoffentlich genug von anderen Programmen unterscheidet um nicht versehentlich verwechselt zu werden.
Salve
Alucian
xaigpuarc/ # ICPX DCP++ SYCL C++26 F16/F32-30B GGML INFERENZ SPACESHUTTLE+ MINIAI(VM)PC DE
│
├── README.md # Liesmich Datei Hauptprogramm
│
├XAIGPUARC.sh # Startprogramm nach Setup.sh
│
├── XAIGPUARC_setup.sh # Erstmalige Installation auf Nutzersystem
│
├── CMake-preset.json # Camke Vorbau Json Datei
│
├── CMakeLists.txt # Cmake Liste fuer Grundstruktur Vorbau System
│ # target_include_directories Einbidung configure_file(.in)
├── cmake/ # CMake Hauptverwaltung
│ │
│ ├── XAC_build_info.cpp.in # Speicherplatz fuer Bauinformationen
│ ├── XAC_version.cmake # XAIGPUARC VERSION CMAKE DATEI
│ ├── XAC.pc # PKG Konfigurations Metadaten
│ ├── XAC_Config.cmake.in # find package (XAIGPUARC)
│ ├── FindSYCL.cmake # Automatische SYCL Geraeteerkennung
│ ├── FindTBB.cmake # Threading Building Blocks fuer CPU
│ └── performance_flags.cmake # Optimierte ICPX + DCP++ Compiler Flags Intel Hardware
│
├── config/ # KONFIGURATIONSVERZEICHNIS
│ │
│ ├── prompt_templates.json # Tokennizer! Config Tokennisierungsautomatik
│ └── config.json # GERAETEZUWEISUNG + GGUF PFADE SOWIE SPIELWIESE SCHALTER!
│ # Profile: 6 automatisch Dual-i+dGPU->
│ # 1 Kurzsicht Flash Attention
│ # 2 Weitsicht Ring Attention
│ # 3 Scharfsicht Cross Attention
│ # 4 VM Mittlere KI Flash Attention
│ # 5 VM in VM HAUPTBLICK Attention (Spielewiese KI)
│ # 6 Automatischer Modus
│
├── media/ # MEDIEN DATEIEN VON XAIGPUARC
│ │
│ ├── XAC_WELCOME.png # XAIPGUARC WILLKOMMENSBANNER .PNG
│ ├── XAC_LOGO.png # XAIGPUARC LOGO .PNG
│ └── XAC_FINAL.png # BILDDATEI XAIGPUARC VORSCHAU BAUPLAN .PNG
│
├── models/ # GGML UND GGUF KI SPRACHMODELLE HIER REIN!
│ │
│ ├── EXAMPLE_F16.gguf # Beispielmodell hier einfuegen F16 Genauigkeit Standart!
│ └── EXAMPLE_F32.gguf # Beispielmodell hier einfuegen F32 Genauigkeit
│
├── modelparser # XAIGPUARC Modell Parser
│ │
│ ├── XAC.c # XC.c enable_language(C CXX etc.pp)
│ ├── XAC-alloc.c # XC-alloc.c
│ ├── XAC-impl.cpp # Internes XC Macro Struct Management
│ ├── XAC-sycl.cpp # Haupt SYCL Interface XC
│ └── XAC-sycl-f16.cpp # FP16 SYCL Hilfsfunktionen
│
├── ci # Build Pipeline BAULINIE
│ │
│ └── tmp # Temporaerdateien
│
├── tools/ # Werkzeuge und Benchmarkprogramme
│ │
│ ├── XAC_sycl_completion.cpp # Komplettierungen
│ ├── XAC_sycl_cvector_generator.cpp # Vector Generator
│ ├── XAC_sycl_fit_params.cpp # Pruefung Parameter Modell
│ ├── XAC_sycl_dual_gpu_split.cpp # XAIGPUARC split row Dual GPU Automatik
│ ├── XAC_sycl_imatrix.cpp # iMATRIX MULTIPLIKATIONSAUTOMAT
│ ├── XAC_sycl_perplexity.cpp # Qualitaetsmetrik Modell
│ └── XAC_sycl_profiler.cpp # SYCL Profiler Graph Vorbau aus Patch 12
│
├── docs/ # Dokumentation Architekturdiagramme
│ │
│ ├── XAC_architecture.md # Detaillierte Architektur mit Diagrammen
│ ├── XAC_api_reference.md # Vollstaendige API Dokumentation
│ └── examples/ # Praxisbeispiele alle Features
│ │
│ └── XAC_batch_inference.cpp # Inferenzpaketgroeßendemo
│
├── .gitignore # Auszuschließende Build Dateien CMake Artefakte
│
├── include/ # INCLUDE DATEI ZUWEISUNGSBEREICH
│ │ # include "xaigpuarc/runtime/XAIGPUARC_chat.h"
│ └── xaigpuarc/ # HAUPTORDNER VON XAIGPUARC
│ │
│ ├── server/ # Aussenkommunikationsschnittstelle
│ │ │
│ │ ├── XAC_server.h # Kopfzeilen fuer Aussenschnittstelle
│ │ ├── XAC_request_queue.h # Nutzerwarteschlange
│ │ └── XAC_server_config.h # Ports und Limitierungen, Nutzerident (spaeter)
│ │
│ ├── models/
│ │ │
│ │ ├── XAC_sycl_gcc16_t5.h # T5 Vorwärtsdeklaration Implementierung aus Patch 10
│ │ └── XAC_sycl_ssm_conv.h # ssm_conv Implementierung aus Patch 6 + 7
│ │
│ ├── modelparser # XAIGPUARC Modell Parser
│ │ │
│ │ ├── XAC.h # XC.h Kopfzeilen
│ │ ├── XAC-alloc.h # XC-alloc.h Kopfzeilen
│ │ ├── XAC-impl.h # Internes Macro Struct Management
│ │ ├── XAC-sycl.h # Haupt SYCL Interface XE Format
│ │ └── XAC-sycl-f16.h # FP16 SYCL Hilfsfunktionen
│ │
│ ├── common/ # Typdefinitionen Logger Config Parser
│ │ │
│ │ ├── XAC_sycl_tokenizer.h # Tokennizer! Tokennisierungsautomatik Kopzeilen
│ │ ├── XAC_sycl_tbb_executor.h # TTB KOPZEILENVERBINDUNG UNIFIED MEM VERBINDUNG DISPATCH
│ │ ├── XAC_sycl_types.h # Globale SYCL TYPEN FESTLEGEN
│ │ ├── XAC_exception.h # Erro Handling Klasse fuer asynchrone Exeptions
│ │ ├── XAC_build_info.h # Include Datei Kopfzeilen Bau Information
│ │ ├── XAC_preset.h # Voreinstellung Kopfzeilen
│ │ ├── XAC_adaptive_sampling.h # Dynamische Sampling Strategien
│ │ ├── XAC_sampling.h # Handhabung Kopzeilen
│ │ ├── XAC_unicode.h # Kopfzeilendatei fuer Code Gleichheit
│ │ ├── XAC_logger.h # Logger Kopfzeilen
│ │ ├── XAC_unified_memory_manager.h # USM SPEICHERVERWALTUNG
│ │ ├── XAC_config_parser.h # Kopfzeilen der Parsingautomatik
│ │ └── XAC_NGRAM/ # CACHEMAPPINGMODIFIKATIONSLOGIK KOPFZEILEN
│ │ │
│ │ ├── XAC_ngram_cache.h # CacheSpeicherungvsMappingStrukturvsModifikationslogik
│ │ ├── XAC_ngram_map.h
│ │ └── XAC_ngram_mod.h
│ │
│ ├── terminal/ # UI CLI ENDANWENDER Schnittstelle
│ │ │
│ │ ├── cli.h
│ │ └── XAC_console.h # Kopfzeilen fuer Konsoleneinstellungen
│ │
│ │
│ ├── runtime/ # XAIGPUARC Loader Tokenizer Sampler KVCache
│ │ │
│ │ ├── XAC_sycl_imatrix_loader.h # I MATRIX LADEAUTOMATENKOPFZEILEN
│ │ ├── XAC_sycl_chat.h # EVA EINGABE VERARBEITUNG AUSGABE KOPFZEILEN
│ │ ├── XAC_sycl_memory_pool.h # Kopfzeilen Speicherbereichfestlegungsautomatik
│ │ ├── XAC_sycl_kv_cache.h # Kontextspeicher KV Cache Kopfzeilen
│ │ └── XAC_sycl_sampler.h # Token Auswahl Token Sampling Kopfzeilen
│ │
│ ├── dispatch/ # SYCLGeraeteverwaltung + WorkloadRouter iGPU+/dGPU
│ │ │
│ │ ├── XAC_sycl_device_manager.h # SYCL GEREATEVERWALTUNG KOPFZEILEN
│ │ ├── XAC_sycl_graph_executer.h # Sycl Graph Executer fuer Dispatcher Kopfzeilen
│ │ ├── XAC_sycl_dispatch.h # SYCL DISPATCH KOPFZEILEN
│ │ │ # Host-to-Device Transfer Queue Gewichte streamen / Prompts hochladen
│ │ │ # Compute Queue XMX-Kerne für Matrix-Multiplikation
│ │ │ # Device to Host Transfer Queue
│ │ ├── XAC_sycl_m_gpu_scheduler.h # Multi GPU Load ROW SPLIT Balancing Kopfzeilen
│ │ └── XAC_sycl_cns_batching.h # Batching fuer hohen Durchsatz Kopfzeilen
│ │
│ ├── kernels/ # XAC SYCL DPC++ ICPX XMX Matrix Kerne Kopfzeilen
│ │ │
│ │ ├── XAC_sycl_encoder.h # Enkodierungsautomatikgrundlagen Kopfzeilen
│ │ ├── XAC_sycl_decoder.h # Dekodierungsautomatikgrundlagen Kopfzeilen
│ │ ├── XAC_sycl_flash_attention_scl.h # Flash Attention Skalar Standart CPU/GPU/iGPU + Fallback Kopfzeilen
│ │ ├── XAC_sycl_flash_attention_vec.h # Flash Attention Vektor Standart CPU/GPU/iGPU + Fallback Kopfzeilen
│ │ ├── XAC_sycl_xmx_matrix_ops_scl.h # Hardwarenahe XMX Implementierung Kopfzeilen
│ │ ├── XAC_sycl_xmx_matrix_ops_vec.h # Vectorvasierter Fallback Kopfzeilen
│ │ ├── XAC_sycl_ring_attention.h # Ring Attention fuer groeße Inhaltsfenster Kopfzeilen
│ │ ├── XAC_sycl_cross_attention.h # Cross Attention fuer ANALYSE KI Kopfzeilen
│ │ ├── XAC_sycl_mixed_precision.h # FP16+FP32 KERN Kopfzeilen
│ │ ├── XAC_sycl_tensor_pipeline.h # Tensor Pfade fuer bessere Auslastung Kopfzeilen
│ │ ├── XAC_sycl_fp16_kern.h # FP16 Unterstuetzung fuer neue GPUs Kopfzeilen
│ │ ├── XAC_sycl_fp32_kern.h # FP32 Unterstuetzung fuer neue GPUs Kopfzeilen
│ │ ├── XAC_sycl_int8_kern.h # int8 Unterstuetzung fuer neue GPUs Kopfzeilen
│ │
│ └── sandbox/ # Bruecke und Protokoll fuer MiniArchKI Spielwiese KPZL
│ │
│ ├── XAC_sycl_spielewiese_ki.h # Spielewiese MiniArchKI Kopfzeilen
│ ├── XAC_vm_miniarch_bridge.h # Autarkhandlungsverbindung XAIVM Befehlsausfuehrung KPZL
│ ├── XAC_vm_miniarch_computer.h # VM Computer innerhalb XAIGPUARC SPIELPLATZ AN KPZL
│ └── XAC_vm_miniarch_xaigpuarc.h # VM Version von XAIGPUARC (Miniaturversion)
│
├── src/ # Programmkernverwaltung
│ │
│ ├── main.cpp # Einstiegspunkt HAUPVERWALTUNGSEINHEIT
│ │
│ ├── server/ # Aussenkommunikationsschnittstelle
│ │ │
│ │ ├── XAC_server.cpp # Kopfzeilen fuer Aussenschnittstelle
│ │ ├── XAC_request_queue.cpp # Nutzerwarteschlange
│ │ └── XAC_server_config.cpp # Ports und Limitierungen, Nutzerident (spaeter)
│ │
│ ├── models/
│ │ │
│ │ ├── XAC_sycl_gcc16_t5.cpp # T5 Vorwärtsdeklaration Implementierung aus Patch 10
│ │ └── XAC_sycl_ssm_conv.cpp # ssm_conv Implementierung aus Patch 6+7
│ │
│ │
│ ├── common/ # UEBLICHE PROGRAMMFUNKTIONEN XAIGPUARC
│ │ │
│ │ ├── XAC_sycl_tokenizer.cpp # Tokennizer! Tokennisierungsautomatik
│ │ ├── XAC_build_info.cpp # BAUINFORMATIONSNIEDERSCHRIFTBESTIMMUNG
│ │ ├── XAC_preset.cpp # Voreinstellungen Hauptdatei
│ │ ├── XAC_adaptive_sampling.cpp # Adaptive Handhabung Hauptdatei
│ │ ├── XAC_sampling.cpp # Uebliche Handhabung Hauptdatei
│ │ ├── XAC_unicode.cpp # Wichtig fuer Code Gleichheit
│ │ ├── XAC_logger.cpp # System Event Logging Verwaltung
│ │ ├── XAC_unified_memory_manager.cpp # USM SPEICHERVERWALTUNG
│ │ │ # sycl::malloc_shared
│ │ │ # sycl::malloc_device
│ │ │ # sycl::malloc_host
│ │ ├── XAC_config_parser.cpp # Configuration der Parsingautomatik
│ │ └── XAC_NGRAM/ # CACHEMAPPINGMODIFIKATIONSLOGIK
│ │ │
│ │ ├── XAC_ngram_cache.cpp # CacheSpeicherungvsMappingStrukturvsMODLOGIK
│ │ ├── XAC_ngram_map.cpp # ZwischenSpeicherkartenverwaltung
│ │ └── XAC_ngram_mod.cpp # Zwischenspeichermodifizierungen
│ │
│ ├── terminal/ # Fenstereingeabe Fensterausgabe
│ │ │
│ │ ├── cli.cpp # Fensterverwaltung im Terminal
│ │ └── XAC_console.cpp # Consoleneinstellungen und Bedingungen
│ │
│ ├── runtime/ # Laufzeitumgebung
│ │ │
│ │ ├── XAC_sycl_imatrix_loader.cpp # I MATRIX LADEAUTOMATIK
│ │ ├── XAC_sycl_chat.cpp # EVA EINGABE VERARBEITUNG AUSGABE KONFIGURATION
│ │ ├── XAC_sycl_memory_pool.cpp # Speicherbereichfestlegungsautomatik
│ │ ├── XAC_sycl_kv_cache.cpp # Kontextspeicher KV Cache Gewichtespeicher
│ │ └── XAC_sycl_sampler.cpp # Token Auswahl Token Sampling
│ │
│ ├── dispatch/ # Dispatcher
│ │ │
│ │ ├── XAC_sycl_device_manager.cpp # Erkennt CPU+iGPU+dGPU
│ │ ├── XAC_sycl_graph_executer.cpp # Sycl Graph Executer fuer Dispatcher
│ │ ├── XAC_sycl_m_gpu_scheduler.cpp # MEHR GRAFIKBERECHNUNGSAUTOMAT
│ │ ├── XAC_sycl_cns_batching.cpp # DAUERHAFTE PAKETNEUORNUNG
│ │ └── XAC_sycl_dispatch.cpp # Routing Wurzeln der Layer Schichten Lasten
│ │
│ ├── kernels/ # Kerne Hauptalgorythmen Herzstueck
│ │ │
│ │ ├── XAC_sycl_encoder.cpp # Enkodierungsautomatikgrundlagen
│ │ ├── XAC_sycl_decoder.cpp # Dekodierungsautomatikgrundlagen
│ │ ├── XAC_sycl_flash_attention_scl.cpp # Flash Attention Skalar Standart CPU/GPU/iGPU + Fallback
│ │ ├── XAC_sycl_flash_attention_vec.cpp # Flash Attention Vektor Standart CPU/GPU/iGPU + Fallback
│ │ ├── XAC_sycl_xmx_matrix_ops_scl.cpp # Hardwarenahe XMX Implementierung
│ │ ├── XAC_sycl_xmx_matrix_ops_vec.cpp # Vectorvasierter XMX Fallback
│ │ ├── XAC_sycl_ring_attention.cpp # Ring Attention große Inhaltsfenster
│ │ ├── XAC_sycl_cross_attention.cpp # Cross Attention fuer ANALYSE KI
│ │ ├── XAC_sycl_mixed_precision.cpp # FP16 + FP32 KERN
│ │ ├── XAC_sycl_tensor_pipeline.cpp # Tensor Pfade bessere Auslastung
│ │ ├── XAC_sycl_fp16_kern.cpp # FP16 Unterstuetzung fuer neue GPUs
│ │ └── XAC_sycl_fp32_kern.cpp # FP32 Unterstuetzung fuer neue GPUs
│ │
│ └── sandbox/ # Freier KI Spielplatz autarker virtueller Computer Integration
│ │
│ ├── XAC_sycl_spielewiese_ki.cpp # Spielewiese MiniArchKI SPEZIALBAU
│ ├── XAC_vm_miniarch_bridge.cpp # Schaltbare Autarkhandlungsverbindung XAIVM Befehlsausfuehrung
│ ├── XAC_vm_miniarch_computer.cpp # VM Computer innerhalb XAIGPUARC SPIELPLATZ AN
│ └── XAC_vm_miniarch_xaigpuarc.cpp # VM XAIGPUARC Mini Version speziell fuer diese KI!!!
│
├── XAIGPUARC_Datei_Index.txt # GESAMTES DATEISYSTEM XAIGPUARC (DIESE DATEI!)
│
└── LICENSE.txt # XAIGPUARC LIZENZ
